Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Jokohan rottaämpäri on sidottu tiukasti vatsaa vasten? Vai odotteleeko pimeässä milloin seuraava vesipisara läjähtää päälaelle?
Ihmettelen suuresti miksi vitussa länsi aloitti koskaan kaupan käynnin kommari Kiinan kanssa. Lisäksi idiootti vihreiden ilmastonmuutos pieruverojen länsimaiden teollisuus on viety kinkkilään koska siellä annetaan piut paut maaperän, vesien ja ilmakehän saastuttamisesta ( juhla puheet erikseen) ja vihervasemmiston toitottamia ihmisoikeuksia ei tunneta, mutta sehän on vihervasemmiston mielestä ok. Koska Kiina on kommari valtio niin Kiinan saastuttaminen on parempaa saastuttamista ja ihmisten kiduttaminen parempaa kiduttamista. Niinpä vihreiden mielestä suomalaisten sähköveroa on taas korotettava.
Olisi aihetta pidättää enemmänkin porukkaa Interpolilta.
Interpol vaikuttaa kyllä todelliselta hämärälaitokselta. Iljankin kaksi Interpol agenttia pidätti Andorrassa, vaikka Interpol ei saisi edes hoitaa pidätyksiä, ne tekee aina paikallinen poliisi. Ja Interpol teki tämän muilutuksen vielä kesken Iljan presidentinvaalikampanjan.
Interpol oli antanut Iljasta etsintäkuulutukset ”rikoksista ihmisyyttä vastaan” vaikka Ilja ei ole koskaan ollut epäiltynä taikka syytettynä sellaista. Ihan keksitty juttu.
Turkkissa sattunut samantyyliä tapauksia:
https://yle.fi/uutiset/3-9811224
Interpolin Suomen kansallisena keskuksena toimii Keskusrikospoliisi.
Interpolin sivuilta:
Does INTERPOL send agents around the world to arrest people?
No, the INTERPOL General Secretariat does not sesnd officers into countries to arrest individuals. All investigations and arrests in each INTERPOL member country are carried out by the national police in accordance with national laws
https://www.interpol.int/FAQs
Mies voi olla rikollinen mätämuna, mutta on myös mahdollista se, että ”korruptiona” tutkitaan Kiinan politiikkaa tai johtajia arvostelevien mielipiteiden levittämistä tai pyrkimystä helpottaa vainottujen toisinajattelijoiden asemaa. Kiina on vajoamassa totaalihelvetin tasolle ja mikä parasta, isot voimat ovat tuottamassa sikäläistä hallintomallia myös länteen. Meidänkin viranomaiset ovat kiimassa, kun heille mm. EU-lainsäädännön varjolla tuotetaan jatkuvasti lisää teknisiä tai lakiin perustuvia valmiuksia kytätä ja kontrolloida kansalaisia.
Onhan se selvää, että jos ulkomaailmasta jotain saadaan vatsanpurutkin mukaanluettuna, se tulee tilittää lyhentämättömän Kiinan kommunistiselle puolueelle. Sitä paitsi silloin tällöin ”ison kalan” haavitseminen tekee hyvää kommunistisen puolueen imagolle hallinto alaisiin nähden. Kyse saattaa olla täysin poliittinen ajojahti sikäli, että kyseinen jamppa on joutunut vain poliittiseen epäsuosioon Kiinan hallituksen silmissä tai joku toinen virkaintoinen pyrkyri on työtä hartiavoimin tehtyään uraansa urjentanut niin, että miestä vaihdetaan mäessä ja tämä nykyinen menee armeijan harjoitusammunta maaliksi. Länsimaissa yleensä korruptio syytökset pitävät paikkansa ja ovat relevantteja, mutta kommunistisissa maissa useinmiten on kyseessä nk. ”luottamuksen” menettäminen tai yksinkertaisesti se, että kusi on noussut päähän ja kyseinen pikku keisari luulee olevansa suurempi herra kuin on. Tätä ei kollektiivissä hyvällä katsota, sillä kukaan ei saa olla toista parempi, eikä ainakaan sellainen, joka on menettänyt henkilökohtaisen ymmärryksensä kumartaa tarpeeksi syvään puoluehierargiassa ylemmilleen. Lisäksi Kiinan tapaisessa kommunistimaassa, joka tosin harjoittaa jonkintason markkinataloutta pelätään kuoliaiksi ulkomailla ja ulkomaalaisten kanssa tekemisissä olevalla korkealla hallituksen jäsenellä kenties jotain vispiläkauppaa länsimaalaisten valtioden sekä sikäläisten turvallisuuspalveluiden kanssa. Erityisesti tämä jakomielitautinen piirre nousi huippuunsa Stalinin Neuvostoliitossa, jossa kaikki kommunistisen puolueen korkeat virkaa pitävät johtomiehet epäilivät sairaalloisesti toisiaan ja pelkäsivät kuollakseen Stalinin kulloisiakin mielenliikkeitä ja yrittävät lukea hirmuhallitsijan jokaisesta eleestä merkkejä siitä onko vielä ukon suosiossa vai alkaako ”tähti laskea”, joka merkitsi samaan kuin oikeankin tähden lopullinen kuolema sen elinkaaren täyttyessä. Ja ne, jotka olivat tekemisissä Stalinin tarkan valvonnan alla ulkovaltojen kanssa tekemisissä virkansa puolesta, saivat varoa jokaista sanaansa ettei sitä katsottaisi ”oman linjan” vetämiseksi tai Josif Stalinin antamien reunaehtojen ylittämiseksi. Tavallisesti tosin varsinkin sota-aikana Stalin hoiti luonnollisesti itse valtion johtajana ulkovaltojen poliitikkojen kanssa ja varsinkin oli tunnettu piin kovana neuvottelijana ja väsymättömänä tinkijänä.