Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Sarjassamme kantaväestölle tuli vihdoinkin mitta täyteen. Sama touhu on edessä jokapuolella minne muslimeiden mukana tulee islam. Alkuun kaikki menee hädänalaisten auttamisena ym. mutta kuten tässäkin, kun määrä kasvaa niin ongelmat paisuivat sietämättömiksi, n. 50 vuotta tulijavirtaa riitti. Toki Burman alueella on asunut muslimeja yli 200 vuotta mutta heillä ei ollut suurta no-go zonea joka ilmaantui Rakhinen alueelle 2000 luvun alussa. Ensimmäiset suuret yhteenotot olivat vuonna 2008. Seuraava kahakointi 2012 jolloin olin itse tuolla mutta osavaltion rajoilla kerrottiin ettei sinne ole turisteilla asiaa. Oman valtion perustaminen ja aseistetut joukot eivät taida kuulua ihmisoikeuksiin toisen valtion alueella ? Mutta miten asia kerrotaan valtamediassa YK:n evästämänä ? Muuten jätkä videolla ei puhu Burmalaisittain vaan törppökin kuulee Intialaisperäisen klangin eli Bangladeshin poika saarnaa ihmisoikeuksista. http://www.abc.net.au/news/2017-08-28/rohingya-militant-group-warns-of-war-against-myanmar/8850406
Ei mikään ”etninen puhdistus” vaan puhdas pakko. Jos muslimien määrän olisi antanut kasvaa suuremmaksi niin käy sama ilmiö mikä on nähty kymmenissä maissa -ne alkavat isänniksi.
-Myanmar toimii täysin oikein poistaessaan ongelmat alueeltaan. Arvostelijat pitäkööt turpansa tukossa kun eivät ole joutuneet ”yhteiselosta” musujen kanssa kärsimään. Maassa maan tavalla tai maasta pois -kaikille kansanryhmille tämä perussääntö ei tunnu ikinä mahtuvan ymmärrykseen.
Suomen media tuuttaa tästäKIN tapauksesta aivan käsittämätöntä paskaa muslimi kiimassaan. En voi käsittää mistä moinen rakkaus näihin loisijoihin oikein kumpuaa?
Mitähän siitäkin tulee kun kaksi köyhää alkavat tappelemaan. Voi olla kamppeet sen jälkeen vain paremmassa kunnossa.
Vai ovat suomalian valtamedian totuuskomission totuuden torvet paskoneet sitä muslimi rakkautta, jota se aina suoltaa päivästä toiseen. Varmaan odotetaan innolla, että koko päänkatkoja -lössi saataisiin imuroitua tänne. Kyllä se ”kauhun tasapaino” oli parasta aikaa maailmassa. Mitä triljoona kertaa maapallon tuhoavat ydinaseet ovat muslimi saastan rinnalla, joiden karvaperseeiden nuolentaa täytyy seurata joka päivä. Jos ei suorasti, niin epäsuorasti.
Itse en seuraa YLE:n, MTV3:n -jutku -kanavan sekä suvakki -paperimedian tuotantoa lainkaan terveydellisistä syistä. Eikä niiden seuraamisesta tulisikaan suvakkia hurskaammaksi.
Vaihtoehto-medioista ja ulkomaalaisista anti-suvakki -medioista saa paljon totuuden mukaisempaa tietoa, jolla voi suojella itseään ja läheisiään edes sillä, että tietää ”myrkkykäärmeen” olevan myrkkykäärme, eikä vaarattoman kastemadon. Edesvastuutonta kusettaa ihmisiä väärällä informaatiolla asettaen heidät näin suoraan terveyden ja hengen vaaraan. Miksi edes varoitetaan heikoista jäistä. Sillä onhan niin, että kaiken ”laatuinen” jää on yhtä arvokasta. Eli kaikki jää on ideoligisesti propakoituna ”teräsjäätä”, vaikka se todellisuudessa on jääsohjoa, joka kantaa korkeintaan Koskikaran, jos sitäkään.