Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Ovatko Venäjälläkin asiat noin pahasti päin persautsta! Noh, Saatana elää ja viihtyy jokapuolella maailmaa, sillä onhan se sen ”takapihaa” ollut iät ja ajat.
Siitä on ainakin toista kuukautta kun näin tämän LiveLeakiin tai sitten sellaiseen ”hornankattilaan” kuin http://www.kaotic.com, jossa on nähtävissä etelä-amerikkalaista ”monikulttuurisuutta” ja huumerikollisuuden aikaansaamaa veristä ja äärimmäisen raakaa kuvamateriaalia. En suosittele sitä kunniallisille kansalaisille eikä heikkohermoisille. Itsekin (tietenkin) eksyin sinne aivan sattumalta. Sivusto sisältää aikuistuotantoa ja muuta vähemmän ”korkea mielistä ajankuvaa” tästä kammottavasta ja synnissä rypevästä maailmasta, jossa on ”kulmakuntia”, jossa ihmiselämä ei ole minkään arvoinen ja jossa armo ja anteeksianto on tuiki tuntematon käsite.
Videossa rusikoidaan tunnottoman rikollisen toimesta vanhusta toden teolla ja surkoomata niin, että paatuneimmankin kyynikon mieltä kylmää ja kääntää vatsan ympäri niin, että melkeinpä unohtaa oman primitiivireaktion puuskan pintaan nousun.
Tyypilliseen tapaan ”kunniaton paskiainen” meni ITSE tekemään rikosilmoituksen kun OMASTA nenusta tuli vähän VERTA poliisille, joka TIETYSTI teki vain VELVOLLISUUTENSA ja sakotti tätä alkukantaista venäläistä, joka osoitti inhimillisyyden merkkejä nähdessään jotain niin kuvottavaa kuin näki. Sillä tuntematta mitään ryssävihaa tai Putinin ruplasalkkuja omistamattomana, että Venäjän / Neuvostoliiton / Venäjän verinen ja kova historia on koulinut venäläisistä karkeita ja kykeneviä ”lyhyeltä lentokentältä” suoraan väkivaltaan ilman votkaa ja varsinkin sen voimalla. Venäläinen huumori on karkeaa ja joskus jopa sydämetöntä kohteelleen, mutta aina kaiken takana on aito slaavi suurella sydämellä, joka ei jätä kaveriaan, mutta jo seuraavassa hetkessä potkaisee tätä persauksille ja nauraa räkäisesti päälle.
Mikä parasta suomalaisen ”Venäjä videoiden” loppumattomalle hyväntuulisuudelle törmäilylle ja ”hevostelulle” on se, että vielä nyky Venäjällä on jotain sellaista, mikä on jo auttamattamattomasti jo Suomesta kuollut eli ne ihmispersoonat ja tyypit, jotka ovat kuin suoraan vitsihuumori -ohjelmista vedettyjä hahmoja, mutta nämä tosi-TV -hahmot tuovat sikäläiseen joskus kovaan ja harmaaseen elämämään jotain sellaista, jonka voimalla votkan ohella tuossa hyytävässä maassa elämää eletään.
Se, että venäläiset ovat karkeita ja väkivaltaan taipuvia pelastaa heidät siltä, minkä kanssa Eurooppa ja sen yksin jätetyt kansalaiset joutuvat painimaan parasta aikaa. Täällä suomalaisen nenä painetaan muslimin paskaan, mutta sitä ei pääse Venäjällä tapahtumaan, sillä yksikään muslimi ei elä edes niin kauaan, että ehtii paskat vääntämään.
Kurkkasin linkkaamasi sivuston etusivua. Sen verran sairaan näköistä että oli pakko lopettaa tutkailu siihen, mutta kuten sanoit monikulttuurisuutta oli. Sen syvintä olemusta.
Haiskahtaa siltä että Hellsingin käräjäoikeus on konsultoinut kyseistä tuomio istuinta, vai hä??
Väärin pelastettu?
Venäjällä potkii vain OMON!