Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Henkilökohtaisesti en ymmärrä että miksi Boriksen pitäisi tehdä yhtään mitään muuta kuin ilmoittaa EU:lle että ”Nyt erotaan”.
Sopimukseton Brexit tarkoittaa sitä että Iso-Britania eroaa niin ettei se ota vastuita EU:n nykyisistä veloista tai vastuista. Se jättää yksipuolisesti EU:n. Ja sen jälkeen se jää käymään kauppaa ETA-sopimuksella. Joka on yhä edelleen voimassa kuten ennenkin. Ja jolla mm. Suomi voisi erotessaan käydä kauppaa EU-maiden kanssa niinkuin nytkin.
Ihmettelen mitä ihmettä britit ovat juoneet aamulla kun ne on niin sekaisin että ne koittaa sorvat EU:n kanssa jonkinlaisen sopimuksen jossa ne joutuvat maksamaan 150 miljardia euroa EU:lle erosta. Nythän ne voittaisi tuon summan heti puhtaana käteen.
Toisaala, kuningatar määrää tuossa maassa. Joten, jos se suuttuu niin se käskee ja muut on hiljaa. Iso-Britania kun ei ole demkratia vaan monarkki.
Globalstit ”pörräävät” aivan samallalailla Ison-Britannian ympärillä kuin kärpäset tuoreen lehmän läjän.
Ei niinkään Iso-Britannia haraa vastaan, vaan EU, koska se pelkää kuollakseen ketjureaktiota, jos ”avioero” tehdään ”sovinnolla” ja ”aikuismaisesti”.
Saarivaltio päinvastoin hyötyy erittäin paljon erosta, vaikka jäsenyyden kannattajat epärehellisiä keinoja käyttäen pelottelevat eron merkitsevän samaa kuin maailmanlaidalta putoamista. Kaikki kerrotut ja kuvaillut uhkakuvat ovat vain ja ainoastaan pelkkää silmänlumetta ja valheita täynnä olevaa vääristelyä. Eli aivan sitä samaa kuten se pajunköysi jota Suomen kansalle syötettiin v. 1994 EU-jäsenyyskansanäänestyksessä kaikesta siitä mittaamattomasta auvosta, joka koituu EU-jäsenyyden myötä pienten kivienkin muuttuessa kultahipuiksi.
Niin, Briteissä tuota Eu jäsenyyttä on puolusteltu pääosin samoilla argumenteilla joilla sitä yritettiin taivutella Euroonkin, onneksi eivät uskoneet ja ottaneet yhteisvaluuttaa…
Tulee vähän sellainen vaikutelma koko BREXIT-rumbasta, että onko kyseessä jättimäinen psyop, jolla tyytymättömille EU-kansalaisille halutaan viedä perille, kuinka EU:sta on a) harvinaisen vaikeaa ja b) peräti mahdotonta erota. Jos edes yritättekään seuraa kauhea vääntö ja maa luisuu jopa sisällissodan partaalle,
Britanniassakaan ei kunnioiteta kansan vaaleissa osoittamaa tahtoa. Demokratia on kadonnut helvettiin joka ikisestä Euroopan maasta. Käskyt tulevat politiikan yläpuolelta kasaari-pankkiireilta. Jos lahjonta ei ole toiminut Brexitiä vastustavat hyypiöt ovat tietenkin käytetty Epsteinin saarella raiskaamassa, kiduttamassa ja tappamassa lapsia satanistisissa rituaaleissa jotka on videoitu. Sama meininki koskee suomalaista poliittista ja taloudellista eliittiä.