Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Erittäin tervettä toimintaa.
Joensuuhunkin lentää 2 vuoden aikana 300 onnekasta lottovoittajaa.
Jotenkin alkaa tämmöisen nettoveronmaksajan silmissä siintää ajatus muutto pois Suomesta johonkin noista maista, jotka välittävät kansalaisistaan. Ennen asian kypsymistä lähtöpäätökseen, voisin tukea noiden maiden taloutta turismilla.
Uskon vahvasti, että tulevaisuudessa, kun pommit paukkuvat ja veitset välkkyvät löyhäpäistä politiikkaa harjoittaneiden maiden kaduilla, on ainoa paikka Euroopassa, jossa voi huoletta kävellä kadulla, nimenomaan nämä otsikossa mainitut, kansalaisiaan raivokkaasti puolustavat maat.
Mutta ei koko Eurooppa mahdu noihin maihin turvaan; EU-Titanicissa ei ole riittävästi pelastusveneitä.
Itä-euroopan maiden päätöksiä on helppo ymmärtää. Ne ovat vähän aikaa sitten päässeet eroon yhdestä orjuuttajasta ja ovat päässeet rakentamaan maataan pikkuhiljaa sellaiseksi kuin se oli ennen valloittajaa: Hyväksi asuinpaikaksi maan omille asukkaille. Ja nyt he eivät halua toista valloittajaa/orjuuttajaa tilalle. Turistit ovat tervetulleita mutta muu roskaväki ja loiset jäävät rajojen ulkopuolelle.
Onneksi nämä itä-blkin valtiot ovat niitä joilla vielä on selkärankaa. Ja se selkäranka saattaa olla se ratkaiseva tekijä kun pyhä sota kristittyjä kohtaan alkaa. Nämä samat maat voivat olla juuri niitä maita jotka pelastavat euroopan geeniperimän muslimies invaasion alta. Saksa on menetetty tapaus kuten Ranska ja iso-britania. Mutta slaavilaiset maat… sinne ei niin vaan mennäkkään.
Minua ihmetyttää miten ihmiset voivat olla niin tyhmiä että päästävät valloittajat maahansa ja vielä lihottavat niitä? Tulevaivuuden sukupolvet tulevat ihmettelemään nykyihmisten tyhmyyttä. Varsinkin vasemmistn ja vihreiden naivius sekä homojen myyräntyö valtion tuhoamisessa tulee olemaan silmiinpistävää. Ikävä kyllä, äänekäs joukko homoja tulee leimaamaan kaikki aikakauden homot samaan ryhmään. Hstoria kun ei yleensä erottele maltillisia tai radikaaleja, kuten esimerkki saksalaisista toisen maailmansodan aikana osoittaa. Kaikki saksalaisethan olivat pahoja.
Elämme historian osalta merkittäviä aikoja. Aikaa juuri ennen suurta sotaa joka tuhoaa kolmasosan euroopan väestöstä ja pönkittää muslimien väkimäärää kaksinkertaiseksi euroopassa. Kuten Nostredamus sanoi:”Alkaa uuden uskonnon aikakausi. Oudon uskonnon, mutta rauhan aikakausi”. Siis sen jälkeen kun on ensin sodittu se 30 vuotta, Islam on outo uskonto, mutta se on varmasti rauhaisa koska kaikki jotka ovat vähänkin sitä vastaan, niiltä katkaistaan kaula.