Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Ööh, eno oli pelottava joten murhasi serkun? Ja näitä murhaajia sitten tänne ihmisten joukkoon…
Murhaa kotimaassasi, karkaa Ruotsiin, niin saat turvapaikan ja ruotsalaiset maksavat koko loppuelämäsi sossun luukulla.
Kyllä kandee ehdottomasti antaa turvapaikka kivittäjälle,on varmaan käyttöä tulevaisuudessa kyseisellä taidolla ruottinmaalla…
Vittu näitä primitiivisiä alkuihmisiä raahataan Eurooppaan!
Ruotsalaisten tyhmyys on ylitse vuotavaista. Folkhemmetin talous tarvitsee ammattitaitoisia ihmisen hengiltä kivittäjiä.
Petteri Orpo on lausunut että Suomen tulee seurata Ruotsia maahanmuutto politiikassa. Kupan kolmas vaihe latistaa tunnetusti henkisiä ominaisuuksia.
Nyt iski bisnes idea. Minä alan myymään nyrkin kokoisia kiviä ämpäreittäin.
Sharia laki kun pääsee kunnolla valtaan, niin ei tarvitse katukiviä repiä irti. ”Ostakaa Karrin kivi ämpäri, nopeat toimitukset kivityksiin. Muista myös kätevä 200 litrainen kivitys tynnyri, mihin voi nopeasti haudata kivityksen kohteen kainaloita myöden. (hiekka ei sisälly toimitukseen). Huomatkaa uudelleen käytettävyys.”
Totta mooses, mutta esim. kotimaassaan uskontonsa takia vainotuille kristityille Ruotsi on kylmä kuin Siperian talvi.
Tyypillistä sosialistista Suomessakin niin tuttua demlaa, jossa pahantekijä ja rikollinen on mitä suurin sankari ja suojeltava sosiaalidemokraattisen ”/maailmankatsomuksen” mukaan, joka nojautuu raadollisesti VAIN ja AINOASTAAN äänestäjien eli nk. ”maahanmuuttajien” haalimiseen maahan ja antamaan heille täysihoito loppuiäkseen ja täysi rikosoikeudellinen koskemattomuus sekä nk.”poliisin” ja nk. ”oikeuslaitoksen” ympärivuorokautinen suoja kaikkea heidän tekemiään rikoksiaan vastaan sekä sitoumus tuomita mitä raskaimman kaupalla ne, jotka puolustautuvat sitä vastaan säilyttääkseen henkensä ja omaisuutensa suojan VAIN ja AINOASTAAN siksi, että nämä maahantunkeutuneet rikolliset loiset antavat AÄNENSÄ sosiaalidemokraateille valtiollisissa vaaleissa joko spontaanisti tai sosiaalidemokraattisen puolueen 700 000 äänestämis kehoitus -tekstiviestin ”aktivoimana” antamaan äänensä niille perkeleen sosiaalidemokraateille, joille on aivan herttaisen sama onko uusruotsalais äänestäjä no-go -alueella vaiko vankilassa harjoittamassa islamilaista väkivaltaa ja kiristämistä sekä huumekauppaa, sillä tekipä nk. ”maahanmuuttaja” mitä tahansa tai asui missä tahansa hänen äänensä on yksi ääni periaatteella ”One vote, One islamic terrorist”. Vasemmistolaiset kusipäät eivät tajua sitä yksinkertaista seikkaa, että kun islamistit ja muslimit saavuttavat sosiaalidemokraattien avustuksella tarpeeksi suuren vallan väestö poliittisesti ja aineellisesti. He hetimiten perustavat islamistisen puolueen kilvoittelemaan valtiollisissa- ja paikallisvaaleissa vieden lopulta määrällisesti tai todennäköisemmin henkeen ja terveyteen käyvän uhkailemisen kautta sellaisen ”jytkyn”, että vääräuskoiset hyväuskoiset idiootit putoavat tasan yhtä korkealta kuin pää putoaa polviltaan olevan mestatun irtihakatusta kaulasta maahan. Heja Sverige!!!