Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Kuinkahan kauas puistokemistit tällä kertaa roudataan. Aikoinaanhan ne vietiin pohjoiseen että niiltä kestäisi mahdollisimman kauan palata Helsinkiin. Ja silloin olisi jo kansainvälinen porukkä ehtinyt häipyä.
Toisaalta, nyt olisi ehdoton tilaisuus mielenosituksille esim. sananvapauden ja mielipidevapauden puolesta.
nyt ei kannata isänmaallisten huudella, antakaa anarkistien mennä kiljumaan, saa helsingin polpon kytät pamputtaa anarkisteja, saavat omaa lääkettään…
Miksi neuvotteluihin pitäisi mennä mitään kiljumaan,lännen ja venäjän hyvät välit on elintärkeät valkoisten kristittyjen selviytymisessä.Mitä vähemmän ongelmia sitä enemmän voi keskittyä asioiden kuntoon laittamiseen.
oikeassa olet, mutta saat nähdä, tulee anarkistit kiljumaan kurkut suorana……
Saadaan oikeitaVALTIOMIEHIÄ kylään -kun omia sellaisia meillä ei ole ensimmäistäkään…
Joko vihervasemmisto on ilmoittanut että eivät ne tänne saa tulla.
Taitaa olla Niinistölläkin Kultarannassa tärkeää tekemistä 16.7., vaikkapa vaippojen vaihtoa.
varmasti joku alipalkattu sisäkkö vaihtaa vaipat, verorahoilla kun saa palkattua sisäkköjä, mitä me kadun dallaajat emme pysty palkkaamaan…
”Joko vihervasemmisto on ilmoittanut että eivät ne tänne saa tulla.”
No tavallaan, sillä YLE:llä oli äsken otsikko ” Toimittajalta: Miksi Suomen ei kannattaisi toivoa Trumpin ja Putinin huippukokousta.”
Kertoo paljon YLE:stä ja ”toimittaja”-kunnastaan. Edes maailmanrauha ei näille mielisairaille kelpaa jos sitä ovat tekemässä ”väärät” henkilöt.
No, en klikannut enkä linkitä, löytyy Googlella sille jota kyseisenlainen ”journalismi” kiinnostaa.
Enkä tulevat Helsinkiin. Harmi sikäli, että Trump on Euroopassa käydessään mielellään ottanut kantaa kansakuntien itsenäisyyden puolesta ja meillä kaikki viralliset vallanpitäjät ovat EU:n perseennuolijoita. Pari sinistä hallituksessa ei kesää tee. On noloa, jos Trump kehuu suomalaisia itsenäisyysponnisteluista ja puhetta virallisesti vastaanottaa kansaa muka edustava maansamyyjä-porukka. Trump on tosin ovela äijä ja hallitsee pelleporukoiden älyyttämisen.
mittausten mukaan toiseksi suosituin pressa jenkeissä mitä ei vasemmisto/ viherpiiperöt tunnusta eivätkä merkelin mielistelijät. lehdet kirjoittaa täysin kansanmielen vastaista puppua….samoin putte on suosittu omassa valtakunnassaan..
Läski-Soini laukeaa punttiinsa….
Ei kun se rukoilee paaville.
En ymmärrä miksi Suomi sai moisen kunnian?!?!?!
Takavuosina sen vielä ymmärsi, mutta nykyiset tyhjää täynnä olevat suomalaiset poliitikot, jotka ovat kuin temppuradan koiria, joita EU juoksuttaa erilaisten esteiden ja putkien läpi.
Nyt saa olla sydän kourassa mitä Sika Soini töräyttää ja kummisetä tankkaa edestakaisin ympäripyöryksiä, josta aito luonteinen presidentti Donald Trump ei ota selvää, vaikka ”asianaja”, joka hyväksyy kaikkinaisen lain kiertämisen nk. ”panolaisten” piilottelussa, murtaa sen enempää kuin taannoisessa historiallisessa Pohjois-Korean Kimin ja Yhdysvaltain presidentin Trumpin tapaamisessa korean kielestä, jota tietenki ”pulska poika” sujuvasti.
Ajatelkaa millainen jättipotti valtamedialle koittaa tästä huippukohtaamisesta kun peräti kummatkin ulkopolitiikastamme vastaavien ”totuudentorvien” kaikken eniten vihaamaa miestä häpäisee maamme kamaraa eli Venäjän ”pahis” presidentti Vladimir Putin ja Yhdysvaltain ”valkoinen lihaa syövä heteromies presidentti Donald Trump, joka ei sitten millään osaa tehdä mitään sellaista, josta punaviher vasemmistolaiset hysteerikot ja globalismia suurinpana jumalana palvovat Brysselin ”rajattomuuden partiokoirina” toimivat perin lahjakkaat ja älyllään loistavat johtomiehet ja -naiset, joiden ainoa osaama asia on laskea korruptiolla hankittuja seteli pinkkoja sekä loihtia tyhjästä päästään lausuntoja, jotka ovat itse asiassa vain tyhjyydessä kiertävän tuulen aiheuttamaa huminaa riippuen vain siitä, että mikä on samppakaljan lainehtimisen tuloksena oleva tyhjän tilan tilavuus.
”En ymmärrä miksi Suomi sai moisen kunnian?!?!?!
Takavuosina sen vielä ymmärsi, mutta nykyiset tyhjää täynnä olevat suomalaiset poliitikot, jotka ovat kuin temppuradan koiria, joita EU juoksuttaa erilaisten esteiden ja putkien läpi.”
Vastasit omaan kysymykseesi. Kaikki ulkomailla tietävät että meikäläiset pikkupiskit pressaa myöten eivät häiritse Isojen Poikien asioita vaan nuolevat sujuvasti kaikkien perseitä silloin kun eivät pääse toimimaan selän takana.