Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Huonosti käy, jos mennään Natoon.
No kuinkas nyt niin? Ajatellaanpa että olisi kaksi taloa vierekkäin, joissa asuvat pikkupoika ja toisessa iso poika. Pikkupoika pyytää kaverikseen toisen ison pojan, 6000 km päästä, kyläilemään ja vittuilee naapurilleen tämän kylässä käyvän ison pojan kainalosta. Kuinka käy kun tämä kyläilevä iso poika päättää lähteä kotiinsa sinne 6000 km päähän ja pikkupoika jää yksin sen naapurin ison pojan kanssa jolle on vittuillut silloin kun uskalsi?
Heh, Kysymys viisaille. Jos Venäjä päättää ottaa suuren osan Suomesta, osan Pohjois-Ruotsista,-Norjasta turvatakseen Naton vastaiset rajansa, niin hyökkääkö USA (nato) Venäjälle ja Kiinaan? Eikö pikkupojan olisi viisainta olla hyvissä väleissä ison pojan kanssa tässä tapauksessa?
Sanoisin että ensisijainen todellisuus on se että maamme on tässä pysyvästi parkkeerattuna emmekä sille mitään voi, tai ajella sillä muuallekaan. Sen mukaan olisi elettävä ja oltava. Toissijainen asia on se että joku ulkopuolinen taho voi puhella mitä tahansa turvaamisestamme, mutta tosipaikan tullen tämä pelkkää puhetta oleva asia ei ehkä pidä paikkaansa, toisin kuin se konkreettinen fakta että maamme on yhä pysyvästi parkkeerattuna tähän paikkaan.
Onpa isot sotaharjoitukset. Olisi ollut hyvä sauma myydä Kiinalle ja Venäjälle harjoitusten tarpeiksi taistelumuonia ja tietenkin tuoreruokaa, mutta suomalaisille päättäjille ei kelpaa raha.
Myöskin kenttäkeittiöiden myyminen Venäjän tai ainakin Kiinan armeijalle olisi pitkässä juoksussa miljardi luokan bisness, mutta kun raha ei kelpaa.
ei meillä hätiä, onhan meillä 40 000 isiksen partalapsia jotka jenkit ovat kuoluttaneet valmiiksi, luvattiinhan niitä 100 000 lisää seuraavassa ”vyöryssä” että sillä viisiin…
Viimeistä onkin kulunut aikaa, jotka käytiin Ussuri joella n. 50-vuotta sitten. Yhdysvallat on taloudellisesti ja sotilaallisesti jo laki korkeutensa saavuttanut suurvalta maailmassa. Siksipä Suomi haluaakin köyttää NYT itsensä kiinni USA:n kylkeen. Mitä taas tulee Euroopan vapaamatkustajiin, niin Isoa-Britanniaa lukuunottamatta manner eurooppa on yhtä tyhjän kanssa. Ensinnäkin siksi, että Nato on aina ollut USA:n varassa eurooppalaisten ”liittolaisten” siipeillessä ja puriessa kättä, joka heidän kehtoaan keinuttaa. EU:sta voi sanoa sen keskittyvän enemmänkin eurooppalaisen Euroopan tuhoamiseen niin kulttuurillisesti, uskonnollisesti kuin myös kansanmurhaamalla valkoinen alkuperäisväestö, jonka puolesta Eurooppa on nimenomaan ollut Eurooppa.
Sotaa voi käydä monella taholla, massiivisiin hyökkäyksiin kykenevät ainoastaan valtiot.
https://foreshadowattack.eu/
”speculative execution attack on Intel processors which allows an attacker to steal sensitive information stored inside personal computers or third party clouds”