Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Eikö tuokaan tampio tajua että koko ISLAM on NAISVIHAMIELINEN!
Ps. Yleensäkin uskonnot ovat aivovammaisten touhua.
Burka ja hijab on kuitenkin islamin ylemmyyttä korostava rasistinen symboli, joka tulisi kieltää niin julkisessa käytössä kuin yksityisessäkin. Mutta ruotsin SDP onkin puolue, jolta mm saksan natsipuolue NSDAP kopioi koko rotuoppinsa. Tottakai ruotsin SDP jatkaa linjaansa yrittäen edistää rasismia ja vastakkainasettelua kaikkialla missä mahdollista.
Eiks pitäisi kotoutua yhteiskuntaan ??????? yhteiskunnan tapoja noudattaen
Hulluja nuo ruotsalaiset.
Eipä ole suomessakaan huntukieltoa vielä. Arvelkaapas mikä paskamysky suvakeilta alkaa jos täällä tosissaan alettaisiin suunnittelemaan ko kieltoa.
No, sossuilla on aina todeelisuudesta kieroutunut käsitys. Tuo huntukielto nimenomaan EI OLE naisvihamielinen, vaan se on rakkaudellinen osoitus. Naista ei alisteta käyttämään huntua eikä naista alisteta rajoittamalla hänen käytöstään tai pukeutumistaa.
Päinvastoin, vihaisista roskasäkeistä kuoriutuu itsevarmoja nykynaisia.
Onkohan sossuihin liittymisen vaatimuksena se että jotain on lirahtanut sekaan tekovaiheessa?
Tuo nainen ie ole terve! Miksi se muuten esiintyy ilman burkhaa??
Saako ”kantis” liikkua yleisellä paikalla kaikissa tilanteissa naamioituneena esim. Guy Fawkes naamioon? Niinpä. Vaadin tasa – arvoa.Ai niin, orjat (goymit)eivät vaadi, vaan tyytyvät…
Islaminuskoisten huntupakko ja sopivan pukeutumisen valvominen Euroopassa sen sijaan ei ole naisvihamielistä?
Maassa maan tavoilla, on ihan oikein että kasvot näkyviin ihan jokaisella.
Ainahan voi muuttaa maihin missä naisten pitää peittää ittensä jos siltä tuntuu.
Mitähän tuokin tekee ruotsin sdp puolueessa joka muutenkin suht maahanmuuttokriittinen?
Ruotsin SDP maahanmuuttokriittinen.??? Tämä on varmaan trolli tai huono vitsi. Voi myös johtua silkasta tietämättömyydestä.Suosittelen tietojen päivitystä.
Sossuille paljastuu jutun juoni silloin viimeistään kun ovat polvillaan ja kurkunleikkaaja takana valmiina….
Veronica Palm voi aivan itse pukeutua jätesäkkiin. Ei! Niitä pitää olla 10 päällekäin, 10 viikkoa samat jätepussit ennen kuin voi vaihtaa toiseen kymmeneen, jotka taas vaihdetaan niihin ensimmäisiin 10:een. Vaadin ehdottomasti, että näin pääsee tapahtumaan, koska ellei käskyä noudateta. On se naisen mitä alhaisinta riistoa.
Tyypillinen tyhmä kurahaara. Ihminen jolla on vain oikeuksia ja ei mitään velvollisuuksia. Helppoa varastaa yhteisestä kassasta ja ei mitään kykyä pyörittää rattaita. Pitäisköhän jo luopua naisten äänioikeudesta kun lähinnä tuontyyppisiä hoivaviettivammaisia puskee pintaan jauhamaan paskaa?