Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Hyi helvetti saksaa näinä päivinä, kyllä olisi taas eräälle johtajalle menneisyydessä tarvetta.
1945 jälkeen euroopassa ei ole ollut yhtään todellista johtajaa. Ei ensimmäistäkään.
viktor orban?
Tarkoittanet erästä alkujaan itävaltalaista.
Jotain sinne suuntaan…Jätettäköön nimi mainitsematta että jos suvakkeja sattuu olemaan, eivät räjäytä lopullisesti viimeisiä aivosuoniaan.
Kyllä näyttää Saksassa hulluja riittävän.
Keitähän ne 20 000 ovatt? Hormonihäiriöisten yli doubattujen DDR:n ex-yleisurheilijoiden muksuja? Aivot syntymä sekaisin kun äidin ulkomuoto on ollut miehinen ja muksu on ihmetellyt mistä vitusta on tullut maailmaan. Nämä reppanat Open Society Foundation sitten palkkasi hyödyllisiksi idiooteiksi globalistimafian masinoimaan hulluuteen.
Kommunismi eri muotoineen on maailman syöpä aivan kuten samalla ”astialla” enimmäkseen viihtyvät juutalaiset, sillä millä kaikella voidaan edesauttaa valkoisten kristittyjen kansanmurhaa sinne pesiytyvät kaikki selkäänpuukottajat ja Euroopan totaalisen tuhon puoskarit.
Eikö saippuaa enää tehä hyvästä raaka aineesta?
Nämä 20 000 vasuripaskaa voisivat konkreettisesti edistää maahanmuuttoa ja muuttaa Saksasta niihin persläpimaihin joiden kaltaiseksi tahtovat Saksankin muuttaa.
Olisi tosiaa hyvä jos kaikki euroopassa olevan maahnmuuton kannattajat lähetettäsiin asumaan loppuiäkseen vaikka Etelä-afrikkaan, siellä näkisivät niitä ihannoimiaan karvakäsiä ja ainoita rasisteja maapallolla, voisi tulla suvakeilla valkoisia ihmisiä ikävä…..
Saksassa on 82 522 000 asukasta, eli noin 82,5 miljoonaa saattaa olla eri mieltä kuin nä 20 tuhatta suvakkia.
Suomen mittakaavassa sama kuin jos 1250 suvakkia kiljuisi lisää matuja maahan, niin kuin kiljuukin.
Kun antaa pirulle pikkusormen….jne…
Hulluja ovat, mikä saa tuollaisen ihmismäärän huutamaan jukisesti omaa itsemurhaa. No joukossa on suurin osa uussaksalaisia, matuja ja heidän perskärpäsiään, kuten telaketjufeministit, homot, hipsterit ja muuta yhteiskunnan pohjasakkaa jotka elävät veronmaksajien kukkarolla. Nuo saavat hyvin jukisuutta soroksen rahoittamilta medioilta, siksi se näkyy. Tulee mielikuva että suurin osa on haittamaahnmuuton puolella, kuin taikurin tekemä illuusio joka ainakin osin uppoaa vielä aivottomiin zombeihin.
”matuja ja heidän perskärpäsiään, kuten telaketjufeministit, homot”
Tuo on se asia mitä ei voi normaali ihminen käsittää. Eivätkö nuo mainitut ryhmät oikeasti käsitä mikä heidän kohtalonsa on islamilaisessa maassa tai sellaiseksi päätyvässä? Se mitä vähemmistöille tapahtuu on fakta ja sen voi käydä tarkistamassa missä tahansa muslimienemmistöisessä maassa. Vai onko näillä se sitten se ultimaattinen fantasia ja perversio että oma pää lähtee irti?