Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
eu kyllä on viimeinenmaa tällä pallonpuoliskolla joka voisi olla ihan hiljaa kun puhutaan demokratiasta…
Sehän on sitä oikeaa demokratiaa että kokonaan demokraattisen prosessin ulkopuolella toimiva EU-komissio sivuhaaroineen menee ja päättää kansojen asioista? Stalin korkkaa?
No, noissahan ei ole sinällään suomalaisille mitään uutta. Suomessa ei ole ollut sananvapautta enää kymmeneen vuoteen. Myös lehdistönvapaus on ollut koetuksella erilasiten ajojahtien vuoksi eikä kokoontumisen- tai uskonnonvapauttakaan ole. Niin että… Mitä meillä suomalaisilla sitten on? Ai niin, meillähän on totalitäärinen valtion. Siksi siis ihmiset muuttavat mieluusti Puolaan.
Virukseen tulisi suhtautua vakavasti.Katso tilastoja https://www.worldometers.info/coronavirus/#countries
Nyt on tilanne, ettei Suomi ole pariin päivään tiedottanut asiasta, luvut jököttävät samoina. Olisikohan Suomea uhkaamassa vakava tilanne hallituksen laiminlyönneistä johtuen, joten Suomen hallitus toimii kuten aina ennenkin. Virheet ja taudin leviäminen salataan kansalaisilta.
Koronaviruksen torjuntaa ei ole muuta keinoa kuin ankarat rajoitukset liikkumiselle ja tarkka suojautuminen. Pitkän ajan parantuneita on taulukon mukaan 152000 ja kuolleita 34000, 18%. Kannattaa välttää tautia, vaikka olisi muorikin.
Koronavirusepidemiaa ei ole: https://www.youtube.com/watch?v=hsWY5NMuCPg . Koronavirus on ollut kaiken aikaa pelkkä tekosyy kaikelle, mitä nyt tapahtuu. Maailmantalous halutaan romahduttaa, joten se täytyy tehdä valtamedian luoman koronavirushysterian avulla, jottei jäisi selviä ja kiistattomia, virallisia todisteita aiheutetun katastrofin tahallisuudesta. Todisteita jäisi vaikka kuinka paljon hallitusten, yritysten ja keskuspankkien pöytäkirjoihin, tilinpitoihin, määräyksiin, lakeihin yms., jos toimittaisiin toisella tavalla.
Yritykset ovat kohta konkurssissa ja lähes kaikki työttömiä. Kukaan ei uskalla yrittää liike-elämässä uudestaan. Lisäksi tallettajat menettävät säästönsä, koska heistä on tehty lailla riskisijoittajia. Velkarahalla talonsa rakentaneille ei jää muuta kuin velkaa, koska talojen arvot romahtavat. Tässä vaiheessa ihmiset ovat täysin toivottomassa tilanteessa: korviaan myöten veloissa sekä ilman rahaa ja työtä. Minä ainakin voin hyvin kuvitella, kuinka tuossa toivottomassa tilanteessa valtamedia alkaa kertoa, kuinka kapitalismi on epäonnistunut ja kuinka nyt tarvitaan muutoksia talous- ja rahajärjestelmään. Toivottomassa tilanteessa olevat ihmiset joutuvat hyväksymään valtaeliitin haluamat muutokset. Totta kai valtaeliitti lupaa tässä vaiheessa ihmisille kaikenlaista hyvää. He voivat luvata velat anteeksi ja uuden alun täysin puhtaalta pöydältä. Kenties he saavat kaiken jopa näyttämään siltä kuin muutos olisi lähtöisin kansalaisten tahdosta, mutta joka tapauksessa lisää valtaa siirretään yhä harvempien käsiin ja käteinen raha poistetaan. Kenties siirrytään kommunismin kaltaiseen järjestelmään ja ihmisten täytyy ottaa pedon merkki, jota ilman he eivät voi ostaa tai myydä. Näin valtaeliitti saa tahtonsa läpi ja yhteiskunnan täydelliseen kontrolliin, mikä on ollut koko ajan kaiken tarkoituksena.