Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Kiinalaiset pitänevät huolta interpolin johtajasta Maon metodein.
Lukaisin että Espoossa on poltettu autoja kahdessa eri kohteessa. Vihervasemmisto, sdp, keskusta ja kokoomus sekä heidän äänestäjänsä tanssivat ilosta, kun Ruotsin autogrilli kulttuuri saapui Suomeen.
Mies on ”isänmaalliselle koulutusleirillä” Tulee jos tulee, nöyränä takaisin muutaman vuoden päästä. Kiinassa vallitsee täydellinen demokratia, jonka syteemi parantaa erilailla ajattelevat. Tätä puuhataan myös Eurooppaan.
Kokoomus ja lestakepulit ajavat Kiinan mallia voimalla myös Suomeen. Työtätekevällä karjalla ei saisi olla mitään turhia talouden toimintaa haittaavia oikeuksia tai omaa älyä. Sitten, kun on saavutettu lestakepuleitten mielestä Paratiisia muistuttava kansantaloudellinen täyttymys, jossa lestakepuleiden firmojen kassoihin tulvii jatkuvasti hujanaa ja maitoa ylitsepulppuavina virtoina, voidaan keskustella oikeuksien palauttamisesta ts. ei milloinkaan.
Kiina voidaan lukea roistovaltioksi, vaikka se antaa itsestään kuvan salonki valtiona ja Aasian nousevana talousmahtina ja etenkin sotilas sellaisena. Kiina huseeraa häikäilemättömästi Afrikassa ryöstäen mustan Afrikan luonnonvaroja tavalla jota entiset läntiset kolonialistit olisiva katselleet kateudesta vihreinä. Tämä vähemmän tunnettu tosiseikka uppoaa maailmanlaajuiseen uutiskohinaan, joko tietoisesti tai kuten tapana on kansainvälinen media soittaa samaa levyä puhki haistellen loputtomasti yhtä ja samaa lantakasaa, josko siitä saisi vielä lisää jutunjuurta ja ellei saada sitten keksitään. Kiinalaiset värväävät paikallisista yksityisarmeijoita, joiden avulla he ajavat aikaisemmat valtauksen isännät aseilla uhaten huisin nevadaan, sillä kukapa ei arvottaisi henkeään kalliimmaksi kuin antoisinkaan kultakaivanto. Kiinalla on erään mustan Afrikan maan kanssa hanke perustaa Kiinan armeijan tukikohta kyseiseen maahan. Kiinalaiset harjoittavat peittelemätöntä ja härskiä teollisuusvakoilua, kopio läntisiä merkkituotteita surutta ja vetää välistä maailmankauppa kilpailussa häikäilemättömästä välittämättä mistään sopimuksista tai kansanvälisin sopimuksin sovituista pelisäännöistä. Toinen luku on tietenkin sotilaallinen tiedustelu ja sotateollisuusvakoilu, jonka kautta Kiina on onnistunut murtautumaan useaan otteeseen Yhdysvaltain pentagonin tietokantoihin ja yhdysvaltalaisiin suuriin suihkuhävittäjiä tuottaviin yrityksiin. Sama koskee laivastoa ja muuta aseteknologiaa. Erityisen pahasti sotilasteknistä huippusalaista tietoa valui Bill Clintonin presidenttikaudella, koska hänen lähipiiriinsä kuului kiinalainen liikemies, jonka avulla tuolloinen presidentti suorastaan itse myi niitä Kiinalle, suuresta rahasta tietenkin. Edellinen voi ehkä jopa Clintonitkin huomioon ottaen kuullostaa huikealta, mutta mikäpä ei Clintonin pariskunnan kohdalla ei pitäisi paikkaansa kun on kyse rahan lapioimisesta noiden kahden pohjattomaan säkkiin. Mitä tulee kiinalaiseen viihde-elektroniikkaan kaikki erinäiset laitteet varustetaan Kiinan hallituksen vaatimuksesta vakoiluohjelmilla, jotka sitten toimitetaan ulkomaille. Lisäksi Kiinan hallituksen perustamassa ja armeijan alaisuudessa oleva tietotekninen vakoilu ja virusohjelmien tehtailu ja niiden levittäminen esim. USA:n tietoliikenneverkkoihin, jotka huolehtivat sähkönjakelusta, ydinvoimaloiden -ja vesivoimaloidentoiminnasta hankaloittamaan ja lamauttamaan ne tarvittaessa. Kohteena ovat tietysti kaikki merkittävät maat maailmassa. Tätä vastaan ja Kiinan musertavaan kauppaylijäämään presidentti Donald Trump on heti virkaan astuttuaan ottanut erääksi pääkohteekseen puuttua tähän hälyttävään tilanteeseen, joka on USA:n talouden ja työllisyyden sekä turvallisuuspolitiikan kannalta strategisesti tärkeää. Heti parissa kolmessa kuukaudessa hänen aloitettuaan presidenttinä hän toimillaan sai useat amerikkalaiset suurfirmat perumaan päätöksensä toimintansa siirtämisestä ulkomaille, joka eräs niistä oli, mikäpä muukaan kuin Kiina.