Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Mistäs muualta kuin vasemmalta. Pirun punikit Euroopan tuho.
Juuri näin.
EHE EHE EHE
Tänään tein journalistisen uroteon, josta tämä ilmoitus on oleellinen osa:
Tulostin AANELOSELLE Husun kuvan sekä kolme koraanin säettä joissa kehotetaan tappamaan kuffareita, ja vedin vessanpöntöstä alas. Tietysti ensin tehtyäni tarpeet tuon paperin päälle kun se oli pöntössä.
Mukaan toimintaan?
Pian koittaa aika, jolloin Suomenkin hallitusta kehotetaan tekemään säilöönottokeskuksia. Sitten hallitus yrittää kerätä poliittisia pisteitä siitä, mitä Perussuomalaiset ovat puhuneet jo kauan 🙂
Olisi ollut helpompi estää maahan tulo asevoimin. Sitä vartenhan ne ovat olemassa. Poliitikkojen tyhmyys on suurempaa kuin avaruuden äärettömyys.
Miksi valehtelet? Ei se ollut tyhmyyttä vaan sekoitus EU:n Kalergi-suunnitelmaa ja ihmiskaupoilla tienaamista. Ok, kai se on tyhmyyttä jos tyhmyydeksi lasketaan ihmisten tahallinen pettäminen hyvesäteily-egoismin ja kansainvälisen ryöstökorporatismin alttarilla?
P. Arhinmäki on lähettänyt Saksaan tulikiven katkuisen viestin, säilöönottokeskuksia ei sitten rakennella sinne, mahdollisesti tulevana ministerin aion puuttua moiseen ihmisarvoa syvästi loukkaavaan suunitelmaan kovin ottein.
Suomessa ei oteta ”säilöön” kuin ne, jotka vaativat säilöön ottamista. Suomi ei käännä kelkkaansa, koska poliittiset puolueet eivät tee valtiotasoista politiikkaa kuten poliitikkojen pitäisi, vaan ne kuuntelevat mitä kaikkein suurimmat idiootit ja hullut sanovat, sillä ”arvopohja” ja tarve olla suosittu myötäilemällä ”yleistä mielipidetä” joka tahtoo olla sama kuin kesken kasvuisten kersojen, jotka eivät tiedä maailmasta mitään, eivätkä ota siitä minkäänlaista vastuuta ainoana asianaan syyttää niitä, jotka ei annettu sanoa mitään tai heitä ei haluttu kuunnella. Sitten kun asiat ovat päin persettä! Kaikki syy on persujen ja kansallismielisten.
Eurooppaan on tullut ainakin 1500 ISIS -terroristiä. Espanjassa poliisi paljasti islamistien hankkeen tehdä terrori-isku espanjalaisten katollisten pääsiäisjuhlallisuuksiin Madridissa.
Näitä juttuja on kuultu ennenkin mutta mitään ei ole koskaan tapahtunut. Kunhan höpisevät lämpimikseen…
Myöhäistä, koska Saksa on muutaman vuoden sisällä muslimien hallussa niin poliittisesti kuin henkisesti.
Tämä nyt ei sinänsä liity säilöönottoon, mutta sivuaa kuitenkin. Neuvostoliiton alkuaikoina propagandassa toisteltiin, että ihmisiä ei Neuvostoliitossa voinut panna vankilaan, koska vankilatkin olivat siellä niin ihania paikkoja, että ihmiset eivät enää halunneet sieltä pois. Niin Suomessakin. Irakilaiset, Afganistanilaiset, Somalit jne. eivät pelkää Suomessa säilöönottoa tai vankilaa, koska jos vertaa niiden oloja heidän kotimaan vankilan oloihin niin onhan siinä valovuosien ero. Ja jos Suomessakin säilöönotto otettaisiin käyttöön, suvakit pitäisivät huolta, että matuille ”ihmisoikeudet” toteutuisivat viimeisen päälle.