Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Hyvä! Kaikille kansallisvaltioiden rajoille TÄYDET tarkistukset käyntiin myös euroopassa. Loppu holtittomalle rikollisten vaeltelulle maasta toiseen. Pedofiileille pikainen oikeudenkäynti ja 9 millin tuomio saunan takana jos syyllisyys todetaan. Loppu saastan hyyssäämiselle!
Valitettavasti on suuntaus valtakoneistojen taholta,joita(((niiden)))raha ohjaa, että saunantaakse joutaakin ne kansallisvaltioiden kannattajat. Mutta tämän jo tiedätkin, Talvisodanhenki , terv. Tehdäänkehitysmaayhdessä.
Minua ei hengissä saunan taakse vie yksikään nilkki. Voivat tulla yrittämään jos eivät muuten usko.
Suomessa esim. Supo eli demareita pullollaan oleva ”turvallisuusviranomainen” keskittyy seuraamaan kantasuomalaisia ja etenkin sitä mitä he ajattelevat, sanovat, kirjoittavat tai millä naamalla katsovat ”mitäkin”. Eli tämä koiralaumamainen suomalaisten perseen nuuskiminen on paljon tärkeämpää kuin jihad -terrorismin vastustaminen, joka on punakaartille ominaiseen ajattelutapaan muuttunut ”jihad -terrorismin suojeluksi”. Kuten yrmynaamainen jäsenkirja -viranomainen lausuikin pelottavaan sävyyn ”kalpeanaamoille” ”ettei ISIS:ksen fanittaminen ole mikään rikos, MUTTA sensijaan kalpeanaamojen ”väärien ajatusten ”tykkääminen” on rikos kansakuntaa vastaan ja etustaa mitä alamielisintä rikollisuutta” matkalla kohti pohjoista 1970-luvun Libanonin Beirutia, jossa paukkuu muulloinkin kuin vain ”hernerokkapäivänä”. Tämä lopputulos on merkkinä lopullisesta monikulttuurisuudesta, jossa ei tule näkymään särön säröä eikä tiiltä tiilen päällä. Sillä kuten läntisessä kalifaatissa myöskin suuren demokraattisen puolueen naisjäsen lausui kuolemattomat sanansa siitä, ettei heillä itsellään Ruotsissa olekaan minkäänmoista kulttuuria, eikä hienoa historiaa ainakaan omiensa tapattamisessa, mitä nyt vähän nimiksi koitettiin Itämaan suomalaisilla junteilla kun oli kuningaskunnasta puuteri päässyt loppumaan, vaikka sitä aina tukusta hankittiinkin tuon itämaasta nydettävillä verotuloilla. Niin, eikäpä täälläkään ole mitään kehuttavaa, vaikka muutama aikailaisten käsityksen mukaan kunniakas sota on tullut sodittuakin, mutta nykyisten viisaiden ja lukemattomien historiankirjoja lukemattomien kirkkaalla falsetilla todetaankin näiden kaikkien olevan pelkkää satua ja juoppohullujen jorinoita, sillä Talvisodassakin taisi olla n. 300 ulkomaalaista vapaaehtoista, jotka pitelivätkin Stallari -sedän harmiksi piippahatut rajan ”väärällä” puolella peräti 105 päivää. Mitä tulee suomalaisiin sotilaisiin, eivät he olisi koskaan selvinneet tuosta sodasta sillä suuri osa tavoitettiin vasta seuraavan vuoden huhtikuussa klooraamassa Atlantin puolessavälissä kuulemma Intiaa etsimässä ja pelkällä suolaisella näkkileivällä. Kuulemma pyöriäiset olívat suurena apuna ”virtaaman” lisäämiseksi.
Tällä pitäisi jo irrota proffesuuri!!!