Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Google, Youtube, Google Play ja Gmail vakoilevat yhtä lailla kuin kinkit. Tekopyhyys kukkii.
Joo mutta eivät vakoile Kiinanlle:)
Mieluummin annan kiinalaisten vakoilla. He eivät lobbaa kulttuurimarxistista sontaa, muslimien massamaahanmuuttoa, Eurostoliittoa eivätkä jahtaa niitä ajatusrikollisia, jotka kritisoivat edellämainittuja asioita. Toki Kiinallakin on omat ongelmansa, mutta ne eivät kosketa minua.
Toivottavasti uusissa Huawein puhelimissa on ihan jotain muuta kuin Android.
Google, Microsoft, Apple, Facebook ym. jenkkifirmat jäivät kiinni 2013 Edward Snowdenin NSA-vuodossa globaalista vakoiluyhteistyöstä USA:n hallinnon tiedusteluelinten kanssa mm. PRISM-yhteistyöohjelman kautta. Eikö kiinalainen Huawei käytä ”Made in N$A” piirejä ym. takaportattuja komponentteja ja firmwarea kun jenkit näin uhittelee? Tekee itse globaalisti samaa josta syyttää toisia.
Toivottavasti Huawei tuo rootatun open source Android-version markkinoille puhelimiinsa ja tabletteihinsa, jolla kaikki mobiililaitteen käyttäjät saavat täydet admin-oikeudet koko käyttöjärjestelmään. Googlen Androidhan on takuulla portitetun mobiilitekniikan portitettu käyttis, joka tekee ties mitä koska käyttäjä ei ilman roottausta näe edes järjestelmätiedostoja saati voi käyttää palomuuri, netstat, process explorer, mainosesto ym. turvaohjelmia jolla näkisi mitä taustalla tapahtuu. Oiva vakoilulaite siis.
Niin, android käyttis ”ilmaisine” ohjelmistoineen on alusta asti suunniteltu ihmisten seuraamiseen. Jokaisen ohjelman asennuksen kohdalla kysytään oikeuksia esim. kontakteihin, kameraan, mikrofoniin, valokuviin, tiedostoihin yms. ja jotta voit ohjelmaa käyttää sinun pitää hyväksyä nämä yksityisyyttäsi loukkaavat toimenpiteet. Googlella on ihan jumalaton valta käsissään koska se on keräänyt vuosien saatossa valtavat määrät tietoa ihmisistä ja kaikkihan me tiedämme mitä tuolla tiedolla tehdään. Tähän yhdistettynä googlen ostokset kaikista merkittävistä robotti teknologioista, alkaa näyttää selvältä mikä firma on se tulevaisuuden skynet.
Siksihän se akku tuli kiinteäksi ettei voi poistaa/vaihtaa ilman kovaa työtä jotta taskussa oleva Android tekoäly-pilvivakoilulaite voi seurata tarvittaessa aina ulkoa ohjattuna tekemisiä.
Laitteen akkukaan ei itse asiassa ole ihan tyhjä kun näyttö menee pimeäksi.
Se voi salakuunnella mm. samassa huoneessa olevan tietokoneen näppäimistön painalluksia, siis salasanat ym. sekä mitä puhutaan. Tärähdys ym. anturit tarkentuvat koko ajan ja niiden kautta saa samat tiedot värähdysdatan avulla.
Tämä oli tilanne, johon suomalainen kännykkäfirma Jolla tähtäsi. Sen idea oli rakentaa oma Linux-käyttöjärjestelmäversio (Sailfish), jonka joku kiinalainen operaattori tai teknologiajätti (esim. Huawei) olisi ostanut isolla rahalla saavuttaakseen .itsenäisyyden amerikkalaisista alustatoimittajista. Jollan tarkoitus ei ollut tehdä puhelimia kuin demo-mielessä todistaakseen, että softa toimi.
Kukaan ei Jollan täkyyn tarttunut ja nyt on tainnut aika ajaa ohi.
Jutikat käärmeissään. Pelkäävät että ihmiset havahtuu rahajärjestelmään, ja juutalaiseen terroriin ympäri mailmaa
Minä en käytä google, käytän Startpagea. Minä käytän Huaweita mutta en käytä gmailia. Käytän linuxia enkä windowsia.
Elämä on valintoja. Lopettakaa googlen käyttö. Siitä se lähtee.