Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Tuo kakkamies kuuluukin bannata
Mitäs jos hyppäisit jostain korkealta jos se vaikka parantaisi suvakkeutesi.
Te persusionistit olette piilosuvakkeja ja huijareita
Mistäs tuon vetäsit että olen joku persujen kannattaja?
Te suvakit olette ”hauskoja” keksimään päästänne mitä ihmeellisimpia asioita mistä syytellä toista mieltä olevia.
Minä ole täysin sitoutumaton, en siis kannata yhtäkään kansanedustajaa enkä mitään puoluetta.
Olet kuitenkin tyypillinen Hommareino eli sinua voi huoleti kuvata persuksi. Sionistisen valeopposition jäsen korviesi välin perusteella. Veikkaan kyllä, että valehtelet. Tuo suvakiksi sähiseminen heti kaikkia muita kuin sionisteja kyseessä ollen on kuin persutrollin oppikirjasta
Niinpä. Sinun ”kakkamiehesi” ovat kyllä aivan muualla eli Säätytalossa ja viimeistään siellä missä umpiluista päätäsi erotetaan hartioiden välistä niiden toimesta, joita kieli ruskeana olet nuollut ja luullut olevasi kovinkin viisas ja tietävä siitä kuinka tämän maailman asiat menevät sen mukaan että asiat ovat silloin kohdillaan kun kaikki tyhmät laumassa ovat ”oikeassa” ja vain kymmenen on ”väärässä”.
Eli pelkkä ”kuppikoko” ei aina merkitse kaikkea sitä mitä naisessa on.
Ketähän minä olen nuolllut? Te ainakin Israelia yms
Sinulla pääsi sisällä ei ole mitään, korkeintaan erästä keltaista nestettä.
Sinä olet persu, siionisti, punikki ja ehdottomasti vielä anarkisti, suvakki, fasisti, jne..
Kiitos vain. Minua ei tarvitse teititellä eli ”tittelit pois”!
Mitä tulee taas Israeliin, minua ei voi syytelllä mitenkään edm. valtion ”lähimmäiseksi”, sillä stereotypiä siitä, että paha persu on leimallisesti AINA nk. ”Israel ystävä” vain siksi, että Laura Huhtasaari ja ent. puh.joht. ”sika” Soini ovat henkeen ja vereen ”sitä sorttia”.
Ja vielä hauskempaa on se, etten edes ole persu, koska minun ”puolueeni” on omat aivoni, joilla ajattelen mikä on viisasta ja mikä EI OLE sitä.
Aivot eivät edes siihenkään yksin riitä, vaan ihmiskunnan historia ja jopa vain Suomenkin eri historian vaiheet, sillä ihminen ei ole muuttunut miksikään 5000 vuodessa.
Samat lainalaisuudet vallitsevat valtioden ja ihmisten välisissä suhteissa niin kauan kuin maailma seisoo.
Ei ole eroa käykö ihminen Marsissa vaiko keksii pyörän, koska se ”älykkyys” ei korreloi mitenkään sen kanssa onko ihminen toimissaan tyhmä vai tosi tyhmä.
Nythän kommunisti hallitus nostaa veroja ja muslimi / afrikkalais -”pakolaisten” määrä nostetaan huippuunsa perheenyhdistämisen ”helpottamisella” ja kaikille rikollisille haittamaahanmuuttajille automaattinen palkinto eli kansalaisuus.
Eilen voimaan tullut nk. ”tiedustelulaki” varmistaa sen, että kanta -suomalaisia lurkitaan ja tuomitaan nk. ”vihapuuheestä” vankiloihin, koska se on ”vaarallisempaa” kuin islamisti -terroristin tai ISIS -äidin + mukulan räjäyttämä pommi, jolla ei muuten ole mitään tekemistä Islamin kanssa.
Suomen upottaa lopulliseen suohon hallitus, jonka kannatus on 37% eli aivan kuten Ruotsissakin. Suurimmat häviäjät muodostivat hallituksen koska, demokratuutri eli ”hyvien ihmisten diktatuuri”, vrt. Proletariaatin diktatuuri.
Suomen on otettava koko maailman väestö eli n. 7 miljardia ihmistä sosiaaliturvansa piiriin ja automaattisesti kansalaisuuden omaavaksi etuineen päivineen unohtaen tietenkin työvelvollisuuden, josta nauttivat ”varsinaiset” suomalaiset eli orjakaleerin soutajat, mikä taas on selväkielisesti nk. ”valkoista ylivaltaa”!!!
Koettaisit selvittää pääsi ja sitten vasta kirjoitella mielekkäitä kirjoituksia nettiin. Ihmettelen vain, miksi tuet fanaattisesti Wildersiä, jos et ole Israelin ystävä
Some alustat jotka blokkaavat ja sensuroivat käyttäjiä poliittisen suunnan tai pelkän mielipiteen takia, pitää jättää omaan arvoonsa. Jättäkää idiootit sinne omaan kuplaansa ja siirtykää muille alustoille. Tämäkin sivusto voisi ihan hyvin vaihtaa facebookin ja twitterin jakolinkit tosta alhaalta johonkin vähän nykyaikaisempiin vaihtoehtoihin.
Mies puhui totta, siinä vika. On vain ajan kysymys milloin Maa on litteä eikä pyöreä, sillä kunhan kommunistit sen pierun aivottomiin päihinsä saavat. Silloin siitä hetkestä lähtien maa on litteä eikä pyöreä pallo. Siitä sitten rohkeimmat ja periaatteellisimmat ihmiset istuvat posessa monta vuotta ja kun kommunismista on kysymys. Kuolevatkin sen vuoksi!
Persuthan ovat neokonnia eli kommunisteja
Selitäppä suuressa viisaudessasi mikä on ”neokonna”?
Mies on käynyt ilmeisesti suomalaisen koulutusjärjestelmän läpi ja on tyhmä kuin vasemman jalan saapas. Mutta niinhän se pitääkin kun on ”vasemmalla puolella”!
Etkä edes tee päivän työtä, sillä jo se yksin kasvattaa miestä ja varsinkin aivoja.
Ai sä olitkin teini. Neokonna=neokonservatiivi.
Näyttää siltä että Freda33 trollitehtaasta on ryhdytty trullailemaan nyt jo nykysuomenkin palstoja
Vain viherkommunisti on riittävän yksinkertainen uskoakseen että saavuttaa sillä jotain, ainakaan omaa agendaansa tukevaa.
Tosin Niinistö kantanee tehtaalle varmasti kovaa tahtia ”piristetä” joten ehkä se riittää normi lliimanhaistaja-narkki-anarkistille päivän fiksiksi?
Vai mikä se on mikä saa anarkohipin trullaamaan? Kertokaas nyt. Onko se Maon punainen kirja mikä mieltänne kiihottaa? Vai tuleeko anarkoille ruplat Putinilta?