Edward Snowden haluaa OpenAI:n johtajan Sam Altmanin vankilaan, mikäli yhtiön mallit aiheuttavat vahinkoa. Puhuessaan etäyhteydellä ETH Zürichissä hän sanoi, että vastuu tekoälyonnettomuuksista kuuluu järjestelmien takana oleville ihmisille, ei algoritmille.
Snowden osallistui torstaina tekoälyvalvontaa ja sananvapautta käsittelevään paneeliin etäyhteydellä ETH Zürichin Audimax-auditoriosta. Opiskelijavetoinen ETHics Forum järjesti keskustelun, joka on katsottavissa kokonaisuudessaan viralliselta tallenteelta.
Lauantaina keskustelusta levisi katkelma, joka oli kehystetty toisin. Se sai näyttämään siltä, kuin Snowden olisi seissyt täyden auditorion edessä ja vaatinut vankeustuomioita niin kutsutun "turvallisuusajattelun" (safetyism) lopettamiseksi. Hän ei ollut paikalla huoneessa, eikä sana "safetyism" ollut hänen käyttämänsä.
Paneelin moderaattorina toimi yksityisyydensuojaan erikoistuneen Nym-yhtiön strategiaylijohtaja Jaya Klara Brekke. Nym suoratoisti tapahtuman, mutta ei järjestänyt sitä. Paneelissa olivat mukana myös toimittaja Marguerite Meyer ja Googlen entinen työntekijä Vikram Subramanian.
Kanuuna ei joudu vankilaan
Snowden aloitti vastuukysymyksestä. Vastuu tekoälyjärjestelmästä kuuluu sen rakentaneelle ihmiselle, ei algoritmille.
Hän käytti tykistöanalogiaa. Jos kanuuna pyyhkii testiammunnan aikana vahingossa pois kokonaisen kylän, kyseessä ei ole kanuuna, jonka pitäisi joutua vankilaan.
Sama pätee hänen mukaansa silloin, kun yritys julkaisee lehdistötiedotteen kertoen, kuinka yllättynyt se on siitä, että sen uusi malli hakkeroi naapurin. Yllätys ei vapauta vastuusta. OpenAI:n testimallit ovat aiemmin päässeet käsiksi Hugging Faceen.
Tässä kohtaa Altman tuli kuvaan.
— Mielestäni meidän on laitettava Sam Altman vankilaan, ja uskon sen olevan opettavainen kokemus. Se on opettavainen kokemus teollisuudelle ja maailmalle, Snowden sanoi.
Välittömästi tämän jälkeen hän totesi kuivasti, että kyseinen lause toisi hänelle ystäviä tässä yleisössä.
Snowden ei esittänyt oikeudellista syytöstä Altmania vastaan. Hänen pointtinsa oli periaatteellinen: näiden järjestelmien rakentaja ja julkaisija on saatettava henkilökohtaiseen vastuuseen, aivan kuten kanuunalla tähtäävä henkilö.
Turvallisuutta yrityksen ehdoilla
Hänen kritiikkinsä kohdistui suljettuihin malleihin. Snowden otti kohteekseen yritykset, jotka puhuvat tekoälyn turvallisuudesta samalla kun ne pyörittävät mallia itse, siepaten käyttäjän kehotteen (prompt) ja kirjoittaen sen uudelleen.
Tämä jättää yrityksen, ei käyttäjän, päätettäväksi, mikä lopulta tavoittaa mallin. Se, joka pyörittää järjestelmää, näkee myös, mitä ihmiset kirjoittavat siihen. Kyseessä on sama valvontaongelma, jolle Snowden on omistanut julkisen elämänsä.
Hänen vaihtoehtonsa oli avoimet mallit (open-weight models), joita ajetaan paikallisesti käyttäjän omilla laitteilla. Tämä antaa vallan käyttäjälle, ei jossain muualla olevalle yritykselle.
Hän ehdotti myös sitä, mitä hän kutsui teknologian ensimmäiseksi laiksi: laitteen ei pitäisi koskaan toimia omistajansa etuja vastaan, riippumatta siitä, kuka sen on valmistanut.
Lisää vastuullisuutta, ei vähemmän
Tämä on Snowdenin todellisten sanomisten ydin. Hän ei hyökännyt sitä ajatusta vastaan, että tekoäly-yhtiöiden tulisi kantaa vastuu turvallisuudesta. Hän hyökkäsi turvallisuusretoriikkaa vastaan, joka sallii yritysten säilyttää kontrollin käyttäjiin samalla kun vastuu vahingoista katoaa lehdistötiedotteisiin.
Levityksessä ollut video käänsi hänen kantansa päälaelleen, ikään kuin hän olisi kehottanut ihmisiä lakkaamaan välittämästä turvallisuudesta. Itse asiassa hän vaati, että jonkun on kannettava vastuu tekoälyn aiheuttamista haitoista omalla vapaudellaan.
Kohti Orwellia..
Kummasti muuten käy toteen….Ja eikä tässä vielä kaikki ole. Valvontakameroita on jo niin paljon ettet ole niiltä suojassa kuin metsäkorvessa. Niin no sielläkin saattaa olla jonkun kyttääjän riistakamera.
Tämäkin kertoo millainen mielikuvitus valemedia CNN JA -AP ON
POLIISI YLIJOHTAJA EI TIEDÄ
*MUTTA CNN TIETÄÄ*
JOPA ENNEN LEHDISTÖ TILAISUUTTA MITÄ TAPAHTUI ÖHÖM*
*Poliisijohtajalla ei tietoa epäillyn sormien tuhoamisesta*
Yhdysvaltain Marylandin ampumista tiedotustilaisuudessa kommentoineen poliisijohtajan mukaan hänellä ei ole tietoa siitä, että epäilty ampuja olisi turmellut sormenjälkensä. Poliisijohtajalla ei myöskään ollut tiedossa, oliko epäilty tunnistettu kasvojentunnistusohjelman avulla.
Aiemmin CNN:n lähde kertoi, että uutistoimituksen ampumisesta epäilty mies on tunnistettu
kasvojentunnistusohjelman avulla.
ELI MITÄÄN LÄHDETTÄ EI OLE PAITSI CNN MIELIKUVITUS
CNN Uutiskanavan lähteen mukaan epäillyn tunnistaminen sormenjälkien avulla oli hankalaa, koska hänen sormenjälkensä olivat ilmeisesti muuttuneet.
Uutistoimisto AP puolestaan kertoi, että nimettömän viranomaislähteen mukaan sormenjälkiä ei voitu ottaa, sillä epäilty ampuja oli turmellut sormensa. Lähteen mukaan epäilty ampuja oli tehnyt tämän ilmeisesti siksi, ettei häntä voitaisi tunnistaa nopeasti.
Kohta ei tarvita enää perinteisiä vankiloita kun jokaisen ihmisen kulloinenkin sijainti tiedetään muutaman metrin sisällä.
Kun vielä ilmeestä ja asennosta pystytään lukemaan aikooko henkilö tehdä rikoksen, niin systeemi on valmis.
Sitten vielä säädetään tunnistamaan ”paremmat” Andersonilaiset rikokset ja vihateot, joista ei rangaista – vaan saa mitalin! Ison punavihreän marxilaisen mitalin! Sitten se on valmis. Ja niin viherkommunistinen totalitaarinen internatzionaalikin.
Lontoon asukkaista on kuitenkin ainakin terroristin näköisiä noin 98%, joten se kompensoi järjestelmän virhemarginaalin.
Koneäly eli tietokoneilla toteutettu ”älykkyys” on vain jono ykkösiä ja nollia, jota tietotekniikassa kutsutaan binääri järjestelmäksi eli kaksi merkki järjestelmäksi, jolla käskyt koodataan konekielelle ja näppäimistön selväkieliset kirjaimet, numerot ja erikoismerkit käännetään nollilla ja ykkösillä tietokoneen ymmärtäväksi koodistoiksi. Ennen korostettiin tietokoneen ”tyhmyyttä” verrattuna ihmisen elastiseen soveltavaan älykkyyteen, joka ei noudata orjallisesti valokatkaisin metodia, vaan osaa käsitellä asioita tapauskohtaisesti ja käyttää suhteellisesti soveltaen kulloiseenkin erityistilanteeseen tilanteen vaativaan tapaan.
Nk. kasvotunnistus tulee ainakin vielä nykytekniikalla aiheuttamaan enemmän sekaannuksia eli vääriä hälytyksiä kuin siitä on todellista hyötyä pahisten nappaamiseksi kiinni., sillä naamioitumalla tai vain kasvattamalla tuuhean parran miespuolista kohdetta on tunnistusjärjestelmän vaikeaa tunnistaa, koska tuo ihmisen mielestä vähäinen ”muuttuja” saattaa sekoittaa täysin algoritmin ja päästää kyseisen henkilön läpi lennossa tai hetken pykimisen jälkeen luovuttaa koko häiskän pärstän tuntemattomuuteen.
Alkuaikoina jo PC-koneiden tullessa markkinoille mielellään korostettiin sitä, että ihminen on viisaampi kuin kone, eikä sen nimeen vannottu kaiken ratkaisevana tekijänä jokaisella elämän osa-alueella. Toki ensimmäiset koneet, jotka tulivat markkinoille olivat peräti surkeita suorituskyvyiltään verrattuna tähän päivän, jolloin nykyiset taskulaskimet pesevät mennen tullen ensimmäiset henkilökohtaiset tietokoneet.
Julma tosiasia on ettei se ihmisen ajatusprosessi syvimmillään kovin paljon kummoisempi ole. Sähköpulsseja ja kemiaa.
Se päivä tulee vääjäämättä kun ihminen jää kakkoseksi – halusimme tai emme – se on kohtalomme. Eikä sinne ole edes kohtuuttoman pitkä matka. Useimmat keski-ikäisetkin saavat sen todistaa.
Tosin kyseistä teknologiaa voidaan käyttää myös ehostamaan tai boostaamaan ihmisiä, joten ei huolta.
Tämä uutinen on vale. Tänä keväänä uutisoitiin että Hong Kongin poliisilla kesti jopa 8min saada kiinni täysin naamioitunut mies joka tuli testimielessä ylös jostain kaupungin maanalaisen portista täysin naamioituneena. Nykyiset ohjelmistot pystyvät tunnistamaan kasvojen lisäksi kehon mittasuhteet sekä kävelytavat ja käyttäytymisen.
Ja jos siis Lontoon poliisi väittää että heidän osto-softansa on noinkin huono, niin se on vale. Nämä kävelyntunnistavat ohjelmistot ovat olleet olemassa kaupallisina jo viisi vuotta. Hinta ei ole halpa, yli miljoona euroa. Mutta on ne sitten nopeita perkaamaan kaiken videomateriaalin ja etsimään tiettyjä piirteitä koko datamäärästä. Sekä triggamaan esim. etsintäkuulutetun henkilön kaupunkikuvasta.
Ja jos muilla on nämä valvontasoftat käytössä (EU:n määräämiä) niin miksi sitten esim. Suomella ei olisi?