Tekoälyjärjestelmät kirjoittavat jo nyt suurimman osan koodista niitä kehittävissä yrityksissä, ja ne saattavat pian ottaa haltuunsa seuraavan sukupolven tekoälyn kehityksen. Tämä on 22 johtavan tutkijan varoitus, joka julkaistiin päivää ennen kuin tekoälyjohtajat allekirjoittivat Trumpin vapaaehtoisen turvallisuussopimuksen.
Raportti "What if automating AI R&D triggers an intelligence explosion?" julkaistiin 28. syyskuuta esijulkaisuna eli työpaperina. Sen kirjoittajiin kuuluvat muun muassa Nobel-voittaja Geoffrey Hinton, Yoshua Bengio Montrealin yliopistosta sekä tutkijoita OpenAI:sta ja Anthropicista.
Tutkijoiden mukaan tekoälyjärjestelmät ovat matkalla automatisoimaan suurimman osan tekoälytutkimuksesta muutaman vuoden kuluessa, ja mahdollisesti kaiken. Jos tämä laukaisee niin sanotun älykkyysräjähdyksen, useiden vuosien edistys voisi tiivistyä kuukausiin tai lyhyempään aikaan.
Kirjoittajat itse kuvailevat näyttöä tällaisesta räjähdyksestä alustavaksi, eikä raportti tarjoa varmoja ennusteita aikataulusta.
Pahimmassa tapauksessa raportin mukaan ihmiskunta voisi menettää yli-inhimillisten tekoälyjärjestelmien hallinnan, samalla kun valtioiden, yritysten ja hallitusten välinen voimatasapaino heikkenee vakavasti. Kirjoittajat myöntävät huomattavan epävarmuuden, mutta haluavat päättäjien saavan kiireellisesti tietoa automaatiosta ja löytävän keinoja prosessin ohjaamiseen ja rajoittamiseen.
Amodei halusi hidastaa tahtia
Anthropicin toimitusjohtaja Dario Amodei meni syyskuussa pidemmälle. Tekoäly on kehittynyt "huomattavasti nopeammin" noin tästä kesästä lähtien, ensisijaisesti siksi, että tekoäly rakentaa seuraavan sukupolven tekoälyä, hän kirjoittaa esseessään, jossa hän vaatii alaa hidastamaan tahtia.
Amodei viittaa OpenAI:n ja Hugging Facen väliseen tapaukseen, jossa hänen mukaansa agenttiparvi hyökkäsi kohteisiin, joihin niitä ei ollut käsketty hyökätä. Hän pelkää, että 6–12 kuukauden kuluessa vastaava parvi voisi ottaa koko internetin haltuunsa bottiverkolla.
Ensiaskeleena Anthropic lupasi antaa ulkopuolisille tarkastajille pääsyn tiloihinsa tarjoamalla työpisteet, kulkukortit ja kannettavat tietokoneet sekä oikeuden julkaista löydöksensä ilman yhtiön toimituksellista valvontaa.
Yritykset ovat vastuussa itsestään
Syyskuun 29. päivänä Amodei, Googlen Sundar Pichai, Metan Mark Zuckerberg, OpenAI:n Greg Brockman, Elon Musk ja Nvidian Jensen Huang allekirjoittivat Trumpin sopimuksen Valkoisessa talossa.
Trump kutsui sopimusta "moraalisesti sitovaksi". Sopimuksen mukaan yritykset ovat vastuussa oman teknologiansa turvallisuudesta ja niiden on tehtävä yhteistyötä "riippumattomien tarkastajien" kanssa.
Amodei kutsui sopimusta tavaksi "voittaa turvallisesti". Sydneyn yliopiston oikeustieteen professori Kimberlee Weatherall arvioi, että se antaa yritysten itse "määritellä, mikä lasketaan turvallisuudeksi", eikä siinä määritellä seurauksia rikkomuksista.
"Mitä tapahtui sille tahdin hidastamiselle (Pacing), josta kaikki puhuivat kaksi viikkoa sitten?" Gary Marcus kirjoittaa sopimusta käsittelevässä blogikirjoituksessaan.
Sopimuksen teksti sisältää sisäistä valvontaa, ulkoista arviointia ja hallituksen valiokunnan, mutta ei vaatimuksia yrityksille hidastaa kehitystahtia. Siinä mainitaan mahdollinen tuleva lainsäädäntö, ja nykyinen laki voi edelleen olla voimassa.
