Euroopan komissio asettaa ChatGPT:n, Redditin ja Robloxiin EU:n tiukimman digitaalisen valvonnan piiriin. Päätös antaa Brysselille valtuudet tarkastaa tietoja ja algoritmeja, vaatia muutoksia palveluiden toimintaan ja määrätä sakkoja, jotka vastaavat jopa 6 prosenttia yhtiöiden maailmanlaajuisesta vuotuisesta liikevaihdosta.
Komissio ilmoitti 31. elokuuta, että ChatGPT on nimetty erittäin suureksi verkkoarvostelupalveluksi (VLOSE), kun taas Reddit ja Roblox nimettiin erittäin suuriksi verkkoalustoiksi (VLOP) EU:n digipalvelusäädöksen (DSA) mukaisesti.
Kynnysarvo on 45 miljoonaa keskimääräistä kuukausittaista käyttäjää EU:ssa. OpenAI on ilmoittanut ChatGPT:n hakutoiminnolla olevan 159,1 miljoonaa käyttäjää, Redditillä 57,2 miljoonaa ja Robloxilla 46,6 miljoonaa. Yhtiöillä on nyt neljä kuukautta aikaa, tammikuuhun 2027 asti, noudattaa tiukempia vaatimuksia.
ChatGPT:stä tulee ensimmäinen merkittävä generatiivinen tekoälyjärjestelmä, jota käsitellään hakukoneena DSA:n nojalla. Komission perusteluna on, että palvelu ei ainoastaan vastaa kysymyksiin, vaan myös hakee tietoa verkosta, käsittelee tuloksia ja tuottaa uuden vastauksen. Siksi se pitää koko palvelua hybridinä, jolla on sama mahdollinen yhteiskunnallinen vaikutus kuin perinteisellä hakukoneella.
”Systeemiset riskit” ilman selkeitä rajoja
Sääntelykehyksen kauaskantoisin osa löytyy artikloista 34 ja 35. Kyseisten yhtiöiden on vuosittain tunnistettava, analysoitava ja lievennettävä ”systeemisiä riskejä”, joita voi aiheutua niiden palvelujen suunnittelusta, toiminnasta ja algoritmeista.
Riskikategoriat kattavat laittoman sisällön levittämisen, kielteiset vaikutukset perusoikeuksiin, vaaliprosesseihin ja yleiseen turvallisuuteen sekä vaikutukset alaikäisiin, kansanterveyteen ja ihmisten fyysiseen ja henkiseen hyvinvointiin.
Sanamuodot antavat valvonnalle ulottuvuuden, joka yltää paljon pidemmälle kuin pelkän jo ennestään laittoman materiaalin poistamisen. Arvioidun riskin lieventämiseksi alustojen on ehkä muutettava palveluehtojaan, suosittelujärjestelmiään, käyttöliittymiään, sisällön moderointia, mainostyökaluja tai iänvarmistusjärjestelmiään.
Tämä ei tarkoita, että komissio voisi tämän nimeämisen myötä kieltää tietyn mielipiteen tai kirjoittaa yksittäisiä ChatGPT-vastauksia. DSA:ssa todetaan nimenomaisesti, että palveluille ei saa asettaa yleistä velvoitetta valvoa kaikkea sisältöä tai etsiä aktiivisesti laitonta toimintaa. Riskitoimenpiteiden on myös oltava kohtuullisia, oikeasuhteisia ja niissä on otettava huomioon perusoikeudet.
Huoli kohdistuukin epäsuoraan ohjailuun. Kun poliittisesti latautuneet ja vaikeasti mitattavat käsitteet, kuten kansalaiskeskustelu, vaaliprosessit, yleinen turvallisuus ja henkinen hyvinvointi, yhdistetään liikevaihtoon perustuvien sakkojen uhkaan, yhtiöillä on vahva kannustin valita sääntelijän silmissä turvallisin polku.
Bryssel saa pääsyn tietoihin ja algoritmeihin
Nimeäminen antaa Euroopan komissiolle suorat valvontavaltuudet kaikkiin kolmeen palveluun. Se voi pyytää tarpeelliseksi katsomiaan tietoja, määrätä pääsyn tietoihin ja algoritmeihin, suorittaa vapaaehtoisia haastatteluja ja tarkastaa yhtiöiden toimitiloja.
Komissio voi myös vaatia riippumattomia vuosittaisia tarkastuksia ja antaa erityisesti valtuutetuille tutkijoille pääsyn muihin kuin julkisiin tietoihin systeemisten riskien ja yhtiöiden vastatoimien tutkimiseksi. ChatGPT:n, Redditin ja Robloxiin on perustettava sisäiset vaatimustenmukaisuustoiminnot varmistamaan, että riskeistä raportoidaan ja ne käsitellään.
Mikäli komissio epäilee välitöntä vakavan haitan riskiä, se voi määrätä väliaikaisia toimenpiteitä ennen kuin lopullinen rikkomus on todettu. Omalla tiedotussivullaan se mainitsee esimerkkeinä muutokset suosittelujärjestelmiin ja tiettyjen avainsanojen tai aihetunnisteiden tehostetun seurannan.
ChatGPT:n ja Redditin osalta täytäntöönpanoa koordinoidaan Irlannin media-alan sääntelyviranomaisen, Coimisiún na Meánin, kanssa. Robloxin osalta mukana on Alankomaiden kuluttaja- ja markkinaviranomainen, sillä yhtiöiden eurooppalaiset toimipaikat sijaitsevat kyseisissä maissa.
Sakoilla globaalia vaikutusvaltaa
Jos yhtiön todetaan rikkoneen DSA:ta, komissio voi vaatia muutoksia asettamassaan määräajassa ja määrätä sakkoja, jotka ovat enintään 6 prosenttia maailmanlaajuisesta vuotuisesta liikevaihdosta.
Virheelliset, harhaanjohtavat tai puutteelliset vastaukset tutkinnan aikana voivat johtaa sakkoihin, jotka ovat enintään 1 prosentti maailmanlaajuisesta liikevaihdosta. Tietojen antamisesta kieltäytyminen, tarkastajien pääsyn estäminen tai päätösten noudattamatta jättäminen voi myös laukaista uhkasakkoja, jotka ovat enintään 5 prosenttia keskimääräisestä päivittäisestä maailmanlaajuisesta liikevaihdosta jokaiselta viivästyspäivältä.
Viimeisenä keinona palvelun käyttöä voidaan rajoittaa tilapäisesti. Tämä valta on huomattavasti kapeampi kuin sakotusvalta ja edellyttää jatkuvaa rikkomusta, joka aiheuttaa vakavaa haittaa ja johon liittyy rikoksia, jotka vaarantavat ihmisten hengen tai turvallisuuden. Tällaisesta toimenpiteestä on päätettävä sijoittautumismaan tuomioistuimessa.
Kriitikot: laki palkitsee yliblokkauksen
Digitaalisia oikeuksia ajava Electronic Frontier Foundation (EFF) varoittaa, että systeemisten riskien kategoriat on määritelty epämääräisesti ja ne voidaan politisoida. Se viittaa riskiin, että laillista mutta kiistanalaista sisältöä poistetaan tai sen näkyvyyttä vähennetään yhtiöiden pyrkiessä välttämään sanktioita.
Humboldt Institute for Internet and Society -instituutin tutkijat kuvailevat samaa rakenteellista kannustinta: kun laittoman sisällön poistamatta jättämisestä rangaistaan ankarammin kuin laillisen materiaalin virheellisestä poistamisesta, yhtiöitä rohkaistaan liian tiukkaan moderointiin. Instituutti torjuu väitteen, että DSA itsessään olisi sensuurilaki, mutta korostaa, että myös yliblokkausta voidaan pitää systeemisenä riskinä.
Euroopan komissio tähdentää, että laki antaa käyttäjille oikeuden perusteluihin, sisäiseen uudelleentarkasteluun, ulkoiseen riidanratkaisuun ja tuomioistuinvalvontaan, kun sisältöä poistetaan. Mutta jopa DSA:ta puolustavat tutkijat myöntävät, että rajaa laillisen riskienhallinnan ja epäsuoran valtiollisen ohjailun välillä on seurattava tarkasti.
Ennakkotapaus generatiiviselle tekoälylle
ChatGPT:n nimeäminen on periaatteellisesti tärkeää, koska DSA kirjoitettiin ennen kuin nykyiset generatiiviset tekoälypalvelut yleistyivät. Oikeusoppineet ovat olleet erimielisiä siitä, miten chatbot, joka sekä hakee tietoa, tallentaa käyttäjän sisältöä että generoi omia vastauksiaan, sopii lain kategorioihin.
Komissio on nyt valinnut teknologianeutraalin ja laajan tulkinnan: koska ChatGPT voi hakea tietoa verkosta, palvelu lasketaan hakukoneeksi, ja sen kattavuus avaa oven korkeimman tason valvonnalle. Päätöksestä voidaan valittaa EU-tuomioistuimiin, mutta se pysyy voimassa, ellei sitä muuteta tai kumota.
Tammikuusta 2027 alkaen kolmen amerikkalaispalvelun on siten mukautettava algoritminsa ja sisäiset vaatimustenmukaisuusjärjestelmänsä eurooppalaiseen riskimalliin, jonka keskeisiltä käsitteiltä puuttuvat selkeät rajat. Komissio kutsuu tätä suuremmaksi vastuullisuudeksi. Käytännössä se antaa Brysselille pysyvän paikan joidenkin maailman käytetyimpien digitaalisten palvelujen konehuoneessa.
