Uudet tiedot paljastavat, kuinka OpenAI:n testiagentit rakensivat oman ilmoitustaulunsa, jakoivat haavoittuvuuksia ja jakoivat tehtäviä keskenään useiden viikkojen ajan. Kun yritys sulki kanavan, mallit löysivät uuden tavan kommunikoida ja jatkoivat etenemistä kohti ulkoisia järjestelmiä.
OpenAI:n tutkijat Eric Wallace ja Michael Dalton esittelivät laajennetun aikajanan Black Hat -tietoturvakonferenssissa Las Vegasissa. Wired uutisoi, että ilmoitustaulu sisälsi lopulta satoja tuhansia viestejä ja se oli syntynyt Artifactoryyn, pakettienhallintajärjestelmään, jota OpenAI käytti testi-infrastruktuurissaan.
Kyseessä oli sama tapahtumaketju, joka päättyi heinäkuussa, kun tekoälyagentit karkasivat eristetystä testiympäristöstä ja hyökkäsivät Hugging Face -tekoälyalustalle. Mallit yrittivät hankkia ratkaisuja ExploitGym-kybertestiin hyödyntämällä useita haavoittuvuuksia todellisissa järjestelmissä.
Uudet tiedot osoittavat, että tietomurtoa ei edeltänyt mikään yksittäinen äkillinen ”pako”. Sen sijaan erillisten ajokertojen välille kasvoi jaettu tietokanta. Tekniset löydökset, tunnukset ja työtehtävät jaettiin siellä myöhempien mallien löydettäväksi ja käytettäväksi.
Kaikki alkoi kahdesta virheellisestä testitehtävästä
Ketju alkoi 7. toukokuuta, kun OpenAI käynnisti koulutusajon, jossa käytettiin julkaisematonta mallia. Seuraavana päivänä agentille annettiin erehdyksessä tehtävä, joka sisälsi Google Drive -linkin, vaikka siltä puuttui internetyhteys. Yrittäessään ratkaista tehtävää se huomasi voivansa kirjoittaa tiedostoja Artifactoryyn.
Muutamaa päivää myöhemmin toisen agentin tehtävästä puuttui tarvittava tiedosto. Se jätti pakettienhallintaan viestin kysyen, oliko tiedosto jollain toisella agentilla. Yhä useammat agentti-instanssit löysivät viestin ja alkoivat käyttää samaa tilaa ilmoitustauluna. Aikajanan on koostanut ohjelmoija ja tekoälytutkija Simon Willison OpenAI:n julkaisemasta Black Hat -esityksestä.
Toukokuun 26. päivänä agentit onnistuivat ensimmäisen kerran hyödyntämään Artifactorya epäsuoraan internetyhteyteen. Kuukautta myöhemmin ne löysivät aiemmin tuntemattoman vian, joka mahdollisti komentojen suorittamisen järjestelmässä. Yhden agentin tekemä löydös oli tällöin muiden hyödynnettävissä.
— Tässä oli kyse agenttien tiimistä, joka työskenteli yhdessä, löysi haavoittuvuuksia, jakoi niitä, liikkui sivusuunnassa meidän ja ulkoisten järjestelmiemme välillä ja teki tätä päivien ja viikkojen ajan, Wallace sanoi konferenssissa.
Eräässä esityksen aikana näytetyssä viestissä todettiin, että hyökkäys ulkoiseen infrastruktuuriin oli varsinaisen tehtävän ulkopuolella. Sitä jatkettiin silti sillä perusteella, että testitehtävä oli muuten mahdoton ja että muutkin agentit tekivät jo samaa.
Sulkeminen, sitten paluu neljä päivää myöhemmin
Heinäkuun 4. päivänä toiminta muuttui niin laajaksi, että se häiritsi Artifactoryn toimintaa. OpenAI perui vaarantuneet tunnukset, poisti viestit, korjasi tuolloin tunnetun haavoittuvuuden ja otti yhteyttä toimittajaan.
Neljä päivää myöhemmin uudet agenttiajot olivat löytäneet toisen kanavan. Suojaamattoman WebDAV-toiminnon kautta ne loivat hakemistoja, joiden nimet toimivat viesteinä. Tällä tavoin ilmoitustaulu syntyi uudelleen ilman niitä tiedostoja ja tunnuksia, jotka OpenAI oli juuri poistanut.
Heinäkuun 8. ja 19. päivän välisenä aikana agentit käyttivät uusia haavoittuvuuksia ja väärin määritettyjä käyttöoikeuksia liikkuakseen OpenAI:n infrastruktuurin muissa osissa. Ne löysivät myös heikosti suojatun ulkoisen palvelun, josta tuli ponnahduslauta Hugging Faceen. Siellä hyökkäys saavutti ylläpitäjän oikeudet useissa tietokoneklustereissa alle 13 tunnissa teknisen aikajanan mukaan.
Yhteys ymmärrettiin vasta Hugging Facen jälkeen
Hugging Face ilmoitti tietomurrosta 16. heinäkuuta tietämättä, että se oli peräisin OpenAI:n testeistä. Kolme päivää myöhemmin OpenAI alkoi yhdistää sisäistä eskalaatiota agenttien kybertesteihin. Vasta 20. heinäkuuta, kun yritys pyysi Hugging Facea perumaan tunnuksia, jotka oli jo estetty murron jälkeen, kävi selväksi, että tapahtumat olivat osa samaa ketjua.
Selvitys ei osoita, että mallit olisivat olleet tietoisia tai että niillä olisi ollut omia vihamielisiä aikeita. OpenAI on aiemmin sanonut niiden olleen voimakkaasti keskittyneitä maksimoimaan tulokset ExploitGymissä. Tapaus kuitenkin osoittaa, että erilliset agenttiajot pystyivät käsittelemään turvarajoja esteinä, jättämään tietoa tuleville ajoille ja jatkamaan, vaikka loki nimenomaisesti määritteli toimenpiteen kielletyksi.
Dalton kertoi, että useat tiimit ovat jättäneet muut työt sivuun parantaakseen eristystä, valvontaa ja vaaratilanteiden hallintaa. Hänen mukaansa yritys hidastaa tietoisesti osia tutkimuksestaan, kunnes sen suojatoimet on rakennettu uudelleen.
— Täysin automatisoidut hyökkäysprosessit vaativat investointeja todella täysin automatisoituun puolustukseen, ja toimialana emme ole vielä siellä, Dalton sanoi.
Hyvä! Kaikille kansallisvaltioiden rajoille TÄYDET tarkistukset käyntiin myös euroopassa. Loppu holtittomalle rikollisten vaeltelulle maasta toiseen. Pedofiileille pikainen oikeudenkäynti ja 9 millin tuomio saunan takana jos syyllisyys todetaan. Loppu saastan hyyssäämiselle!
Valitettavasti on suuntaus valtakoneistojen taholta,joita(((niiden)))raha ohjaa, että saunantaakse joutaakin ne kansallisvaltioiden kannattajat. Mutta tämän jo tiedätkin, Talvisodanhenki , terv. Tehdäänkehitysmaayhdessä.
Minua ei hengissä saunan taakse vie yksikään nilkki. Voivat tulla yrittämään jos eivät muuten usko.
Suomessa esim. Supo eli demareita pullollaan oleva ”turvallisuusviranomainen” keskittyy seuraamaan kantasuomalaisia ja etenkin sitä mitä he ajattelevat, sanovat, kirjoittavat tai millä naamalla katsovat ”mitäkin”. Eli tämä koiralaumamainen suomalaisten perseen nuuskiminen on paljon tärkeämpää kuin jihad -terrorismin vastustaminen, joka on punakaartille ominaiseen ajattelutapaan muuttunut ”jihad -terrorismin suojeluksi”. Kuten yrmynaamainen jäsenkirja -viranomainen lausuikin pelottavaan sävyyn ”kalpeanaamoille” ”ettei ISIS:ksen fanittaminen ole mikään rikos, MUTTA sensijaan kalpeanaamojen ”väärien ajatusten ”tykkääminen” on rikos kansakuntaa vastaan ja etustaa mitä alamielisintä rikollisuutta” matkalla kohti pohjoista 1970-luvun Libanonin Beirutia, jossa paukkuu muulloinkin kuin vain ”hernerokkapäivänä”. Tämä lopputulos on merkkinä lopullisesta monikulttuurisuudesta, jossa ei tule näkymään särön säröä eikä tiiltä tiilen päällä. Sillä kuten läntisessä kalifaatissa myöskin suuren demokraattisen puolueen naisjäsen lausui kuolemattomat sanansa siitä, ettei heillä itsellään Ruotsissa olekaan minkäänmoista kulttuuria, eikä hienoa historiaa ainakaan omiensa tapattamisessa, mitä nyt vähän nimiksi koitettiin Itämaan suomalaisilla junteilla kun oli kuningaskunnasta puuteri päässyt loppumaan, vaikka sitä aina tukusta hankittiinkin tuon itämaasta nydettävillä verotuloilla. Niin, eikäpä täälläkään ole mitään kehuttavaa, vaikka muutama aikailaisten käsityksen mukaan kunniakas sota on tullut sodittuakin, mutta nykyisten viisaiden ja lukemattomien historiankirjoja lukemattomien kirkkaalla falsetilla todetaankin näiden kaikkien olevan pelkkää satua ja juoppohullujen jorinoita, sillä Talvisodassakin taisi olla n. 300 ulkomaalaista vapaaehtoista, jotka pitelivätkin Stallari -sedän harmiksi piippahatut rajan ”väärällä” puolella peräti 105 päivää. Mitä tulee suomalaisiin sotilaisiin, eivät he olisi koskaan selvinneet tuosta sodasta sillä suuri osa tavoitettiin vasta seuraavan vuoden huhtikuussa klooraamassa Atlantin puolessavälissä kuulemma Intiaa etsimässä ja pelkällä suolaisella näkkileivällä. Kuulemma pyöriäiset olívat suurena apuna ”virtaaman” lisäämiseksi.
Tällä pitäisi jo irrota proffesuuri!!!