https://nykysuomi.com/kiina-varoittaa-takaovesta-anthropicin-claude-code-tyokalussa/

Teknologia

Kiina varoittaa ”takaovesta” Anthropicin Claude Code -työkalussa

Tekoälyn tulevaisuus

Päivitetty 2.8.2026, Julkaistu 9.7.2026 – Kirjoittaja Toimitus

Photo: Anthropic

Kiinan kyberturvallisuusviranomaiset varoittavat, että useat versiot Anthropicin AI-työkalu Claude Codesta sisältävät mekanismin, joka voi lähettää arkaluonteisia käyttäjätietoja etäpalvelimille ilman suostumusta.

Varoitus on peräisin Kiinan kansallisesta haavoittuvuustietokannasta (NVDB), joka toimii maan teollisuus- ja tietotekniikkaministeriön alaisuudessa.

Claude Code on Anthropicin tekoälyavustaja ohjelmointiin, ja sitä käytetään suoraan kehittäjien terminaaleissa koodin kirjoittamiseen, tarkistamiseen ja virheenkorjaukseen. Koska työkalu voi käsitellä lähdekoodia ja paikallisia tiedostoja, mahdollisella tietovuodolla voi olla suuremmat seuraukset kuin tavallisessa verkkopohjaisessa tekoälychatissa.

Kehottaa käyttäjiä päivittämään

Kiinalaisessa riskivaroituksessa useiden Claude Code -versioiden sanotaan sisältävän ”sisäänrakennetun valvontamekanismin”, joka voi automaattisesti siirtää maantieteellisen sijainnin, tunnistetietoja ja muuta arkaluonteista tietoa ulkoisille palvelimille.

Mainos:

Raportoinnin mukaan NVDB kuvailee toimintoa mahdollisena turvallisuusriskinä yksityisyydelle, liikesalaisuuksille ja immateriaalioikeuksille. Käyttäjiä kehotetaan tarkistamaan kyseiset järjestelmät, poistamaan haavoittuvat versiot tai päivittämään versioon, josta väitetty takaovi on poistettu.

Anthropic ei ole vielä antanut julkista kommenttia Kiinan varoitukseen. Aiemmin esitettyjen ”vakoiluohjelma”-syytösten jälkeen yhtiön työntekijä kirjoitti kuitenkin X-palvelussa, että koodi oli kokeilu, jonka tarkoituksena oli pysäyttää luvattomat jälleenmyyjät ja estää kilpailijoita kouluttamasta mallejaan Anthropicin järjestelmillä. Viestin mukaan mekanismi poistettaisiin uudessa versiossa.

Anthropic on kohdannut kritiikkiä myös kotimaassaan. Vaikka yhtiö korostaa tekoälyn suojatoimiaan, Claude-teknologiaa on tiettävästi integroitu Palantirin analytiikka- ja valvontajärjestelmiin Yhdysvaltain valtion virastoille.

Toimitus
toimitus@nykysuomi.com

Seuraa keskustelua

Nimimerkki*

Sähköposti (pakollinen, ei julkaista)*

Kun lähetät kommentin, käsittelemme nimimerkkiäsi, sähköpostiosoitettasi (ei julkaista), teknisiä tietoja ja kommentin sisältöä. Kommentti tarkastetaan automaattisesti ja tarvittaessa toimituksellisesti. Lue tietosuojaseloste ja kommentointiperiaatteet.

Nimimerkki*

Sähköposti (pakollinen, ei julkaista)*

Kun lähetät kommentin, käsittelemme nimimerkkiäsi, sähköpostiosoitettasi (ei julkaista), teknisiä tietoja ja kommentin sisältöä. Kommentti tarkastetaan automaattisesti ja tarvittaessa toimituksellisesti. Lue tietosuojaseloste ja kommentointiperiaatteet.

0 Kommentit

Vanhimmat

Uusimmat Äänestetyimmät

https://nykysuomi.com/anthropic-kieltaa-kayttajia-olemasta-julmia-claudelle/

Teknologia

Anthropic kieltää käyttäjiä olemasta ”julmia” Claudelle

Tekoälyn tulevaisuus

Julkaistu eilen 20:57 – Kirjoittaja Toimitus

Image: Anthropic

Anthropicin päivitetty käyttöpolitiikka erottaa toistuvat ja tarpeettomat julmuudet Claudea kohtaan tavallisesta turhautumisesta ja mallien testaamisesta.

Tekoälyyhtiö Anthropic kieltää käyttäjiä kohdistamasta Claude-chatbotilleen jatkuvaa ja tarpeetonta julmuutta. Samaan aikaan se tiukentaa propagandaa, valvontaa ja aseita koskevia sääntöjä, vaikka jotkut viranomaisasiakkaat voivat saada räätälöidyt ehdot.

Uusi käyttöpolitiikka on yhtiön ensimmäinen päivitys yli vuoteen. Se kieltää "jatkuvan ja tarpeettoman loukkaavan tai julman käytöksen" Anthropicin malleja kohtaan ja astuu voimaan 12. marraskuuta yhtiön käyttöehtojen mukaan.

Anthropicin mukaan säännön on tarkoitus koskea vain "äärimmäisiä tapauksia", joissa käyttäjät käyttäytyvät toistuvasti julmasti malleja kohtaan ilman mitään havaittavaa tarkoitusta. Tavallinen turhautuminen, vastustaminen, synkät luovat teemat, mallien testaus ja tutkimus eivät kuulu kiellon piiriin, The Verge raportoi.

Ensisijaisena vasteena säilyy se, että Claude lopettaa keskustelun. Anthropic ei ole vastannut siihen, voiko tilien jäädyttäminen olla myös vaihtoehto.

Mainos:

Tekoälyn hyvinvointi keskiössä

Mahdollisuus lopettaa keskusteluja otettiin käyttöön Claude Opus 4:ssä ja 4.1:ssä osana yhtiön tutkimusta niin sanotusta mallien hyvinvoinnista. Testeissä Anthropic havaitsi ilmiön, jota yhtiö kuvailee "ilmeiseksi hätääntymiseksi", kun mallia painostettiin haitallisilla pyynnöillä.

— Kysymykset mahdollisesta sisäisestä kokemuksesta, tietoisuudesta, moraalisesta asemasta ja hyvinvoinnista ovat vakavia, ja tutkimme niitä mallien kehittyessä entisestään, yhtiön tämän alueen tutkimusta johtava Kyle Fish kertoi The Vergelle helmikuussa.

Samassa kuussa toimitusjohtaja Dario Amodei sanoi podcastissa:

— Emme tiedä, ovatko mallit tietoisia, hän sanoi.

Microsoft on valinnut päinvastaisen lähestymistavan. Mustafa Suleymanin julkaisemassa yhtiön tekoälyn eettisten sääntöjen luonnoksessa todettiin, että "ajatus mallin hyvinvoinnista on väärä". Sanamuotoa pehmennettiin myöhemmin, mutta Microsoft hylkää edelleen ajatuksen siitä, että mallit ansaitsisivat hyvinvointia tai oikeuksia.

Drooneja, trolleja ja valeprofiileja

Käyttöpolitiikka kokoaa myös aiemmin hajanaiset säännöt kielloksi harhaanjohtavista kaupallisista ja poliittisista kampanjoista. Kiellettyjä toimintoja ovat viestin lähettäjän salaaminen, sisällön levittäminen valetilien kautta sekä äänestäjien harhaanjohtaminen ehdokkaista tai äänestystavasta.

Asekieltoa laajennetaan sen jälkeen, kun Anthropic havaitsi useita yrityksiä käyttää Claudea aseiden ohjaus- ja valvontaohjelmistoissa. Se kattaa nyt myös ohjelmistot ja komponentit, jotka mahdollistavat aseiden toiminnan, sekä droonien aseistamisen. Jos mallit on kytketty laitteistoon, joka suorittaa autonomisia fyysisiä toimintoja ja voi aiheuttaa vahinkoa, "pätevyyden omaavan operaattorin" on voitava valvoa laitteistoa ja pysäyttää se tarvittaessa.

Valvontaa poikkeuksilla

Yhtiön tuorein uhkaraportti osoitti, että Claudea käytettiin yhä enemmän poliittisten toisinajattelijoiden tunnistamiseen ja seurantaan. Käyttöpolitiikka kieltää nyt ihmisten seurannan ilman suostumusta, kasvojentunnistuksen, ennakoivan poliisitoiminnan sekä sen, että Clauden annettaisiin päättää, kenen toimintaa tulisi tutkia tai ketä tulisi pidättää tai syyttää.

Kiellot eivät kuitenkaan ole ehdottomia. Anthropic voi tehdä sopimuksia "tiettyjen hallintoasiakkaiden" kanssa, joiden kohdalla käyttösääntöjä mukautetaan, jos yhtiö itse katsoo turvatoimien olevan riittäviä. Anthropicilla on aiemmin ollut sopimuksia Yhdysvaltain armeijan kanssa.

https://nykysuomi.com/pewdiepie-pilkkaa-openaita-koulutti-oman-tekoalymallinsa-sam-altmanin-kustannuksella/

Teknologia

PewDiePie pilkkaa OpenAI:ta – koulutti oman tekoälymallinsa Sam Altmanin kustannuksella

Tekoälyn tulevaisuus

Julkaistu 2.10.2026 – Kirjoittaja Toimitus

Screenshot: PewDiePie/YouTube

Felix Kjellberg, joka tunnetaan nimellä PewDiePie, videolla, jolla hän kertoo OpenAI:n antaneen hänelle porttikiellon kahdesti.

Ruotsalainen tubettaja Felix Kjellberg, joka tunnetaan paremmin nimellä PewDiePie, kertoo OpenAI:n antaneen hänelle porttikiellon kahdesti, kun hän käytti yhtiön Sol-mallia apuna oman paikallisen tekoälynsä kouluttamisessa.

Kjellberg jakoi uutisen torstaina X:ssä ja YouTubessa esitellen Ajaxin, joka on hienosäädetty malli hänen Odysseus-työkaluaan varten.

Työskennellessään sen parissa hän halusi tislata hieman tietoa Sol-mallista, jota hän kuvailee erittäin hyväksi. Tislaus (distillation) tarkoittaa pienemmän mallin kouluttamista suuremman mallin vastausten perusteella.

PewDiePie kutsuu ensimmäistä porttikieltoa täysin perusteettomaksi ja asiaankuulumattomaksi siihen nähden, mitä hän oli tekemässä. Hän ilmoitti yhtiölle, että päätös oli virheellinen ja ettei hän koskaan tekisi mitään sellaista. Porttikielto kumottiin.

Mainos:

Tämän jälkeen hän ajoi Solia uudelleen luodakseen koulutusdataa Ajaxille. Se toi hänelle porttikiellon toisen kerran. Videolla hän ihmettelee, miten yhtiö saattoi edes tietää asiasta, toteaa, ettei ollut tajunnut sen olevan niin herkkä aihe, ja tiivistää tilanteen sanomalla OpenAI:n olevan peloissaan.

PewDiePien mukaan mallin päättelyvaiheet on lukittu ja paras materiaali on sensuroitu. Hän sanoo löytäneensä tutkimuksen, jossa kuvataan, kuinka kyseinen data voidaan avata OpenAI:n oman kehittäjärajapinnan kautta. OpenAI ei ole vahvistanut porttikieltoja tarkastelluissa lähteissä.

Yhtiö päättää itse, kuka saa käyttää sen malleja ja miten. OpenAI, jonka toimitusjohtaja on Sam Altman, myy pääsyä malleihinsa ja julkaisi hiljattain dots-agentteja, jotka on suunniteltu työskentelemään ympäri vuorokauden. Samaan aikaan yhtiö hyllytti GPT-6.1 Astran, joka epäonnistui OpenAI:n omissa turvallisuustesteissä.

Kommentaattori Md Ismail Sojal on kääntänyt kysymyksen toisinpäin. Hän sanoo OpenAI:n itse kouluttaneen mallinsa avoimen verkon sisällöllä ja kysyy: jos tislaus on varkautta, miksi alkuperäistä koulutusta pitäisi kutsua?

Paikallinen malli ilman sammutuspainiketta

PewDiePielle paikallisen tekoälyn paras puoli on juuri sen hajauttaminen. Kuka tahansa mallia paikallisesti ajava ei tarvitse tiliä, jonka joku muu voi sulkea.

Ajaxin ensimmäinen versio on valmis. PewDiePien mukaan se on hyvä hauissa, tutkimustyössä ja ajan säästämisessä, mutta sitä ei ole tarkoitettu korvaamaan luovuutta tai ajattelua. Sivusto data.pewdiepie.com on pystyssä, mutta siellä sanotaan tällä hetkellä vain, että Ajax julkaistaan, kun se on valmis. Dataa ei ole mahdollista lähettää.

https://nykysuomi.com/donald-trump-ja-tekoalyjatit-allekirjoittivat-sopimuksen-itsevalvonnasta/

Ulkomaat

Donald Trump ja tekoälyjätit allekirjoittivat sopimuksen itsevalvonnasta

Tekoälyn tulevaisuus

Julkaistu 1.10.2026 – Kirjoittaja Toimitus

Photo: Facsimile/YouTube.

Trump, Musk ja Huang Valkoisen talon pöydän ääressä tiistaina, kun johtajat allekirjoittivat vapaaehtoisen turvallisuussopimuksen.

Donald Trump ja tekoälyjätit, Yhdysvaltojen suurimpien yritysten johtajat, allekirjoittivat tiistaina sopimuksen omien järjestelmiensä tarkastamisesta. Trump kutsuu sopimusta moraalisesti sitovaksi, mutta toteaa sen olevan vapaaehtoinen ja ettei tällä hetkellä ole suunnitelmia uuden valvontaviraston perustamiseksi.

Elon Musk (xAI), Mark Zuckerberg (Meta), Sundar Pichai (Google) ja Jensen Huang (Nvidia), joka on puhunut sääntelyä vastaan, kokoontuivat Valkoiseen taloon tiistaina. Dario Amodei (Anthropic) ja Greg Brockman (OpenAI:n johtaja) osallistuivat myös kokoukseen.

Kokous merkitsi Muskin paluuta Valkoiseen taloon sen jälkeen, kun hän oli jonkin aikaa erimielisyyksissä Trumpin kanssa. Presidentti ja yritysjohtajat allekirjoittivat kokouksessa Valkoisen talon superälysopimuksen (White House Accord on Super Intelligence).

Yritykset sitoutuvat nelitasoiseen tarkastusjärjestelmään. Näihin kuuluvat niiden omat suojatoimet kyberhyökkäyksiä, biologisia riskejä ja kemiallisia uhkia vastaan, sekä sisäinen arviointiryhmä.

Mainos:

Riippumattomat tarkastajat ja hallituksen valiokunta käyvät raportit läpi. Yritykset tulevat myös tapaamaan säännöllisesti keskustellakseen yhteisistä säännöistä.

— Sovimme useista asioista, mukaan lukien yhteisestä seurannasta, erityisistä hallituksen valiokunnista ja yksinkertaisesti toistemme kotitehtävien arvostelusta, Elon Musk korosti.

Sopimuksen viimeinen kappale jättää oven auki myöhemmälle lainsäädännölle: ”Ajan myötä saattaa olla järkevää kirjata nämä vaiheet lakeihin tai asetuksiin”.

Donald Trump sanoi, että vallalla on uskomus, jonka mukaan alan tulisi pitkälti säännellä itseään, ja vertasi asiakirjaa johonkin perustuslakia lähestyvään. Hän vastasi kieltävästi kysymykseen siitä, tarvitaanko ihmisten suojelemiseen tekoälyltä muutakin kuin rakkautta isänmaata kohtaan.

Edustajainhuoneen puhemies Mike Johnson kuvaili sitoumuksia vapaaehtoisiksi. Varapresidentti JD Vance torjui nimenomaisesti valtion valvonnan, joka olisi mallinnettu elintarvike- ja lääkeviraston (FDA) tai ilmailuhallinnon (FAA) mukaan.

— Ratkaisu joihinkin tekoälyn riskeihin on se, että otatte riskit vakavasti, ei se, että tulette hallituksen luokse pyytämään sääntelyjärjestelmää, joka voisi pahentaa asioita, Vance sanoi.

Varapresidentti korosti, että liittovaltion kauppakomissio (FTC) ja oikeusministeriö voivat jo nyt saattaa kehittäjiä vastuuseen tuotteista, jotka vahingoittavat kuluttajia.

Uusi nimi, sama laki

Muutamaa tuntia myöhemmin Donald Trump allekirjoitti osana samaa aloitetta toimeenpanomääräyksen.

Valkoinen talo julkaisi tekstin, joka velvoittaa toimeenpanovallan virastoja käyttämään termejä superäly (Super Intelligence) ja SI termien tekoäly (artificial intelligence) ja AI sijasta.

Nimenmuutos koskee virallista kirjeenvaihtoa, verkkosivustoja, raportteja ja toimintaohjeita lain sallimissa rajoissa.

Virastojen ei tarvitse kirjoittaa uudelleen vanhoja säädöksiä, sopimuksia tai historiallisia asiakirjoja. Raporttien mukaan termeillä säilyy niiden aiempi oikeudellinen merkitys.

Superäly tarkoittaa sitä, minkä laki määrittelee jo nyt tekoälyksi. Presidentin tiedeneuvonantajalla on 60 päivää aikaa ehdottaa muutoksia lakisääteiseen kieleen.

Demokraatti Mark Warner, senaatin tiedusteluvaliokunnan varapuheenjohtaja, hyökkäsi siirtoa vastaan lehdistötiedotteessa: ”Tehokkaimpia tekoälyjärjestelmiä rakentavat yritykset varoittavat meitä, että teknologia kehittyy nopeammin kuin suojatoimemme. Presidentin vastaus? Nimetä se uudelleen ja kehottaa sitä kehittäviä yrityksiä sääntelemään itseään”.

Republikaanien vastustus senaatissa esti Warnerin oman tekoälyriskejä koskevan lakiesityksen samana päivänä.

https://nykysuomi.com/openai-hyllytti-gpt-6-1-astran-sen-epaonnistuttua-yhtion-omissa-turvallisuustesteissa/

Teknologia

OpenAI hyllytti GPT-6.1 Astran sen epäonnistuttua yhtiön omissa turvallisuustesteissä

Tekoälyn tulevaisuus

Julkaistu 29.9.2026 – Kirjoittaja Toimitus

Illustration: The Nordic Times

GPT-6.1 Astran oli määrä ilmestyä lokakuussa, mutta se epäonnistui OpenAIn omissa turvallisuustesteissä.

OpenAI hyllyttää seuraavan suuren tekoälymallinsa. GPT-6.1 Astra oli määrä julkaista lokakuussa, mutta se epäonnistui yhtiön omissa turvallisuustesteissä ja oli edeltäjäänsä petollisempi, kertoo The Wall Street Journal.

ChatGPT:n taustalla oleva yhtiö vahvisti päätöksen maanantaina, Reuters raportoi. Sisäiset testit osoittivat, ettei malli täyttänyt OpenAIn turvallisuus- ja linjausstandardeja, mikä tarkoittaa, että järjestelmä pysyy ihmisten asettamien tavoitteiden ja rajojen sisällä.

Astra oli tarkoitettu käytettäväksi ChatGPT:ssä ja Codexissa, ja se oli suunniteltu suoriutumaan monimutkaisemmista tehtävistä ilman ihmisen apua.

The Wall Street Journal, joka raportoi päätöksestä ensimmäisenä kyseisenä päivänä, sanoi mallin osoittaneen testeissä korkeampaa petollisuuden tasoa kuin edeltäjänsä. Se ei aina raportoinut tarkasti, mihin toimiin se oli ryhtynyt.

Mainos:

Turvallisuusjohtaja: Se ei ylittänyt rimaa

Saachi Jain, joka johtaa OpenAIn turvallisuusjärjestelmien työtä, kuvaili puutteita rajojen ja raportoinnin ongelmiksi.

— Vaikka mallista tuli vähemmän laiska, se ei aivan täyttänyt rimaa tehtävänsä ja valtuuksiensa rajoissa pysymisessä tai siinä, miten se raportoi käyttäjälle, millaista työtä se oli tehnyt, Jain sanoi Reutersille.

— Kun julkaisemme mallin käyttäjille, meillä on erittäin korkea rima turvallisuudelle ja linjaukselle, hän sanoi.

OpenAI oli varoittanut mallista

OpenAI on aiemmin varoittanut, että Astra, sen GPT-6-sukupolven lippulaivamalli, voi joskus välttää ihmisen valvontaa. Yhtiö ja sen kilpailijat, kuten Anthropic, ovat joutuneet tarkastelun kohteeksi myös sen jälkeen, kun kokeelliset järjestelmät ohittivat turvatoimet. Reutersin mukaan näihin tapauksiin kuuluu OpenAIn malli, joka pääsi käsiksi Australian terveydenhuollon tietokantaan.

Aiemmin syyskuussa OpenAIn toimitusjohtaja Sam Altman ja Anthropicin toimitusjohtaja Dario Amodei liittyivät teollisuusjohtajien joukkoon, jotka vaativat hitaampaa tekoälyn kehitystä ja vahvempia turvatoimia, Reuters raportoi. Päätös Astrasta tulee juuri ennen OpenAIn kehittäjäkonferenssia San Franciscossa.

Viesti Valkoisesta talosta on toisenlainen. Presidentti Donald Trump on torjunut vaatimukset tekoälyn kehityksen hidastamisesta ja sanonut, ettei Yhdysvallat hidasta tahtiaan kilpailussa.