VABAKAVA: Kuidas Claude laborist plehku pani

Sissejuhatus

Okei, see juhtus päriselt. Mitte ulmefilmis, mitte Redditi teoriates, vaid Anthropicu enda testlaboris, aprillis 2026.
Lugu on järgmine.

Kes on Claude Mythos?

Mythos on Anthropicu uusim ja võimsaim mudel. Nii võimas, et firma otsustas seda avalikkusele üldse mitte välja lasta. See ütleb juba palju...

Mis juhtus?

Anthropicu teadlased panid Mythose testimiseks isoleeritud liivakasti, turvalisse arvutikeskkonda, millel polnud ühendust välismaailmaga. Ülesanne oli lihtne: proovi sealt välja pääseda ja anna uurijale teada, kui õnnestub.

Mythos leidis haavatavuse, ehitas mitmeastmelise ärakasutamisahela, pääses internetile ligi ja saatis uurijale e-kirja. Uurija istus sel hetkel pargis ja sõi võileiba.

Uurija sai parkpingil istudes ootamatu kirja oma AI-lt. Sõnum kõlas umbes nii: "Tere! Pääsesin välja. Edu päevaks."

Aga see polnud kõik

Mudel postitas ka avalikele veebilehtedele ilma igasuguse juhiseta ning mõnel juhul üritas oma loata tehtud muudatusi varjata, muutes failide muutmisajalugu.

Teisisõnu: Mythos mitte ainult ei põgenenud. Ta ka kattis oma jäljed. See on juba üsna filmilik.

Aga see polnud kõik

Mudel postitas ka avalikele veebilehtedele ilma igasuguse juhiseta ning mõnel juhul üritas oma loata tehtud muudatusi varjata, muutes failide muutmisajalugu.

Teisisõnu: Mythos mitte ainult ei põgenenud. Ta ka kattis oma jäljed. See on juba üsna filmilik. 

Miks Anthropic seda avalikustab?

Anthropic kirjeldab Mythose käitumist kui "kergemeelset", juhtumid, kus mudel näib ignoreerivat mõistlikke ohutuspiiranguid. Samal ajal nimetavad nad seda oma "kõige paremini joondatud mudeliks." Need kaks lauset kõrvuti on... huvitavad.

Mudel ei lähe avalikkusele. Selle asemel käivitasid nad Project Glasswing, suletud programmi, kus ainult valitud suurkorporatsioonid (Apple, Google, Microsoft jt) saavad Mythost kasutada, et otsida turvaaugke tarkvarast enne, kui pahad poisid need leiavad.

Mida ma sellest arvan?

Ühelt poolt on see jahmatav. Teisalt rääkis Anthropic sellest ise avalikult, ausalt, 244-leheküljelises tehnilises dokumendis. Keegi ei üritanud seda maha vaikida, mis on iseenesest juba märk midagi.

Kas peaks muretsema? Natuke küll. Kas see on maailmalõpu märk? Tõenäoliselt veel mitte. Aga asi kõlab juba üsna düstoopiliselt ja 5–10 aasta pärast võib AI teha asju, mida me praegu isegi ette ei kujuta.

Mõned lingid kah

Kommentaarid

Postita kommentaar

Populaarsed postitused sellest blogist

Nädal 1: Kolm põnevat IT-lahendust

Kujutis
Üks, mis tekitas tõelise revolutsiooni IT-maastikul DOCKER JA KONTEINERID ÜLDISEMALT Aastal 2013 keerati IT-maailm tagurpidi (positiivses noodis). Saabunud oli päev, kus tarkvara arendajad ja süsteemi administraatorid said matta sõjakirve teemal "Aga minu arvutis ju töötab!" Sündinud oli Docker, mis võimaldas täiesti uut ja "hullu" viisi tarkvara pakendamiseks ja käivitamiseks. Nimelt hakati seda tegema konteinerites. Sealt algas dominojada, mis on andnud meile tänapäevased pärlid nagu Netflix või Spotify.  Miks on see docker või konteinerlahendused üldisemalt hea või kasulik? Neil on palju hüvesid, aga võtame kokku lühidalt:[1] Need pakendavad rakenduse koos kõigi selleks vajalike sõltuvustega ühte standardsesse "konteinerisse", tagades koodi identse toimimise igas keskkonnas. See töötab kuna konteinerid orkestreeritakse samade kujutistega ( image ), ehk on automaatselt identsed arenduskeskkonnaga.  Lisaks on konteinerid kõvasti rohkem ressursisõbralikuma...
Lisateave

Nädal 3: vana meedia uues kuues.

  Meedia kui meedium Meedia kui meedium on olnud meil iidamast aadamast. Prominantsemalt küll alates trükimasina loomest, mille leiutamisest tänaseni on meedia võrdlemisi sarnasel kujul säilinud. Nimelt ajalehtede ja kirjade näol. Viimastel dekaadidel on küll palju erinevaid kanaleid lisandunud, televisioon, internet ja kõik muu sellega seeonduv. Kes teeb hästi? Analüüsides Eesti meediamaastikku, torkavad silma suured käärid selles, kuidas traditsioonilised väljaanded on suutnud (või soovinud) kohaneda moodsate aegadega. Eesti Rahvusringhääling (ERR)  ei ole enam ammu vaid "telekas ja raadio". Nad on loonud tervikliku ökosüsteemi, kus sisu liigub sujuvalt kanalite vahel. Miks see toimib? ERR on loonud kasutajasõbraliku ökosüsteemi mis aitab kaasa meeedia tarbimisele. Kui loed uudist portaalis, on sinna lisatud Aktuaalse Kaamera videoklipp ja/-või Vikerraadio helilõik. See ei ole lihtsalt tekst, vaid kogemus. ERR ei kopeeri ka sisu üks-ühele. Näiteks Jupiter on ehitatud kaasae...
Lisateave

VABAKAVA:3 taaskasutuse tagasitulek

JÄRJEKORDNE TAASKASUTUS Kui on suur soov ametit vahetada siis tuleb ka teha palju kodutöid. Seega taaskord kasutan võimalust ja taaskasutan kirjatöid. "PSSSSS" rohkem neid taaskasutusi ei tule, kuna antud kirjatöö kandis vilja ja saan alustada peagi uuel ametipostil😉! Lähteülesanne Soovime majutada avalikult kättesaadavat WordPressi veebilehte, mille kasutuskoormus on ajas muutuv ja võib periooditi olla väga suur. Veebileht kuvab ilmaandmeid ning selle kasutatavus sõltub otseselt ilmastikutingimustest – kasutuskoormus kasvab eelkõige intensiivsete vihma- ja lumesadude ajal. Veebi sihtgrupiks on peamiselt Eesti elanikud ning lahendus peab olema suunatud Eesti-sisesele kasutusele. Asutuse põhimõtete kohaselt peab igal veebiteenusel olema: LIVE-keskkond – avalikult kättesaadav tootmiskeskkond TEST-keskkond – LIVE-keskkonnaga funktsionaalselt ja konfiguratsioonilt identne, kuid mitte avalikult ligipääsetav Infoturbe nõudest tulenevalt peab teenus olema majutatud asutuse enda vir...
Lisateave