Egy emberi hiba az Anthropic tartalomkezelő rendszerében véletlenül felfedte a modellt ismertető blogtervezetet.
Az Anthropic egy új, hatékony mesterséges intelligencia (AI) modellen dolgozik, amely „példátlan kiberbiztonsági kockázatokat rejt magában” a cégtől származó kiszivárogtatás szerint.
A múlt héten egy adatszivárgás felfedte, hogy az Anthropic egy új, nagy teljesítményű modellen dolgozik, amelyről az AI cég azóta elismerte, hogy „Claude Mythos” néven.
Az Anthropic szóvivője azt mondta a Fortune-nak, hogy ez „lépéses változást” jelent az AI-ban, és ez a „legképességesebb” modell, amelyet eddig felépített, „jelentős előrelépésekkel az érvelés, a kódolás és a kiberbiztonság terén”.
A technológia olyan erős lehet, hogy akár egy hacker álomeszköze is lehetne. A kiberbiztonsági részvények zuhantak az antropikus pletykák nyomán.
Mindeközben az Anthropic privátban figyelmezteti a vezető kormányzati tisztviselőket, hogy a Mythos 2026-ban sokkal valószínűbbé teszi a nagyszabású kibertámadásokat – jelentette az Axios.
Itt van minden, amit a Mythosról tudunk.
Hogyan derült ki a szivárgás?
Egy konfigurációs hiba vagy emberi hiba az Anthropic tartalomkezelő rendszerében véletlenül nyilvánosságra hozta a modellt leíró blogtervezetet.
A Fortune által idézett blog, amely „nem biztonságos és nyilvánosan kereshető adattárban volt elérhető”, azt mondta, hogy az új modell „példátlan kiberbiztonsági kockázatokat rejt magában”.
Mit tehet a Mythos?
A Mythos állítólag a Capybara része, amely az AI modellek új szintje
A Fortune az Antropicot idézte a dokumentumban: „A „Capybara” egy új típusú modell új neve: nagyobb és intelligensebb, mint Opus modelljeink – amelyek eddig a legerősebbek voltak.”
A modell fejlett képességei arra utalnak, hogy az AI-rendszerek nagyobb autonómiával és pontossággal képesek megbirkózni a bonyolultabb problémákkal is.
Úgy tűnik, hogy a Capybara és a Mythos ugyanarra a mögöttes modellre utalnak.
Hogyan érinti ez a kiberbiztonságot?
Ahogy az AI-cégek továbbfejlesztett modelleket adnak ki, az AI-ügynökök – akik megtanulnak emberi közreműködés nélkül cselekedni és érvelni – is egyre jobbak lesznek.
A hackerek ezáltal több hacker kampányt is futtathatnak egyszerre, ami ellen nehezebb védekezni.
Ugyanakkor az alkalmazottak mesterséges intelligencia-ügynököket használnak, amelyek tudtukon kívül kapcsolódhatnak saját munkarendszerükhöz, ami ajtót ad a kiberbűnözőknek a belépéshez.
Ráadásul az MI-nek köszönhetően az emberi identitást könnyebben meg lehet törni – mondta a Palo Alto Networks egyik vezetője az 2022 Plusz Nextnek márciusban.
Mikor láthatjuk a Mythos-t?
A Mythos rendkívül számításigényes, és költséges a futtatása. Az Anthropic azt mondta, hogy dolgozik azon, hogy sokkal hatékonyabbá tegye az általános kiadás előtt.
Az 2022 Plusz Next megkereste az Anthropic véleményét.
