Csupán órák, nem hetek – ennyi időbe telt egy antropikus mesterséges intelligencia modellnek, hogy sebezhetőséget találjon a titkosított amerikai kormányzati rendszerek között.
Az Anthropic által kifejlesztett mesterséges intelligencia-modell sebezhetőségeket azonosított rendkívül érzékeny amerikai kormányzati számítógéprendszerekben egy tesztelési gyakorlat során – mondta egy amerikai tisztviselő az Associated Pressnek.
A névtelenül nyilatkozó tisztviselő elmondta, hogy az Anthropic az amerikai hírszerző ügynökségekkel együttműködve végezte el a teszteket a cég Mythos modelljének felhasználásával.
Órákon belül azonosított bizonyos sebezhetőségeket, bár ez nem jelenti azt, hogy a modell ezen időn belül ki tudta volna használni azokat – mondta az illetékes.
A tesztelést a Project Glasswing nevű Anthropic kezdeményezésen keresztül hajtották végre, amely technológiai vállalatokat fogott össze, hogy megvédjék a kritikus szoftvereket attól a „súlyos” csapadéktól, amelyet a Mythos jelenthet a közbiztonságra, a nemzetbiztonságra és a gazdaságra nézve.
Mark Warner virginiai demokrata szenátor röviden megemlítette a tesztelést egy június 11-i meghallgatáson a szenátus banki, lakásügyi és városi ügyekkel foglalkozó bizottsága előtt.
„Ez az eszköz szinte az összes titkosított rendszerünkbe betört, nem hetek, hanem órák alatt” – mondta, és az információt a Nemzetbiztonsági Ügynökség (NSA) és az Egyesült Államok Kiberparancsnoksága vezetőjének, Joshua Rudd tábornoknak tulajdonította.
Növekvő feszültségek
Az Anthropic és az amerikai ügynökségek közötti együttműködés ellenére a kaliforniai székhelyű cég és a Trump-kormányzat közötti feszültség nőtt.
Az Anthropic aggodalmát fejezte ki amiatt, hogy az amerikai hadsereg hogyan fogja használni az AI-t, míg a kormányzat egyes modelljei használatának korlátozása érdekében tett lépéseket.
A hónap elején az adminisztráció kiadott egy irányelvet, amely előírja az Anthropicnak, hogy megakadályozza külföldi állampolgárok legújabb, Fable 5 és Mythos 5 néven ismert modelljeit.
Az Anthropic ebben a hónapban széles körben kiadta a Fable-t – a fejlettebb Mythos korlátozott verzióját, amelyhez a vállalat kiberbiztonsági aggályok miatt szigorúan korlátozta a hozzáférést.
Az irányelv 10 nappal azután érkezett, hogy Donald Trump elnök aláírt egy végrehajtási rendeletet, amely keretet hoz létre a szövetségi kormány számára a legfejlettebb mesterséges intelligencia-rendszerek nemzetbiztonsági kockázatainak ellenőrzésére, akár egy hónapig azok nyilvánosságra hozatala előtt.
A végzés szerint az AI-fejlesztők részvétele önkéntes lenne.
Az Anthropic közölte, hogy letiltotta a modelleket az összes vásárló számára, hogy megfeleljenek az irányelvnek, de hozzátette, hogy nem hiszi, hogy a kormány lépéseit az általa megjelölt biztonsági aggály indokolná.
Ipari visszaszorítás
Több mint 100 kiberbiztonsági szakértő és vezető olyan cégektől, mint az Adobe és az Nvidia, sürgette a kormányt az irányelv visszavonására, figyelmeztetve, hogy a lépés több hasznot hoz az amerikai ellenfeleknek, mint amennyi kárt okoz nekik.
Levelükben az aláírók azt mondták, hogy az Anthropic’s Mythos modelljei „elég jók” a szoftverhibák feltárásában és a fegyveres támadások feltárásában, de „nem kifejezetten jók ezekben a feladatokban”.
Sokan azt mondták, hogy rendszeresen használnak más alapozó és nyílt forráskódú modelleket a biztonsági auditokhoz és képzésekhez, és figyelmeztettek, hogy veszélyes a legjobb kibervédelmi képességek „jó ok nélkül” eltávolítása olyan időszakban, amikor Amerika ellenfelei rohamosan haladnak előre.
