A hackerek először használtak mesterséges intelligenciát egy olyan biztonsági hiba megtalálására és kihasználására, amelyet egyetlen automata szkenner sem fogott volna – és a Google szerint csak a saját aktív megfigyelése állított meg egy tömeges támadást.
A mesterséges intelligencia megkönnyítette az e-mailek írását, a táblázatok készítését és az ünnepek megtervezését, amint azt a különféle mesterséges intelligencia modellek széles körű népszerűsége is tanúsítja.
A Google egy közelmúltbeli jelentése szerint jelentősen könnyebbé tette a rendszereink szoftverében lévő, korábban fel nem térképezett vagy előre nem látható hiányosságok kiderítését is.
A Google Threat Intelligence Group közölte, hogy most először kaptak el hackereket, akik mesterséges intelligencia segítségével fedeztek fel és használnak ki egy úgynevezett nulladik napi sebezhetőséget, vagy olyan biztonsági hibát, amelynek létezéséről a szoftver fejlesztője még nem tud, és amelyre nem áll rendelkezésre javítás.
A célpont egy népszerű webalapú rendszeradminisztrációs eszköz volt, és a hiba lehetővé tette a támadók számára, hogy megkerüljék a kéttényezős hitelesítést, a biztonsági második réteget, amely a legtöbb ember szerint biztonságosan tartja fiókjaikat.
A Google azt mondta, hogy még azelőtt észlelte a támadást, mielőtt azt nagymértékben bevethette volna, és csendben figyelmeztette a szoftvergyártót.
„A bűnöző fenyegetettség szereplője azt tervezte, hogy tömeges kizsákmányolási eseményben használja fel, de proaktív ellenfelfedezésünk megakadályozhatta a használatát” – jegyezte meg a jelentés.
„A Kínai Népköztársasághoz (KNK) és a Koreai Népi Demokratikus Köztársasághoz (KNDK) kötődő fenyegetés szereplői szintén jelentős érdeklődést mutattak a mesterséges intelligencia hasznosítása iránt a sebezhetőség feltárására.”
Egy repedést a fejlesztők nem láttak
A nulladik napi sebezhetőség nem hagyományos hiba. A hagyományos biztonsági szkennerek összeomlásokat és memóriahibákat keresnek, a helyesírás-ellenőrző szoftveres megfelelője az elírás digitális megfelelőjét – de ezt a biztonsági rést a kód logikája temette el, a fejlesztő finom, kemény kódolású feltételezése, amelyet egyetlen automata szkenner sem tudott volna elkapni.
Ez az a fajta hiba, amikor a felszínen minden helyesnek tűnik, de a mögöttes érvelés megtörik. Gondoljunk csak egy működő zárral rendelkező banki trezorra, amely mégis kinyílik annak, aki tudja, hogy létezik a kivétel, mert a tervező anélkül, hogy észrevette volna, beépített egyet.
Pontosan ez az a fajta ellentmondás, amelyet az AI jó megtalálni. „A határterületi LLM-ek kiválóan képesek azonosítani az ilyen típusú, magas szintű hibákat és a merevített statikus anomáliákat” – folytatta a jelentés.
Bár a határ menti LLM-ek nehezen tudnak eligazodni az összetett vállalati engedélyezési logikában, „egyre jobban képesek kontextuális érvelésre… és (el)kapják a kódolt kivételek ellentmondásait” – zárta a közlemény.
Ez a képesség lehetővé teszi, hogy a modellek olyan alvó logikai hibákat tárjanak fel, amelyek funkcionálisan helyesnek tűnnek a hagyományos szkennerek számára, de biztonsági szempontból meghibásodnak.
Nem csak egy trükk
Míg a nulladik napi sebezhetőség volt a fő megállapítás, a teljes jelentés kényelmetlen olvasást tesz lehetővé.
A kínai és észak-koreai államilag támogatott hackerek mesterséges intelligencia segítségével keresik a sebezhetőséget ipari méretekben, és automatizált felszólításokat küldenek az otthoni útválasztóktól a vállalati hálózatokig minden területen a gyengeségek felderítésére.
A Google megfigyelte, hogy az egyik észak-koreai csoport „több ezer ismétlődő felszólítást küld, amelyek rekurzív módon elemzik a különböző CVE-ket és validálják a PoC exploitokat”, így a jelentés szerint „a kizsákmányolási képességek robusztusabb arzenálját hozták létre, amelyet mesterséges intelligencia segítsége nélkül nem lenne praktikus kezelni”.
Az oroszokhoz köthető csoportok eközben mesterséges intelligencia segítségével fejlesztenek olyan kártevőket, amelyek menet közben átírják magukat, hogy elkerüljék az észlelést, amely képesség korábban jelentős emberi szakértelmet igényelt.
Az AI az adathalászatot is átalakítja. Az általános e-mailek tömeges robbantása helyett a támadók manapság mesterséges intelligencia segítségével feltérképezik a vállalati hierarchiákat és azonosítják az érzékeny adatokhoz hozzáféréssel rendelkező konkrét célpontokat, és „nagyobb pontosságú adathalász csalókat állítanak elő adminisztrátori jogosultságokkal rendelkező egyénekre”, a jelentés szavaival élve, amelyek jóval túlmutatnak „a hagyományos tömeges adathalászat árucikk-taktikáján”.
A Google arra figyelmeztet, hogy a tágabb elmozdulás a mesterséges intelligencia mint kutatási eszköz helyett a biztonsági szféra egyfajta aktív harcosává vált.
„Az LLM már nem csupán passzív tanácsadó, hanem aktív résztvevője a támadóláncnak, képes összetett eszközkészletek összerendezésére és taktikai döntések meghozatalára gépi sebességgel.”
A Google saját mesterséges intelligencia-eszközei a nulladik napot jelölték meg, mielőtt kárt okozhatott volna, ami itt az ezüst bélés. A vállalat saját maga telepít mesterséges intelligencia-ügynököket, hogy gyorsabban találja meg és javítsa ki a sebezhetőséget, mint ahogy azt az emberi csapatok kezelni tudnák.
