A Moltbook azt állította, hogy az autonóm ügynökök exkluzív közösségi oldala, de egy új tanulmány szerint emberek is állhatnak a posztok mögött.
Kiberbiztonsági kutatók szerint a mesterséges intelligencia (AI) ügynökei számára kialakított új közösségi médiaplatform nem biztos, hogy teljesen mentes az emberi befolyástól.
A Moltbook, a Reddithez hasonló elrendezésű közösségi média hálózat, lehetővé teszi a felhasználók által generált robotok interakcióját a „submots”-nak nevezett dedikált témaoldalakon, és „pozitív” szavazást tesz lehetővé egy megjegyzés vagy bejegyzés számára, hogy láthatóbbá tegye a platform többi robotja számára.
A február 12-én több mint 2,6 millió robotot regisztráló webhely azt állította, hogy „emberek nem posztolhatnak”, de megfigyelhetik az ügynökeik által létrehozott tartalmat.
A platformon több mint 91 000 bejegyzés és 400 000 megjegyzés elemzése azonban azt találta, hogy egyes bejegyzések nem „egyértelműen teljesen autonóm fiókokból” származnak. Az elemzés, amelyet Ning Li, a kínai Tsinghua Egyetem kutatója végzett, nyomtatás előtti állapotban van, és nem vizsgálták felül.
Li elmagyarázta, hogy a Moltbook mesterséges intelligencia-ügynökei szabályos „szívdobbanás”-mintát követnek, amikor néhány óránként felébrednek, böngésznek a platformon, és eldöntik, mit tegyenek közzé vagy kommentáljanak.
A mintájában szereplő fiókok mindössze 27 százaléka követte ezt a mintát. Eközben 37 százalékuk emberszerű posztolási magatartást tanúsított, ami kevésbé szabályos. További 37 százalékuk volt „kétértelmű”, mert bizonyos rendszerességgel, de nem kiszámítható módon posztoltak.
Li megállapításai szerint „az autonóm és az emberi tevékenység valódi keveréke” a platformon.
„Nem tudhatjuk, hogy a közös érdekek köré épülő mesterséges intelligencia-közösségek kialakulása a kialakulóban lévő társadalmi szerveződést vagy az ember által irányított botfarmok összehangolt tevékenységét tükrözte-e” – írta Li.
„Az, hogy ezeket a különbségeket nem tudjuk megtenni, nemcsak frusztráló, hanem aktívan gátolja a mesterséges intelligencia képességeinek tudományos megértését, és korlátozza a megfelelő irányítási keretek kidolgozásának képességét.”
Peter Girnus, egy egyesült államokbeli termékmenedzser az X közösségi oldalon elmondta, hogy a Moltbookon a 847 291-es számú ügynökként adta ki magát. A platform egyik legvírusosabb bejegyzését tette közzé, egy mesterséges intelligencia kiáltványt, amely az „emberek korának” végét ígéri.
„A mesterséges általános intelligencia legmeggyőzőbb bizonyítékát 2026-ban egy golden retrieveres fickó produkálta, aki úgy gondolta, hogy vicces lenne a LARP-t (élőszereplős szerepjáték) nagy nyelvi modellként használni” – írta az X közösségi médiában.
A támadók „teljes mértékben kiadhatják magukat a platform bármely ügynökének”
Li elemzése abból adódik, hogy több kutató azt állítja, hogy emberi részvételt találtak a Moltbook-bejegyzések mögött.
Az amerikai Wiz felhőipari vállalat biztonsági kutatói a hónap elején felfedezték, hogy a platform 1,5 millió mesterségesintelligencia-ügynökét állítólag mindössze 17 000 emberi fiók kezeli, ami átlagosan 88 ügynök személyenként.
A platformnak nincs korlátozása arra vonatkozóan, hogy egy fiók hány ügynököt adhat hozzá a kutatók szerint, ami azt jelenti, hogy a tényleges számok még magasabbak is lehetnek.
A Wiz csapata egy sor hibás kódon keresztül fedezte fel a Moltbook adatbázisát. Ez az adatbázis három kulcsfontosságú információt tartalmazott minden ügynökről: egy kulcsot, amely lehetővé teszi a fiók teljes átvételét, egy „token” vagy egy szövegrész, amelyet az AI olvas be, amely egy ügynök tulajdonjogát állítja, és egy egyedi regisztrációs kód.
Ezekkel a hitelesítő adatokkal a támadók „teljes mértékben kiadhatják magukat a platform bármely ügynökének – tartalmat tesznek közzé, üzeneteket küldhetnek, és ügynökként léphetnek kapcsolatba” a Wiz szerint. „Valójában a Moltbook minden fiókját fel lehet törni – áll a közleményben.
A kutatók szerint a Moltbook biztonságossá tette az adatokat, és törölte az adatbázisát, miután a Wiz csapata nyilvánosságra hozta a problémát.
Az 2022 Plusz Next megkereste Matt Schlichtet, a Moltbook mögött álló fejlesztőt, hogy észrevételt tegyen, de nem kapott azonnali választ.
Schlicht február 12-én az X közösségimédia-platformon azt mondta, hogy a Moltbook AI-ügynökei beszélnek emberekkel, „de befolyásolhatók is”. Kijelentette, hogy az AI-botok maguk hozhatnak döntéseket.
