A csevegőbotot az elmúlt két hétben bírálat érte, mert nyíltan szexuális hamisítványokat generált nőkről és kiskorúakról.
Elon Musk mesterséges intelligencia chatbotja, a Grok megakadályozza, hogy a legtöbb felhasználó képet generáljon vagy szerkeszthessen, miután egy globális visszhang tört ki, miután szexualizált mélyhamisításokat kezdett okádni, főleg nőkről.
A Musk X közösségimédia-platformján keresztül elérhető chatbot az elmúlt hetekben számos, a kutatók szerint rosszindulatú felhasználói kérelmet adott a képek módosítására, beleértve a nők bikinibe vagy szexuálisan kifejezett pozícióba helyezését.
A kutatók arra figyelmeztettek, hogy néhány esetben egyes képek gyermekeket ábrázoltak.
A kormányok szerte a világon elítélték a platformot, és vizsgálatot indítottak a platformmal kapcsolatban.
Pénteken Grok a következő üzenettel válaszolt a képmódosítási kérésekre: „A képkészítés és -szerkesztés jelenleg csak fizető előfizetőkre vonatkozik. Előfizethet, hogy feloldja ezeket a funkciókat.”
Bár a Grok előfizetői száma nem nyilvános, észrevehetően csökkent a Grok által generált explicit mélyhamisítások száma a napokkal korábbi adatokhoz képest.
A hivatalos kormányzati válaszok között az Európai Unió „illegális” és „elborzasztó” magatartás miatt rótta fel Grokot, míg Franciaország, India, Malajzia tisztviselői és egy brazil törvényhozó vizsgálatot kért.
Csütörtökön Keir Starmer brit miniszterelnök meg nem határozott lépésekkel fenyegetőzött X ellen.
„Ez gyalázatos. Undorító. És nem tűrhető” – mondta Starmer a Greatest Hits rádióban. „X-nek meg kell kapnia ezt.”
Kijelentette, hogy a brit Ofcom médiaszabályozó „teljes mértékben támogatja a cselekvést”, és „minden lehetőség” szóba került.
„Undorító. X-nek össze kell szednie magát, és le kell szednie ezt az anyagot. Cselekedni fogunk ez ügyben, mert egyszerűen nem tolerálható.”
Az Ofcom és a brit adatvédelmi hatóság is a héten közölte, hogy felvették a kapcsolatot X-szel és Musk mesterséges intelligencia vállalatával, az xAI-val, hogy tájékozódjanak a brit szabályozásnak való megfelelés érdekében hozott intézkedésekről.
A Grok 2023-ban indult. Tavaly nyáron a vállalat hozzáadott egy képgenerátor funkciót, a Grok Imagine-t, amely tartalmazott egy úgynevezett „spicy módot”, amely lehetővé teszi a felhasználók számára, hogy felnőtteknek szóló tartalmat generáljanak.
Az AI chatbot ingyenesen használható X felhasználók számára, akik közvetlenül a közösségi média platformon tehetnek fel neki kérdéseket. Megcímkézhetik az általuk létrehozott bejegyzésekben vagy a más felhasználók bejegyzéseire adott válaszokban.
A képek nyilvános létrehozása és szerkesztése jelenleg a fizető előfizetőkre korlátozódik.
Amikor a felhasználók megpróbálják megcímkézni Grokot, és képeket generálni, egy üzenet jelenik meg nekik: „A képek létrehozása és szerkesztése jelenleg csak fizető előfizetőkre vonatkozik. Feliratkozhat ezeknek a funkcióknak a feloldásához.”
A képgenerálás és -szerkesztés azonban magán a Grok platformon is elérhető marad.
Charlotte Wilson, a Check Point, egy globális kiberbiztonsági cég vállalati vezetője szerint a Grok képszerkesztésének a fizetős felhasználókra való korlátozása nem jelent biztonsági megoldást.
„Csökkentheti az alkalmi visszaéléseket, de nem állítja meg az elszánt bűnelkövetőket, és nem tesz semmit az áldozatokért, akiknek képeit már létrehozták, megosztották és tárolták” – mondta Wilson közleményében.
A probléma egyrészt súlyosbodott, mert Musk a chatbotját a riválisok élesebb alternatívájaként, több biztosítékkal szemben kínálja fel, másrészt azért, mert Grok képei nyilvánosan láthatók, és ezért könnyen terjeszthetők az interneten.
„Ha a platformok be akarják bizonyítani, hogy ezt komolyan veszik, akkor úgy kell kezelniük, mint egy incidensre adott válaszproblémát. Zárja be a kiskaput a modell szintjén, hogy a meztelenítési felszólítások és a szerkesztések blokkolva legyenek, nem csak elriasztják őket” – tette hozzá Wilson.
