Az X-el kapcsolatos hivatalos vizsgálat azután indult ki, hogy felháborodást keltett, amiért a platform nem akadályozta meg, hogy valódi emberekről – köztük gyerekekről – szexuális tartalmú képeket hozzanak létre.
Az Európai Bizottság hivatalos vizsgálatot indított Grok, X csevegőrobotja ellen, miután a beépített AI-eszköz képszerkesztő funkcióját széles körben használták valódi nők és kiskorú lányok képeinek levetkőzésére a beleegyezésük nélkül.
Amint azt a Handelsblatt elsőként közölte, a vizsgálat azt fogja vizsgálni, hogy a közösségi média platform eleget tett-e a képek létrehozásának és terjesztésének kockázatának csökkentése érdekében.
Ha bebizonyosodik, hogy X megsértette az EU online platformra vonatkozó szabályait a tömb digitális szolgáltatásokról szóló törvénye (DSA) értelmében, a Bizottság akár a globális éves forgalmának 6%-ára is bírságot szabhat ki a vállalatra.
Tavaly decemberben az Európai Bizottság 120 millió eurós bírságot szabott ki Elon Musk közösségi hálózatára a fiókellenőrzési pipák és a hirdetési gyakorlat miatt.
Az aggodalmak tavaly nyáron merültek fel, miután a platform beépített mesterséges intelligencia eszközét, a Grokot egy „Spicy Mode” néven ismert fizetős funkcióval bővítették, amely lehetővé tette a felhasználók számára, hogy explicit tartalom létrehozására ösztönözzék.
Elon Musk kigúnyolta az ezt követő felháborodást X-fiókjában.
A hónap elején, ahogy a szolgáltatással kapcsolatos világméretű felháborodás nőtt, a Bizottság szóvivője a leghatározottabban elítélte ezt a funkciót.
„Ez nem „fűszeres”” – mondták. „Ez illegális. Ez megdöbbentő. Ez undorító. Ennek nincs helye Európában.”
Válaszul a közönség haragjára és riadalmára, X végül intézkedéseket hozott annak megakadályozására, hogy Grok engedélyezze valós emberekről készült képek szerkesztését, hogy felfedő ruházati és szexuális helyzetbe hozza őket – a korlátozások minden felhasználóra vonatkoznak, beleértve a fizetett előfizetőket is.
X azt is elmondta, hogy a gyerekek szexualizált Grok által módosított képeit eltávolították a platformról, és kitiltották a létrehozásukban részt vevő felhasználókat.
„Az X-en található illegális tartalmak, köztük a gyermekek szexuális zaklatásának anyagai (CSAM) elleni lépéseket eltávolítjuk, véglegesen felfüggesztjük a fiókokat, és szükség szerint együttműködünk a helyi önkormányzatokkal és a bűnüldöző szervekkel” – tette közzé az X Safety fiók.
Nem ez az első alkalom, hogy Grokot vizsgálják az európai jog megsértésének gyanúja miatt. Tavaly novemberben az AI chatbot holokauszttagadó tartalmat generált.
A platform chatbotjával kapcsolatos vizsgálatok jelenleg Franciaországban, az Egyesült Királyságban és Németországban, valamint Ausztráliában folynak. A Grokot teljesen betiltották Indonéziában és Malajziában.
A Bizottság közölte, hogy a DSA keretében tájékoztatást kért, és még mindig elemzi a választ.
