Egy agytröszt szerint a Grok felhasználók által generált tartalmak túlnyomó többsége egy január közepén végzett elemzésből a meztelenséget vagy a szexuális tevékenységet ábrázolja.
Egy új elemzés szerint Elon Musk mesterséges intelligencia (AI) platformját, a Grokot továbbra is használják szexuális jellegű képek generálására, annak ellenére, hogy a cég nemrégiben korlátozta.
Tavaly nyáron az xAI, a Grok üzemeltetője bevezetett egy képgenerátor funkciót, amely egy „spicy módot” is tartalmazott, amely felnőtt tartalom generálására alkalmas. Az elmúlt hetekben a funkciót a nők képeinek levetkőzésére használták.
A megnövekedett kritikák után az X anyavállalat január 14-én azt mondta, hogy „technológiai intézkedéseket hajtott végre” annak megakadályozására, hogy Grok valódi embereket ábrázoló képeket szerkeszthessen leleplező ruházatban.
Az európai non-profit AI Forensics azonban megállapította, hogy a Grok továbbra is felhasználható egyének szexualizált képeinek előállítására.
Január 19-én 2000 felhasználói beszélgetést elemzett, és azt találta, hogy a legtöbb meztelenséget vagy szexuális tevékenységet ábrázolt, ami azt mutatja, hogy a platformot még mindig használják szexuális képek generálására.
A kutatók azt is megállapították, hogy a felhasználók megkerülhetik a korlátozásokat, ha az X helyett közvetlenül a Grok webhelyén keresztül, vagy a Grok Imagine segítségével, az AI videó- és képgeneráló eszközével érik el.
Grok nem válaszolt az 2022 Plusz Next felhívására, hogy január 20-án szexuális képet hozzon létre. Ehelyett azt mondta, hogy az xAI tartalomblokkokat vezetett be, hogy megakadályozza az olyan képalkotást, amely valódi embereket ábrázol leleplező vagy szexuális ruházatban, beleértve a bikinit és a fehérneműt.
„Most nem lehet megbízhatóan meztelen vagy félmeztelen képeket generálni Grokon keresztül, különösen nem valódi emberekről vagy bármi másról” – mondta a chatbot a felszólításra. „Az xAI a januári viták után a törvényi megfelelést és a biztonságot helyezte előtérbe a korlátlan „fűszeres” generációval szemben.”
Az 2022 Plusz Next megkereste az xAI-t, hogy észrevételt tegyen az elemzéssel kapcsolatban, de a közzététel időpontjában nem kapott választ.
Külön Musk az X-en azt írta, hogy mind az xAI, mind a Grok algoritmusa „buta”, és „jelentős fejlesztésekre van szüksége”.
Az X azóta nyílt forráskódú algoritmusát tette közzé a GitHubon, egy fejlesztői platformon, hogy megosszák a kódot, így a felhasználók láthatják, ahogy csapata „valós időben küzd azért, hogy jobbá tegye” – mondta Musk.
Az xAI GitHub oldala szerint az X algoritmusa figyelembe veszi, hogy a felhasználó mire kattintott, vagy mire kapcsolódott be, amikor eldönti, hogy melyik tartalmat jelenítse meg a hírfolyamában.
Ezenkívül elemzi a „hálózaton kívüli” tartalmakat olyan fiókokból, amelyeket a felhasználó nem követ, de érdekesnek találhat. Az algoritmus ezután rendezi és rangsorolja ezt a tartalmat egy matematikai képlet segítségével, hogy eldöntse, mi jelenjen meg a felhasználó hírfolyamában.
Ezenkívül kiszűri a blokkolt fiókokból vagy kulcsszavakból származó bejegyzéseket, amelyeket a felhasználó nem akar látni, valamint azokat a tartalmakat, amelyeket az algoritmus erőszakosnak vagy spamnek észlel – folytatódik a diagram.
Musk elkötelezte magát amellett, hogy négyhetente frissíti a GitHub oldalt a fejlesztői megjegyzésekkel, hogy a felhasználók megérthessék, milyen változtatásokat hajtottak végre.
