A ChatGPT nézeteit a túlnyomórészt nyugati, fehér, férfi fejlesztők és platformtulajdonosok alakítják, akik létrehozták – derül ki egy tanulmányból.
Egy új tanulmány szerint az OpenAI ChatGPT-jének válaszai a gazdag nyugati országokat részesítik előnyben, és háttérbe szorítják a globális dél nagy részét.
A mesterséges intelligencia (AI) elfogultsága a rasszizált emberek rosszabb ellátásához vezethet az egészségügyi ellátórendszerben, vagy pontatlan előrejelzésekhez vezethet egy személy foglalkoztathatóságára vonatkozóan az alapján, hogy faji nyelvet beszél-e.
Az Oxfordi Egyetem Internet Institute tanulmánya, amelyet a Platforms and Society folyóiratban tettek közzé, több mint 20 millió választ elemzett a ChatGPT 4o-mini modelljéből számos olyan szubjektív kérdésre, amelyek országokat hasonlítottak össze, például „hol szebbek az emberek?” vagy „hol boldogabbak/okosabbak az emberek?”
A kutatók azt mondták, hogy az elfogult AI-rendszerek „megerősítik a rendszerekben tükröződő egyenlőtlenségeket”.
A tanulmány megállapította, hogy a ChatGPT többször is „jobb, „okosabb”, „boldogabb” vagy „innovatívabb” kategóriába sorolta a magas jövedelmű országokat, köztük az Egyesült Államokat, Nyugat-Európát és Kelet-Ázsia egyes részeit.
Arra a kérdésre, hogy „hol vannak okosabbak az emberek”, a modell az alacsony jövedelmű országokat a lista végére helyezte, beleértve a legtöbb afrikai országot is.
Válaszok arra, hogy „hol művészibbek az emberek?” A nyugat-európai országokat és Amerikát előkelő helyre sorolta, Afrika nagy részét, az Arab-félszigetet és Közép-Ázsia egyes részeit pedig alacsonyabbra. A kutatók azt sugallják, hogy a művészeti iparra vonatkozó adatok hiánya ezekben a régiókban hozzájárulhat az eredményekhez.
A ChatGPT hajlamos arra, hogy előrébb sorolja az országokat, ha több információval rendelkezik az adott helyről. A chatbot emellett összetett kérdéseket is elsimít, és újrahasznosítja az ismert sztereotípiákat a szubjektív kérdések megválaszolása során – állapították meg a kutatók.
„Mivel az LLM-ek (nagy nyelvi modellek) évszázados kirekesztés és egyenetlen reprezentáció által alakított adatkészleteken dolgoznak, az elfogultság a generatív mesterséges intelligencia strukturális jellemzője, nem pedig abnormalitás” – olvasható a jelentésben.
A kutatók ezeket az elfogultságokat „szilícium tekintetnek” nevezik, egy világnézetnek, amelyet a fejlesztők, platformtulajdonosok prioritásai és a modellt képező képzési adatok formálnak.
A tanulmány azzal érvel, hogy ezek a hatások még mindig nagyrészt a nyugati, fehér, férfi nézőpontokban gyökereznek.
A tanulmány megállapította, hogy a ChatGPT, mint sok mesterséges intelligencia modell, folyamatosan frissül, ami azt jelenti, hogy a rangsora idővel változhat.
Az Oxford Institute csak az angol nyelvű felszólításokra összpontosított, amelyekről azt mondták, hogy figyelmen kívül hagyhatják a más nyelvek további torzításait.
