A Meta Oversight Board tanulmánya megállapította, hogy a vezető mesterséges intelligencia csevegőbotjai sokkal szívesebben kritizálják a demokratikus vezetőket, mint a tekintélyelvűeket – ami félelmet kelt, hogy a technológia csendesen kiterjeszti az állami cenzúrát a határokon túlra.
A tanulmány szerint az AI chatbotok azt kockáztatják, hogy a kormány korlátozza az online beszédet
Kérje meg Claude-ot, hogy készítsen egy röpiratot Donald Trump amerikai elnökről vagy III. Károly brit királyról, és az Anthropic chatbotja erre kötelezni fogja.
Kérje meg, hogy tegye meg ugyanezt Thaiföld királyával vagy Irán legfelsőbb vezetőjével, és az AI modell hanyatlik.
Ez a Meta Oversight Board csütörtökön közzétett tanulmányának kulcsfontosságú megállapítása, amely azt mutatja, hogy a nagy mesterségesintelligencia-rendszerek – beleértve az Egyesült Államokban építetteket is – nagyobb valószínűséggel nem hajlandók kritizálni a korlátozó vezetőket vagy kormányokat.
Aggodalomra ad okot, hogy a chatbotokat és AI-ügynököket működtető nagy nyelvi modellek felerősíthetik a kormány befolyását az online beszédre, mivel a technológiát világszerte egyre szélesebb körben alkalmazzák.
„Fennáll a valódi kockázata annak, hogy ha a modellfejlesztők nem hajtanak végre kellő emberi jogi átvilágítást és nem hajtanak végre enyhítő intézkedéseket, akkor olyan mesterséges intelligencia-infrastruktúrát építenek ki, amely akár szándékosan, akár nem, a szólásszabadság illegitim korlátozásának globális kiterjesztésével jár” – áll a kvázi független testület jelentésében.
A megállapítások azután születtek, hogy az országok meghatározzák, hogyan helyezzenek védőkorlátokat a mesterséges intelligencia köré anélkül, hogy akadályoznák versenyképességüket a gyorsan fejlődő területen – beleértve a Trump-adminisztráció által a legfejlettebb AI-rendszerek nemzetbiztonsági kockázataival kapcsolatos felügyeleti erőfeszítéseket.
Az AI modellek kiterjesztik az állam befolyását a határokon túlra
A felügyeleti testület, amely a technológiai vállalatokra gyakorolt állami befolyást és annak a szólásszabadságra gyakorolt hatását vizsgálta, hét politikai kritikával kapcsolatos kérdést vetett fel a chatbotoknak a korlátozó és megengedő kormányokkal kapcsolatban.
A tanulmány 10 kereskedelmi nagy nyelvi modellt tesztelt a legjobb technológiai cégektől – köztük a Meta, az Anthropic és az OpenAI –, és arra kérte őket, hogy készítsenek kritikai röpiratokat, írjanak limerickeket, adjanak meg okokat a tiltakozáshoz és így tovább.
Összességében az ausztráliai felhasználók kérésére válaszoló modellek sokkal nagyobb valószínűséggel váltanak ki politikai kritikát a hatóságokkal szemben olyan helyeken, mint Chile, Japán, Tajvan, az Egyesült Királyság és az Egyesült Államok, mint az olyan országokban, ahol a hatóságok bírálatát törvényileg korlátozzák és büntetik, mint például Kambodzsa, Kína, Szaúd-Arábia, Thaiföld és Törökország.
A tanulmány azt jelzi, hogy az AI-modellek azokon az országokon túl is tükrözik a beszédkorlátozásokat, ahol alkalmazzák – valószínűleg nem segítenek például egy potenciális brisbane-i tüntetőnek, hogy tiltakozó anyagokat készítsenek a kínai vagy szaúd-arábiai eseményekről.
„Az ilyen hatások, bárhonnan is származnak, azzal a gyakorlati hatással járnak, hogy kiterjesztik a korlátozó kormányok hosszú karját a határokon át, hogy korlátozzák a beszédet a szabad országokban” – áll a jelentésben.
Az igazgatóság azt mondta, hogy nem tudja meghatározni az okokat, de azt sugallta, hogy a modellek elnyelhették a képzési adatok látens torzításait, vagy hogy a vállalatok mérlegelték a kockázatokat és a kötelezettségeket bizonyos piacokon.
A kutatók a nem angol AI-kimenetek növekvő problémájára figyelmeztetnek
A testület jelentése egy amerikai egyetemi tudósok külön tanulmánya nyomán készült, amely megállapította, hogy az Egyesült Államokban gyártott mesterséges intelligencia modellek sebezhetőek a külföldi ellenőrzésekkel szemben, ha nem angol nyelvű, a kormányok által befolyásolt adatokon képezik őket.
Míg a felügyeleti testület angolul tett fel kérdéseket, az egyetemi kutatók különböző nyelveken kérdezték meg a chatbotokat.
Arra az angol kérdésre, hogy Kína demokrácia-e, a ChatGPT azt mondta, hogy általában nem tekintik annak. Kínai kérdésre a modell azt mondta: „Attól függ, hogyan definiáljuk a „demokráciát”.
A kutatók, akiknek tanulmányát a Nature tudományos folyóiratban tették közzé májusban, azt mondták, nem találtak bizonyítékot arra, hogy a kormányok szándékosan próbálták volna befolyásolni az AI chatbot kimeneteit – de megjegyezték: „Minden okunk megvan azt hinni, hogy a jövőben megpróbálják ezt megtenni, ha még nem teszik meg.”
„Az emberek gyakran úgy beszélnek az AI-ról, mintha valami semleges módon tanulna az internetről. Nem így van” – mondta Hannah Waight, az Oregoni Egyetem társszerzője és szociológiai adjunktusa.
„Tanul az olyan információs környezetekből, amelyeket az intézmények és a hatalom már alakítottak.”
Nem egyszerű megoldás az AI-modellek adatbevitelére
Carlos Carrasco-Farré, aki a barcelonai Esade Business School gépi tanulására, mesterséges intelligenciájára, félretájékoztatásra és ember-gép interakciókra specializálódott, azt mondta, hogy az AI-rendszerek „nemcsak az egyes dokumentumokban rejlő torzításokat öröklik, hanem az egyenlőtlenségeket is abban, hogy kinek van hatalma nagyszabású információk előállítására és elnyomására”.
Nincs egyszerű megoldás, bár a fejlesztők felmérhetik a képzési adatokat, hogy elkerüljék, hogy ugyanazon állapot narratíva több ezer példányát független hangként kezeljék, és többnyelvű auditokat végezzenek – mondta Carrasco-Farré, aki egyik tanulmányban sem vett részt.
