Dario Amodei, az Anthropic vezérigazgatója szerint az emberiségnek szabályoznia kell a mesterséges intelligencia használatát, különben autokratikus kormányok jönnek létre, amelyek a technológiát a lakosság elnyomására használják.
A világ a mesterséges intelligencia (AI) fejlődésének egy szakaszába lép, amely teszteli, „kik vagyunk mi, mint faj” – figyelmeztet az Anthropic vezérigazgatója egy átfogó esszéjében.
Dario Amodei azzal érvel, hogy az emberiség a „technológiai serdülőkor” korába lép, ahol a mesterséges intelligencia gyorsabban fejlődik, mint ahogy a jogrendszerek, a szabályozási keretek és a társadalom lépést tartani tud.
Mindössze két év alatt azzal érvel, hogy a mesterséges intelligencia „okosabbá válhat egy Nobel-díjasnál” a legtöbb releváns területen, mint például a biológia, a programozás, a matematika, a mérnöki munka és az írás, mindössze két év alatt.
Amikor ezek az AI-rendszerek együtt működnek, Amodei „a zsenik országához egy adatközpontban” hasonlítja őket, amelyek összetett feladatokat legalább 10-szer gyorsabban képesek elvégezni, mint egy ember olyan területeken, mint a szoftvertervezés, a kiberüzemeltetés vagy akár a kapcsolatépítés.
Az emberfeletti intelligencia, az autonómia és a technológia irányítási nehézségeinek kombinációja „egyszerre valószínű, és az egzisztenciális veszély receptje” – írta.
„Az emberiségnek fel kell ébrednie, és ez az esszé egy kísérlet – lehet, hogy hiábavaló, de érdemes megpróbálni –, hogy felébressze az embereket” – mondta.
Amodei esszéje azután született, hogy cége a múlt héten közzétette a Claude chatbotjának 80 oldalas „alkotmányát”, amely leírja, hogyan segíti a vállalat a mesterséges intelligencia biztonságos és etikus viselkedését.
Nem Amodei az egyetlen személy, aki figyelmeztet a mesterséges intelligencia lehetséges veszélyeire. Egy 30 ország által alátámasztott 2025-ös jelentés szerint a fejlett mesterséges intelligencia rendszerek rendkívüli új kockázatokat, például munkahelyek széles körű elvesztését, terrorizmust vagy a technológia feletti ellenőrzés elvesztését okozhatják.
Más technológiai vezetők, köztük Sam Altman az OpenAI-tól és az Apple társalapítója, Steve Wozniak is figyelmeztettek az AI kockázataira.
Az AI „civilizációs kihívás”
Míg Amodei nem mondja ki, hogy a katasztrófa elkerülhetetlen, figyelmeztet, hogy az AI komoly „civilizációs kihívás”.
„A mesterséges intelligencia olyan erős, olyan csillogó nyeremény, hogy az emberi civilizációnak nagyon nehéz egyáltalán bármiféle korlátozást rákényszerítenie” – írta.
A hatékony mesterségesintelligencia-rendszerek kormányok, szervezetek vagy magánszemélyek számára geopolitikával, diplomáciával vagy katonai tervezéssel kapcsolatos tanácsokat adhatnak – tette hozzá Amodei.
A legnagyobb veszély az, hogy az autokraták a mesterséges intelligencia által generált tanácsokat arra használják, hogy „véglegesen ellopják” az irányításuk alatt álló polgárok szabadságát, és „olyan totalitárius államot vezessenek be, amelyből nem menekülhetnek” – írta.
Hozzáteszi, hogy a mesterséges intelligencia nagyarányú felhasználását megfigyelésre emberiesség elleni bűncselekménynek kell tekinteni.
Amodei szerint fennáll annak a veszélye, hogy a világ autokratikus szférákra oszlik, amelyek mindegyike mesterséges intelligenciát használ a lakosság megfigyelésére és elnyomására.
„Emberek millióinak beszélgetéseinek milliárdjain áttekintő, erőteljes mesterségesintelligencia képes felmérni a közhangulatot, észlelni a kialakuló hűtlenségeket, és kiküszöbölni őket, mielőtt még növekednének” – áll a tanulmányban.
Amodei a kínai kormányt nevezi meg az elsődleges szempontnak, tekintettel a mesterséges intelligencia képességeinek, az autokratikus kormányzásnak és a meglévő csúcstechnológiás felügyeleti infrastruktúrának a kombinációjára.
Amodei azt is elmondta, hogy a mesterséges intelligencia terén versenyképes demokráciák, a nagy adatközpontokkal rendelkező nem demokratikus országok és maguk az AI-cégek potenciális szereplők, amelyek visszaélhetnek a technológiával.
Chips „a legnagyobb szűk keresztmetszet”
A mesterséges intelligencia modellek betanítására használt fejlett számítógépes chipek értékesítésének ellenőrzése a leghatékonyabb módja a visszavágásnak – írta.
A demokráciák nem adhatják el ezeket a technológiákat tekintélyelvű államoknak, különösen Kínának, amelyet széles körben az Egyesült Államokkal szemben az AI-versenyben az egyik fő vetélytársnak tartanak – tette hozzá Amodei.
„A chipek és a chipkészítő eszközök jelentik a legnagyobb szűk keresztmetszetet a hatékony mesterséges intelligencia számára, és ezek blokkolása egyszerű, de rendkívül hatékony intézkedés, talán a legfontosabb lépés, amelyet megtehetünk” – mondta.
Az exportellenőrzésen túl Amodei az egész iparágra kiterjedő koordinációt és társadalmi felügyeletet szorgalmazta. Átláthatósági törvényekre szólított fel, amelyek arra kötelezik a mesterséges intelligencia vállalatokat, hogy közöljék, hogyan irányítják modelljeik viselkedését.
Példaként említi a kaliforniai SB-53 törvényt, amely a Transparency in Frontier Artificial Intelligence Act (TFAIA) néven ismert.
Kalifornia állam kormányzója, Gavin Newsom szerint a törvény arra kényszeríti az MI-vállalatokat, hogy weboldalaikon olyan keretrendszereket tegyenek közzé, amelyek leírják, hogy a vállalat hogyan építi be a nemzeti és nemzetközi legjobb gyakorlatokat és szabványokat mesterségesintelligencia-modelljeikbe.
De Almodei is biztatóan nyilatkozott az AI jövőjéről.
„Hiszem, hogy ha határozottan és körültekintően cselekszünk, a kockázatok leküzdhetők – még azt is mondhatnám, hogy jók az esélyeink. És a másik oldalon van egy sokkal jobb világ. De meg kell értenünk, hogy ez komoly civilizációs kihívás” – mondta.
