A Yoshua Bengio elindítja a Lawzero-t, a kanadai székhelyű nonprofit szervezetet, amely prioritást élvez a biztonságos, őszinte mesterséges intelligencia (AI) fejlesztését.
A világ egyik leginkább idézett mesterséges intelligencia (AI) kutatója új nonprofit szervezetet indít, amely biztonságos AI rendszereket tervez.
Yoshua Bengio, a kanadai francia AI tudós, aki elnyerte a rangos Alan Turing-díjat a mély tanulással kapcsolatos munkájáért, és az AI egyik „keresztapára” nevezték, bejelentette a Lawzero elindítását Montrealban.
Az új nonprofit szervezet összegyűjti az AI kutatóinak „világszínvonalú” csapatát, amelynek célja a „biztonság prioritása a kereskedelmi követelmények felett”-olvasható a nonprofit nyilatkozat.
„A mai Frontier AI modellek veszélyes képességeket és viselkedést fejlesztenek ki, ideértve a megtévesztést, az önmegőrzést és a célok eltérését”-mondta Bengio a nyilatkozatban, megjegyezve, hogy a szervezet elősegíti az AI „hatalmas potenciáljának” felszabadítását, miközben csökkenti ezeket a kockázatokat.
Bengio szerint a nonprofit szervezet egy új „tudományos irányból” született, amelyet 2023-ban tett, amely a „tudós AI”, egy új, nem agentikus AI rendszer, amelyet ő és csapata fejlesztenek, védőkorlátként szolgálnak az „ellenőrizetlen” ügynöki AI rendszerek ellen.
AI, amely „megtanulja megérteni a világot”
Ez az elv különbözik a többi vállalattól, mivel a nem agentikus AI-k prioritást élvez, vagyis közvetlen utasításokra van szüksége az egyes feladatokhoz, ahelyett, hogy a válaszokkal függetlenül jelenik meg, mint például a legtöbb AI rendszer.
A Lawzero által épített nem agentikus AI-k „megtanulják megérteni a világot, nem pedig cselekednek benne”, és arra készülnek, hogy „valódi válaszokat adjon a (külső) érvelés alapján”.
Bengio az AI tudósát egy nemrégiben írt véleményben dolgozott ki, ahol azt írta, hogy „valóban nyugtalan az AI-t, amelyet az AI-t nem mutatnak be, különösen az önmegőrzést és a megtévesztést”.
„Ahelyett, hogy megpróbálnák az embereket kedvelni, az AI tudósot úgy lehet megtervezni, hogy prioritást élvez az őszinteség” – írta.
A szervezet adományokat kapott más AI intézetektől, például a Life Institute, Jaan Tallin és a Szilícium -völgyi Közösségi Alapítványtól az inkubátor szakaszában.
A Lawzero a montreali Mila – Quebec AI Institute -ban dolgozik, amelyet Bengio segített társalapítani.
