A levélben a Google munkatársai arra figyelmeztetnek, hogy a technológiát a Pentagon „embertelen” módon használhatja fel, beleértve a tömeges megfigyelést és halálos autonóm fegyvereket.
A Google több mint 600 alkalmazottja arra szólította fel a vállalatot, hogy utasítsa el a Pentagonnal kötött lehetséges megállapodást, amely lehetővé tenné mesterséges intelligenciájának titkos katonai műveletekben való felhasználását – áll egy hétfői közleményben.
„Azt akarjuk látni, hogy a mesterséges intelligencia az emberiség javát szolgálja, nem pedig embertelen vagy rendkívül káros módon” – áll a Sundar Pichainak, a Google vezérigazgatójának címzett nyílt levélben. „Ebbe beletartoznak a halálos autonóm fegyverek és a tömeges megfigyelés, de túlmutat.”
A Google DeepMind, Cloud és más részlegek munkatársai által aláírt levél akkor érkezik, amikor a technológiai óriás az Egyesült Államok védelmi minisztériumával tárgyal a Gemini AI modelljének minősített környezetben való esetleges használatáról.
Több mint 20 igazgató, vezető igazgató és alelnök írta alá nyíltan.
„A minősített munkaterhelések definíció szerint átláthatatlanok” – mondta a szervező egyik alkalmazottja, akit nem neveztek meg a közleményben.
„Jelenleg nincs mód annak biztosítására, hogy eszközeinket ne használhassák fel szörnyű károk okozására vagy a polgári szabadságjogok kiszorítására a nyilvánosság előtt. Olyan dolgokról beszélünk, mint az egyének profilalkotása vagy az ártatlan civilek megcélzása.”
A levél a Pentagon és az Anthropic mesterséges intelligencia induló vállalkozása közötti vitát követően érkezett, mivel a technológiai vállalatokra egyre nagyobb nyomás nehezedik, hogy tisztázzák, hogyan használhatják mesterséges intelligencia eszközeiket a katonai és hírszerző ügynökségek.
Az Anthropic korábban beperelte az amerikai védelmi minisztériumot, miután „ellátási lánc kockázatának” titulálták, miután rendszereit ne használják tömeges megfigyelésre vagy autonóm hadviselésre.
Az Anthropic vezérigazgatója, Dario Amodei kijelentette, hogy „jó lelkiismerettel nem tud eleget tenni a Pentagon azon kérésének”, hogy korlátlanul hozzáférhessenek a cég mesterséges intelligenciarendszereihez.
„Az esetek egy szűk csoportjában úgy gondoljuk, hogy az AI alááshatja, nem pedig megvédheti a demokratikus értékeket” – írta Amodei. „Egyes felhasználási módok egyszerűen kívül esnek azon a határokon, amit a mai technológia biztonságosan és megbízhatóan képes elvégezni.”
Amodei döntésére válaszul Donald Trump amerikai elnök utasította a kormányzati minisztériumokat, hogy hagyják abba a Claude chatbot használatát.
A levélszervezők szerint a Google olyan szerződéses nyelvezetet javasolt, amely megakadályozná, hogy a Geminit hazai tömeges megfigyelésre vagy autonóm fegyverekre használják megfelelő emberi irányítás nélkül.
A Pentagon azonban szélesebb körű „minden jogszerű felhasználás” megfogalmazást szorgalmazott, azzal érvelve, hogy a működési rugalmasság fenntartása szükséges. Az alkalmazottak szerint az ilyen biztosítékokat a gyakorlatban nehéz lenne érvényesíteni, hivatkozva a Pentagon meglévő politikájára, amely korlátozza a mesterséges intelligencia rendszerei feletti külső ellenőrzést.
A Google munkatársainak legutóbbi nyilatkozata egy korábbi, 2018-as alkalmazotti tiltakozáshoz hasonlítja, amely miatt a Google kilépett a Project Mavenből, a Pentagon azon kezdeményezéséből, amely mesterséges intelligencia segítségével elemzi a drónfelvételeket.
„Úgy gondoljuk, hogy a Google-nak nem szabad háborúznia” – olvasható a levélben.
„Ezért azt kérjük, hogy mondják le a Project Maven-t, és hogy a Google dolgozzon ki, hozzon nyilvánosságra és hajtson végre egy világos irányelvet, amely kimondja, hogy sem a Google, sem a vállalkozói soha nem építenek hadviselési technológiát.”
