A Guardian vizsgálata megállapította, hogy a Google mesterséges intelligencia által generált összefoglalói pontatlan egészségügyi információkat közölnek.
A Google állítólag eltávolított néhány mesterséges intelligencia áttekintést az egészséggel kapcsolatos kérdések miatt, miután egy vizsgálat megállapította, hogy egyes információk félrevezetőek.
A mesterséges intelligencia áttekintései a mesterséges intelligencia által generált összefoglalók, amelyek a keresési eredmények tetején található témára vagy kérdésre válaszolva nyújtanak információt.
A Guardian újság vizsgálata megállapította, hogy az összefoglalók némelyike pontatlan egészségügyi információkat tartalmazott, ami veszélyezteti az embereket a sérülés veszélyével.
Az újság megállapította, hogy az AI Overviews számok tömegeit szolgálta fel csekély kontextussal olyan kérdésekre válaszolva, mint például: „Mi a normál tartomány a májvérvizsgálatokhoz?” és „mi a májfunkciós tesztek normál tartománya?” A válaszok nem vették figyelembe a nemzetiség, nem, etnikai hovatartozás vagy életkor alapján felmerülő eltéréseket sem.
A Google keresési eredménye mindkét kérdésre egy kiemelt részlettel, a legrelevánsabb webhelyről kivont bekezdéssel jelentkezett a keresési eredmények tetején.
A Google mindkét kérdésnél úgy döntött, hogy kivonja a májban található különféle anyagok egészséges szintjét a kivonatában, mint például az energiatermelést szabályozó alanin-transzaminázt (ALT), a sérült vérsejteket észlelő aszpartát-aminotranszferázt (AST), valamint az alkalikus foszfatázt (ALP), amely segít a fehérjék lebontásában.
A Google a számokat a Max Healthcare-től, egy indiai for-profit kórházlánctól szerezte meg Újdelhiben – állapította meg a Guardian.
A kiemelt kivonatok eltérnek a mesterséges intelligencia áttekintéseitől, mivel a részletben szereplő szöveget nem a mesterséges intelligencia generálja.
A The Guardian vizsgálata megállapította, hogy ezeknek a kérdéseknek a variációi, mint például a „(májfunkciós teszt) lft referenciatartomány” vagy „bal oldali teszt referenciatartomány”, továbbra is MI-összefoglalókat generálnak. A májfunkciós tesztek olyan vérvizsgálatok, amelyek a fehérjék és enzimek szintjét mérik a máj működésének ellenőrzésére.
A Google állítólag azt tanácsolta a hasnyálmirigyrákos embereknek, hogy kerüljék a magas zsírtartalmú ételeket, ami a szakértők szerint a Guardiannak nem jó ajánlás, mert növelheti a betegség miatti halálozás kockázatát.
A The Guardian nyomozása során a szakértők riadót fújnak arról, hogy az AI chatbotok hogyan „hallucinálnak”, vagyis hamis válaszokat találnak ki, amikor nem rendelkeznek a megfelelő információval.
Az 2022 Plusz Next megkereste a Google-t, és megkérdezte, hogy eltávolította-e az AI Overviews-t egyes egészségügyi kérdésekből, de nem kapott azonnali választ.
A Google a hétvégén bejelentette, hogy hozzáadja az AI áttekintéseket email szolgáltatásához, a Gmailhez.
Az új funkció segítségével a felhasználók kérdéseket tehetnek fel, és választ kaphatnak e-mailjeikről ahelyett, hogy kulcsszavas kereséssel keresnének bennük.
