Google AI Overview: Életveszélyes és téves tanácsok az új funkciótól
A Google AI Overview, egy új, mesterséges intelligenciával működő funkciója, veszélyes és téves tanácsokat osztogat, ami komoly aggodalomra ad okot. Az AI Overview célja, hogy gyors összefoglalót nyújtson a felhasználóknak a keresett témákról, azonban több esetben is félrevezető vagy éppen életveszélyes tanácsokat adott. A CNBC szerint például az AI Overview azt állította, hogy az Egyesült Államoknak volt egy muszlim elnöke, Barack Hussein Obama.
Ez a fajta téves információ különösen veszélyes lehet egy választási évben. További aggodalomra ad okot, hogy az AI Overview egyes válaszai életveszélyes tanácsokat tartalmaznak. Ilyen például az a tanács, hogy a sajt jobb tapadása érdekében ragasztót kell használni a pizzán, vagy hogy az embereknek naponta legalább egy sziklát kellene enniük, állítólag az UC Berkeley geológusainak ajánlása szerint.
A Sky News információi szerint sok hibás válasz vicces vagy szándékosan félrevezető Reddit-posztokból ered, amelyeket a Google AI-ja tanulmányozott, tekintettel arra, hogy a Google és az OpenAI együttműködik a Reddit-tel a tartalmak tanítási célú felhasználásában.
A Google válaszában hangsúlyozza, hogy az AI Overview még csak kísérleti szakaszban van, és bár már egy évnyi tesztelésen esett át, a felhasználókat figyelmezteti a potenciális hibákra. A cég szerint az említett esetek elszigetelt példák, és általában az AI Overview megbízható információkat szolgáltat, linkekkel kiegészítve, amelyek segítségével a felhasználók további információkhoz juthatnak.
A Google közleményében azt is kiemeli, hogy politikai problémák esetén lépéseket tesznek a rendszer finomítására. Sundar Pichai, a Google vezérigazgatója is elismerte, hogy a fejlesztés során hallucinációs problémák merültek fel. A Cosmos magazin szerint a Google új, nagy nyelvi modellen alapuló funkciójának, a "mesterséges intelligencia áttekintőjének" célja, hogy a felhasználók által beírt keresőkifejezések alapján mesterséges intelligenciával készített összefoglalót adjon.
Egyes felhasználók aggodalmukat fejezték ki az új fejlesztések etikai megfontolásaival kapcsolatban, különösen mivel a technológia még viszonylag új, és használatára vonatkozóan kevés szabályozás létezik. A téves információk között szerepelt az is, hogy Afrikában nincsen olyan ország, amelyik "K" betűvel kezdődik, vagy hogy a pitonok emlősök, ami további bizonyíték arra, hogy a Google AI keresőmotorjának javításra van szüksége.