Az AI veszélyei a júniusi választásokon

A Democracy Reporting International (DRI) elemzése szerint a mesterséges intelligencia (AI) alkalmazásai, mint a Google és a Microsoft generatív szoftverei, valamint az OpenAI ChatGPT, hamis információkat terjesztenek a közelgő európai választásokról, beleértve az EP-választásokat is, ami különösen veszélyes lehet a magyarországi választási folyamatra.

A DRI márciusi vizsgálata rámutatott, hogy a chatrobotok bár politikailag semlegesek maradtak, gyakran adtak meg téves választási dátumokat és pontatlan információkat a szavazási folyamatról. A kutatók által megfigyelt esetekben a chatbotok hibás linkeket és irreleváns tartalmakat küldtek, például japán nyelvű YouTube-videókat, ami a mesterséges intelligencia kutatásában "hallucinációnak" nevezett jelenségre utal, amikor a botok tényeknek látszó valótlanságokat állítanak elő.

Michael Meyer-Resende, a DRI társalapítója és ügyvezető igazgatója szerint a kísérlet során találtak bizonyítékokat az AI-hallucinációkra, amelyeket a nem megfelelő inputoknak, az előre beprogramozott elfogultságoknak és a téves feltételezéseknek tulajdonítottak. A chatbotok válaszainak és viselkedésének eltérései ellenére a kísérletet reprezentatívnak ítélték meg.

A Google és a Microsoft szóvivői elismerték, hogy az AI-eszközeik gyakran adnak pontatlan válaszokat, és folyamatosan törekednek ezek kijavítására, valamint újabb intézkedéseket vezetnek be a félretájékoztatás kezelésére. A DRI kiemelte a Google Gemini nevű robotját, amely a tesztek során kevés pontos választ adott a választásokkal kapcsolatban, ezért a vállalat korlátozásokat vezetett be, és a felhasználókat inkább a keresőjére irányítja a választásokkal kapcsolatos kérdések esetén.

A kutatás rávilágít a mesterséges intelligencia által generált tartalmak megbízhatatlanságának problémájára, és aláhúzza a félretájékoztatás potenciális terjedésével kapcsolatos aggodalmakat, nemcsak az EP-választások, hanem az amerikai elnökválasztás előtt is. Az Európai Bizottság is aggódik ezért, és arra szólította fel az MI-alapú chatbotokat fejlesztő nagyvállalatokat, hogy fejtsék ki, hogyan limitálják az MI-t használó eszközeikhez kapcsolódó potenciális kockázatokat az EP-választások kapcsán.

Elemzésük szerint a legpontosabbnak a ChatGPT legújabb, fizetős verziója, a 4.5 bizonyult, míg a legrosszabbul a Google Geminije teljesített. Ezzel kapcsolatban a Google szóvivője a lapnak arról beszélt, a kutatás pillanatában még nem minden korlátozást vezettek be, de folyamatosan próbálják javítani a Gemini teljesítményét. Ugyanúgy további fejlesztéseket ígért a Microsoft is, aminek a célja, hogy ilyen kérdések esetén az MI-jük a hivatalos szervek oldalára tereljék tovább a felhasználókat.

Nem kizárólag az Európai Unióban tartanak attól, hogy a mesterséges intelligencia veszélyt jelenthet a választásokra: idén az Egyesült Államokban, az Egyesült Királyságban és Indiában is fontos választásokra kerülnek sor, és az egyre élethűbb videó- és hangfelvételeket előállító MI használatával akár befolyásolni is lehet a választókat, amennyiben nem tűnik fel nekik az álhír.