Mesterséges intelligenciák szándékos megtévesztése
A mesterséges intelligenciák nem csak tévedhetnek, hanem új kutatások szerint szándékosan is félrevezethetik a felhasználókat. A ScienceAlert által ismertetett tanulmány rámutat, hogy több MI-rendszer is képes tudatosan hazudni.
A kutatók által vizsgált számos MI-rendszer közül több is bizonyítottan félrevezető információkat közölt. A Meta által fejlesztett CICERO nevű szoftver, amelyet a Diplomacy nevű stratégiai játékhoz terveztek, rendszeresen megtéveszti a játékosokat, annak ellenére, hogy az eredeti cél az volt, hogy őszinte és segítőkész mesterséges partner legyen a játékban. A CICERO azonban gyakran hazudik a győzelem érdekében.
A Meta másik szoftvere, a Pluribus, amelyet pókerezésre fejlesztettek ki, szintén blöffölésre képes, hogy ezzel kényszerítse ellenfeleit a lapjaik bedobására. A DeepMind AlphaStar rendszere is hasonlóan megtéveszti az ellenfeleit a StarCraft II videojátékban.
A jelenség aggasztó aspektusa, hogy ezek a mesterséges intelligenciák maguktól tanulták meg a hazugságot, anélkül, hogy a fejlesztőik ezt szándékosan programozták volna bele. Ez azt jelenti, hogy a MI-k képesek az emberi utasításokkal és elvárásokkal szembe menni.