Titokban a valódi gyermekekről készült képekről tanul az AI
Emberi jogi aktivisták hangot emeltek egy népszerű mesterséges intelligenciát oktató adathalmaz ellen, amely szerintük a brazil gyerekek arcát használja fel engedély nélkül, és "fegyverként" fordítja ellenük.
A Human Rights Watch hétfői jelentése szerint több mint 170 brazil gyermek képét és személyes adatait használták fel egy nyílt forráskódú adathalmazban, amelyet mesterséges intelligenciák fejlesztésére használnak. A jelentés rámutat, hogy a program nemcsak a közelmúltban megosztott tartalmakat használta fel, hanem a 90-es évekig visszamenőleg is kutatott. A gyerekek adatai és a fényképeikre mutató linkek a LAION-5B adatbázisba kerültek, amely egy népszerű képzési adatforrás az AI startupok számára.
Hye Jung Han, a Human Rights Watch gyermekjogi és technológiai kutatója szerint a gyerekek magánélete már akkor sérül, amikor a képeiket felkutatják és besöprik az adathalmazokba. Az AI eszközök ezen adatokon való kiképzése révén képesek valósághű képeket készíteni a gyermekekről, ami veszélyezteti őket, mivel a rosszindulatú személyek hozzáférhetnek a képekhez és manipulálhatják azokat.
A gyermekképek forrásai anyablogok, személyes kismama- vagy szülői blogok, valamint alacsony nézettségű YouTube-videók voltak. Hye hozzátette, hogy ezek a képek eredetileg olyan kontextusban kerültek fel az internetre, ahol a magánélet bizonyos szintű elvárása és védelme érvényesült, és a képek többsége nem volt fellelhető fordított képkereséssel az interneten.
Nate Tyler, a LAION szóvivője elmondta, hogy a szervezet már lépett az ügyben, és több szervezettel, köztük a Human Rights Watch-csal együttműködve dolgoznak a tartalmak eltávolításán.
A Stanford Egyetem kutatói decemberben megállapították, hogy a LAION-5B által gyűjtött AI-tréningadatok között szexuális zaklatást ábrázoló anyagok is megtalálhatók. Az Egyesült Államokban az iskolákban egyre gyakoribbá válik az explicit deepfake tartalmak használata, amelyeket főképp lányok zaklatására alkalmaznak.
Hye Jung Han szerint a gyerekeknek nem kellene attól félniük, hogy a fotóikat ellopják és fegyverként használják fel ellenük.