A nagy techóriások összefogása a gyermekvédelem jegyében és a biztonsági rések elleni harcban
A Google, az OpenAI, a Meta és a Microsoft egyesített erővel lépnek fel a mesterséges intelligencia által előállított gyermekszexuális zaklatást tartalmazó anyagok és az Android-alkalmazásokat érintő biztonsági hibák ellen. A Thorn és az All Tech Is Human szervezetekkel karöltve új irányelveket dolgoznak ki a gyermekvédelem érdekében, miközben a Microsoft egy kritikus Android sebezhetőséget is felfedezett.
A technológiai óriásvállalatok, mint a Meta, a Google, a Microsoft és az OpenAI, elkötelezték magukat amellett, hogy megakadályozzák a mesterséges intelligencia által előállított gyermekszexuális zaklatás és kizsákmányolás terjedését. A Thorn és az All Tech Is Human nonprofit szervezetekkel együttműködve dolgoznak a gyermekvédelmi intézkedések megerősítésén.
A Thorn szerint a vállalatok ígérete úttörő jelentőségű, és jelentős előrelépést jelent a gyermekszexuális kizsákmányolás elleni harcban. Az Egyesült Államokban a Thorn 104 millió olyan esetről értesült, ahol a mesterséges intelligencia segítségével állítottak elő gyermekszexuális kizsákmányolást tartalmazó anyagokat.
Az Internet Watch Foundation (IWF) figyelmeztetése szerint a sötét weben egy majdnem 200 oldalas kézikönyv terjed a pedofilok körében, amely részletes útmutatást ad arra, hogyan lehet a mesterséges intelligenciát gyermekpornográf tartalmak előállítására használni. Ezeket a tartalmakat aztán zsarolásra és további szexuális bűncselekmények elkövetésére használják fel.
A Thorn és az All Tech is Human által kiadott Safety by Design for Generative AI: Preventing Child Sexual Abuse című dokumentum stratégiákat és ajánlásokat tartalmaz az MI-eszközök, keresőmotorok és közösségi oldalak fejlesztői számára. A dokumentum kiemeli, hogy a cégeknek körültekintően kell kiválasztaniuk az adatkészleteket, amelyekkel az MI-t betanítják, hogy azok ne tartalmazzanak felnőttekkel kapcsolatos szexuális tartalmakat sem.
A vállalatok továbbá elkötelezték magukat amellett, hogy elkülönítik a gyermek- és felnőttadatkészleteket, megakadályozva ezzel, hogy a mesterséges intelligencia modellek összekombinálják ezeket. A generált tartalmak vízjellel való ellátása is tervezett lépés, bár ez a megoldás nem tökéletes, mivel a vízjelet viszonylag könnyen el lehet távolítani.
Ezzel párhuzamosan a Microsoft egy kritikus biztonsági résről számolt be, amely számtalan Android-alkalmazást érinthet. A „Dirty Stream” néven ismert sebezhetőség komoly fenyegetést jelent, amely lehetőséget adhat arra, hogy valaki átvegye az irányítást az alkalmazások felett, és értékes felhasználói információkat lopjon el. A Microsoft proaktívan megosztotta felfedezéseit, figyelmeztette a fejlesztőket a potenciálisan sebezhető alkalmazásokról, illetve együttműködött velük a javítások telepítésében.
A Google is lépéseket tett a hasonló sebezhetőségek jövőbeni megelőzése érdekében azáltal, hogy frissítette alkalmazásbiztonsági irányelveit, és mostantól további hangsúlyt fektet a kihasználható közös tartalomszolgáltatói tervezési hibákra. Az Android-felhasználók számára ajánlott az alkalmazásfrissítésekkel kapcsolatos éberség megőrzése és mindig a hivatalos Google Play Áruházból történő letöltés.
