Hekkerek manipulálták a népszerű képgeneráló MI-t a felhasználók jelszavainak ellopására
Egy hekkercsoport módosított egy kiegészítőt a Stable Diffusion generatív mesterséges intelligenciás képalkotó szoftverhez, amit a Githubra töltöttek fel, és így több felhasználó számítógépét is megfertőzték – számol be a 404 Media.
A támadók állítása szerint a digitális művészek kihasználása elleni tiltakozásul hajtották végre az akciót, mondván, hogy az MI által létrehozott alkotások ártalmasak a kreatív iparra, ezért nem kellene azokat támogatni.
A hekkerek nem magát a Stable Diffusion programot, hanem annak egy népszerű, ingyenes kiegészítőjét, a ComfyUI-t célozták meg, amely egy egyszerűbb felhasználói felületet biztosít a képgenerátorhoz. A ComfyUI_LLMVISION nevű kiegészítőt manipulálták, amely a GPT-4 és a Claude 3 nagy nyelvi modelleket is integrálja a felületbe.
A ComfyUI Github oldala jelenleg nem elérhető, de eltűnése előtt a Nullbulge Group nevű csapatot jelölték meg mint a támadás felelősét. Az oldalon egy fenyegető üzenet is megjelent, amely arra figyelmeztetett, hogy a felhasználók legyenek óvatosak a gyengén védett fiókokkal kapcsolatban.
A hekkerek hónapokkal a kiegészítő Githubra történő feltöltése előtt már beépültek a rendszerbe, és a manipulált kiegészítő segítségével hozzáfértek a felhasználók belépési adataihoz. Ezt több felhasználó is megerősítette a Redditen, és a Nullbulge is hirdette saját oldalán, hogy több száz felhasználó jelszavát szerezték meg.
A vpnMentor elemzése szerint a kiegészítő képes volt kripto-tárcák eltulajdonítására, képernyőképek készítésére, az eszköz adatainak és IP-címének kinyerésére, valamint bizonyos kulcsszavakat vagy kiterjesztéseket tartalmazó fájlok ellopására.
A Nullbulge már nem elérhető oldalán egy "Rólunk" szekcióban azt állították, hogy a csapat tagjai kiemelten fontosnak tartják a művészek jogainak védelmét és megfelelő kompenzációjukat. Egy "gyakran ismételt kérdések" részben pedig különféle bűnökért vállalták a felelősséget, mint például műkincsrablás, kripto népszerűsítése, MI által generált művek alkotása, valamint a művészeket támogató oldalakról történő lopás.
A 404 Media megjegyzi, hogy nincs egyértelmű bizonyíték arra, hogy a hekkerek valóban a jogvédő szándékok vezérlik őket, vagy csupán ürügyként használják ezt, miközben kibertámadásokat hajtanak végre.