Az OpenAI vízjelezési dilemma előtt áll
Az OpenAI már egy éve rendelkezik azzal az eszközzel, amely képes felismerni a ChatGPT által írt szövegeket, de a bevezetését még mindig nem döntötték el, mivel attól tartanak, hogy ezzel felhasználókat veszíthetnek.
Az OpenAI által kifejlesztett rendszer, amely képes a ChatGPT által generált szövegek vízjelezésére és azok észlelésére, már körülbelül egy éve elkészült, de a cég még mindig nem döntött a kiadásáról. A mesterséges intelligencia (MI) által generált tartalmak terjedése komoly kihívások elé állítja az oktatási és szakmai életet, hiszen a plágium egyre nehezebben felismerhető, és új módszereket kell találni a csalás kiszűrésére.
A vízjelezési rendszer úgy működik, hogy egy észlelhető mintázatot hoz létre a szövegben, amely ellenáll az átfogalmazásnak, és nem rontja a szöveg minőségét. A The Wall Street Journal szerint az OpenAI belső felmérése rámutatott, hogy a felhasználók közel 30 százaléka kevesebbet használná a chatbotot, ha bevezetnék a vízjelezést.
A vállalat tudomásul veszi a kutatás eredményét, de aggályai vannak, például azzal kapcsolatban, hogy a felhasználók átfogalmaztatnák a ChatGPT-s szövegeiket a vízjel eltüntetése érdekében, ami rosszindulatú szereplők visszaéléséhez vezethet. Emellett a vízjel használata hátrányt jelenthet azoknak, akik munkájukban vagy tanulmányaik során profitálnak a chatbotból.
A vállalat más megközelítéseket is mérlegel, például a metaadatokba rejtett vízjeleket, amelyek kevésbé lennének egyértelműek, de mégis jeleznék a szoftver használatát. A The Verge szerint ez a módszer még csak gyerekcipőben jár, így nem lehet megmondani, mennyire lenne hatékony.
A felhasználók négy-az-egyhez arányban támogatják az MI-felderítő eszközök bevezetését, de az OpenAI még mindig nem hozott döntést az eszköz kiadásáról. Az MI által generált tartalmak egyre kifinomultabbak, és a megfelelő promptok használatával már nagyon nehéz megkülönböztetni a végeredményt a valóban kézzel írt szövegtől. Az OpenAI dilemma előtt áll: bevezessék-e az eszközt és kockáztassák a felhasználók elvesztését, vagy hagyják, hogy az MI továbbra is kihívást jelentsen az oktatásban és a szakmai életben. Az OpenAI blogbejegyzése szerint bár módszerük nagyon pontos - állításuk szerint 99,9%-os hatékonyságú - bizonyos lépésekkel kijátszható lehet; például, ha a használók egy másik nyelvi modellel átfogalmazzák a kapott ChatGPT szöveget.