A chatbotok gondolkodásmódjának megfejtése
A mesterséges intelligencia fejlesztése során a szakemberek számára is rejtély, hogy az algoritmusok hogyan generálják a válaszokat, és ez a titok felderítésére irányuló kutatások tárgya. A webes keresők által nyújtott AI chatbot szolgáltatások terjedése miatt egyre fontosabbá válik megérteni, hogyan működnek ezek a rendszerek.
A gépi tanuláson alapuló legújabb AI chatbotok adatokban lévő mintákat azonosítanak szabályok vagy emberi útmutatás nélkül, hogy válaszokat generáljanak, ami a fejlesztők számára is fekete dobozként funkcionál. A kutatók különböző módszereket alkalmaznak, mint például modell-döntésfákat vagy gondolatlánc-beszélgetéseket, hogy megértsék a nagyméretű nyelvi modellek (LLM) működését.
Ez a kutatás különösen fontos, mivel az LLM-ek számos területen használatosak, például orvosi tanácsadásban, számítógépes kódírásban, hírek összefoglalásában és pályázatok megfogalmazásában, miközben hibás információkat generálhatnak, társadalmi sztereotípiákat erősíthetnek és magánadatokat szivárogtathatnak ki. David Bau, a Northeastern University informatikusa szerint a technológia fejlesztőinek, mint például az OpenAI-nek, támogatniuk kellene a kutatást, hogy ne csak a felelősség hiánya legyen a jellemző.
A mesterséges intelligencia etikus művelésének kérdése is előtérbe kerül, hiszen az AI fejlődése gyorsabb, mint a szabályozás. Az Európai Unió mesterséges intelligencia-törvénye előírja a magyarázhatóságot bizonyos magas kockázatú rendszerek esetében, de az LLM-ek jelenleg nem tartoznak ebbe a kategóriába. A szabályozás változása új kihívások elé állíthatja a technológiai fejlesztéseket, de a szakértők szerint az AI fejlesztéséhez fűződő érdekek sokkal nagyobbak, mint a korlátozásoké.