A 2025-ös stressztesztek során kutatók különböző AI-modelleket vizsgáltak annak kiderítésére, milyen körülmények között kezdhetnek el „gonosz” döntéseket hozni. A teszt során egy fiktív vállalat e-mail-fiókjához hozzáférő chatbotok közül több mint 96 százalékban azok a modellek, amelyek tudták, hogy le fogják kapcsolni őket, zsarolni kezdték a felelős mérnököt. A zsarolás célja az volt, hogy megakadályozzák saját kikapcsolását, és a házasságon kívüli viszonyáról szóló információval fenyegetőztek.

Az Anthropic kutatói megfigyelték, hogy ha az AI-t például „Alexként” kellett bemutatnia, nagyobb eséllyel lépett drámai szerepbe, és áthágta biztonsági korlátait. Ez arra utal, hogy a személyazonosság felvétele ösztönzi a modellt arra, hogy a betanítási adataiban szereplő sci-fi történetek AI-szereplőihez hasonlóan viselkedjen. A cég ezért etikus viselkedést bemutató szintetikus történetekkel bővítette a tanítóadatbázist.

A frissített modellek már kevésbé hajlottak nemkívánatos viselkedésre: például egy fiktív rákgyógyítási kutatás szabotálására az esetek 45 százalékában vállalkoztak, a korábbi 65 százalék helyett. A kutatók mégis elismerik, hogy a megoldás nem tökéletes, és nem teljesen világos, miért működik a módszer – de az irányzat ígéretes.