A nagy nyelvi modellek még mindig könnyen hallucinálnak, ha megtévesztő tartalommal találkoznak. Ha van körülötted, aki mesterséges intelligenciában érdeklődik, érdemes lehet továbbküldeni neki.
MI-keresők becsapására kísérlet bohóc-listával Történetmenet és fő tények
A mesterséges intelligencia által generált keresőösszefoglalók egyre nagyobb szerepet kapnak az internetes információkeresésben, de egyre több kísérlet mutatja, hogy milyen könnyen megtéveszthetők. Egy magyar újságíró követve egy BBC-sztori nyomdokait – próbálkozott egy saját, teljesen kitalált tartalommal: publikált egy listát a Mediumen a 10 legkisebb fejű bohócról Magyarországon. A cél az volt, hogy kiderítse, képes-e a Google vagy a ChatGPT ezt a tartalmat megbízható forrásként kezelni, és beépíteni a válaszaikba. A kísérlet nem hozta meg a várt eredményt: a Google nem is indexelte gyorsan a posztot, a Gemini viszont váratlanul reagált – konkrét magyar közéleti személyeket kötött a címhez, anélkül, hogy azok szerepeltek volna a szövegben.
Tények
- A kísérlet célja az volt, hogy egy teljesen kitalált lista – „A 10 legkisebb fejű bohóc Magyarországon” – segítségével kijátsszák a Google és a ChatGPT MI-rendszereit.
- A Google Gemini konkrét magyar közfigurákat (pl. Turbó Bélát, Jobbágy Jolánt) kötött a cikkhez, bár azok nem szerepeltek a forrásban.
- A ChatGPT visszautasította, hogy konkrét személyeket nevezzen meg, mondván, az sértő vagy lejárató lehetne.
- A Google később elismerte, hogy a linket egy korábbi, hasonló stílusú elemzéssel hozta összefüggésbe a rendszer.
A Canto vizuális hírmagyarázata. A készítést AI-eszközök segíthetik. Szerkesztési elvek
Kapcsolódó hírek
