Revisionsjätten EY tvingades dra tillbaka en rapport efter att den avslöjats innehålla allvarliga fel orsakade av AI-användning. En undersökning av kundlojalitetsprogram i Kanada, publicerad av EY, visade sig innehålla påhittade statistikuppgifter, felaktiga citat och hänvisningar till icke-existerande dokument. Felen uppdagades av aktivistgruppen GPT Zero, som granskade innehållet och avslöjade att texten troligen genererats av artificiell intelligens utan tillräcklig mänsklig kontroll.

EY har tagit bort rapporten från sin webbplats och meddelar att bolaget nu undersöker hur publiceringsprocessen kunde gå fel. Händelsen väcker frågor om hur stora företag integrerar AI i sin produktion av professionella rapporter och vilka kvalitetssäkringsrutiner som behövs.

Fallet illustrerar risken med att använda generativ AI i känsliga sammanhang där trovärdighet och exakthet är avgörande. Även om AI kan snabba upp arbetsprocesser, understryker händelsen vikten av att bibehålla strikt redaktionell granskning innan publikation.