Det tok to år før falsk forskning om en oppdiktet øyesykdom ble ryddet bort. Hvis du har kolleger eller venner som jobber med AI eller helseforskning, kan det være verdt å dele denne konteksten rolig.
Forskerne diktet opp en sykdom. KI trodde den var ekte Historieflyt og nøkkelfakta
I 2024 publiserte forskere ved Göteborgs universitet to falske forskningsartikler på preprints.org om en påstått øyesykdom kalt bixonimania, påstått forårsaket av blått lys fra skjermer. Artiklene beskrev symptomer som kløende øyne og mørk hud rundt øynene, men inkluderte tydelige påfunn: forfatterens navn var oppdiktet, finansiering kom fra 'Professor Sideshow Bob Foundation', og bidrag var takket til Starfleet Academy fra Star Trek. Likevel ble bixonimania omtalt som en ekte tilstand av KI-verktøy som ChatGPT, Gemini og Perplexity, som ga helseråd basert på den falske informasjonen. Artiklene ble sitert i andre forskningsstudier, og minst én av disse måtte trekkes tilbake. Forskerne bak stuntet sa til Nature at målet var å avdekke hvor lett KI-systemer kan spre feilinformasjon – og at de valgte en ufarlig, åpenbart latterlig sykdom for å begrense skade. Etisk rådgiver ved universitetet godkjente eksperimentet som verdifullt, men kontroversielt. I 2026 ble artiklene endelig trukket tilbake med begrunnelse om 'fabrikkert materiale'.
Fakta
- Forskerne ved Göteborgs universitet publiserte to falske artikler om 'bixonimania' på preprints.org i april 2024.
- Artiklene inkluderte åpenbare påfunn som Star Trek-referanser og en fundert forfatter fra 'University of Fellowship of the Ring'.
- KI-verktøy som ChatGPT, Gemini og Perplexity omtalte bixonimania som en ekte sykdom og ga helseråd basert på det.
- Falske artikler ble sitert i annen forskning, og minst én studie måtte trekkes tilbake som følge av det.
- Artiklene ble trukket tilbake i april 2026 med begrunnelse om 'fabrikkert og uekte materiale'.
- Forskerne sa til Nature at formålet var å teste KI-systemers sårbarhet overfor falsk medisinsk informasjon.
Visuell nyhetsforklaring fra Canto. AI-verktøy kan støtte produksjonen. Redaksjonelle retningslinjer
