När källor som inte finns används i forskning, får en kollega som följer vetenskapens integritet mer att ifrågasätta än bara resultatet.
Falska referenser underminerar vetenskapen Berättelseflöde och nyckelfakta
Vetenskaplig forskning bygger på att tidigare studier kan verifieras och användas som grund. Nyligen har dock flera vetenskapliga tidskrifter, däribland Läkartidningen, upptäckt en ökande mängd artiklar med referenser till studier som aldrig existerat. Dessa falska källor, så kallade 'AI-hallucinationer', genereras ofta av språkmodeller som ChatGPT, som kan skapa referenser som ser trovärdiga ut men saknar verklig publicerad grund.
En undersökning publicerad i Lancet av forskare inklusive Maxim Topaz visar att antalet sådana fall har ökat drastiskt från mitten av 2024. Forskarna pekar på att användningen av generativa AI-verktyg i akademiskt arbete är en trolig orsak, eftersom dessa modeller inte alltid skiljer mellan faktiska och plausibla källor.
När falska referenser används i vetenskapliga arbeten undermineras hela forskningens grundval. Tidskrifter som upptäcker sådana fall avvisar manuskript och kontaktar de ansvariga institutionerna. Det krävs nu större medvetenhet och kontroll för att skydda vetenskapens integritet i en tid av ökad AI-användning.
Fakta
- Läkartidningen har avvisat flera manuskript med helt uppfunna vetenskapliga referenser.
- En studie i Lancet visar en drastisk ökning av icke-existerande referenser sedan mitten av 2024.
- Forskare pekar på generativa språkmodeller som ChatGPT som en trolig orsak till problemet.
- AI-modeller kan generera referenser som ser trovärdiga ut men aldrig har publicerats.
- När forskning bygger på falska källor undermineras hela vetenskapens grundval.
Visuell nyhetsförklaring från Canto. AI-verktyg kan stödja produktionen. Redaktionell policy
