Het Rathenau Instituut waarschuwt dat ongecontroleerd gebruik van kunstmatige intelligentie in de wetenschap de betrouwbaarheid van kennis en het vertrouwen in onderzoek ondermijnt. Hoewel AI nuttig is bij het opsporen van literatuur en vakgebieden zoals de paleografie, zet generatieve AI centrale waarden als integriteit en onafhankelijkheid onder druk. Het instituut ziet een toename van door AI gegenereerde nepartikelen en dringt aan op snelle richtlijnen van universiteiten en kennisinstellingen. Volgens een enquête van Elsevier gebruikt inmiddels 58 procent van de wetenschappers AI, vooral voor literatuuronderzoek. Het Rathenau Instituut stelt de fundamentele vraag wat voor wetenschap er gewenst is in een tijd van toenemende AI-integratie. Tegelijkertijd werkt de KNAW aan een nieuwe gedragscode voor wetenschappelijke integriteit, waarin ook AI-gebruik wordt geregeld. De conceptgedragscode benadrukt het gebruik van technologieën die wetenschappelijk gevalideerd zijn, wat lastig is bij tools als ChatGPT en Perplexity vanwege hun onduidelijke data- en bronverwerking. De nieuwe code moet in het najaar van kracht worden en gelden voor zowel universiteiten als hogescholen. De discussie over verantwoord AI-gebruik is daarmee centraal in de Nederlandse wetenschap geworden.