Wetenschappelijke literatuur wordt in rap tempo vervuild met AI-hallucinaties. Minstens 10.000 publicaties uit 2025 bevatten door AI verzonnen academische verwijzingen. Dat meldt het toonaangevende wetenschappelijke blad Nature op basis van eigen onderzoek. Ook andere wetenschappelijke instituten trekken aan de bel.

De verwijzing of referentie is de hoeksteen van al het wetenschappelijk onderzoek. Niet voor niets wordt door wetenschappers bij elke bewering minutieus naar vakliteratuur verwezen, onder vermelding van paginanummers, datum van uitgave en andere gegevens die geraadpleegde onderzoeken voor derden altijd vindbaar maken. Bronvermelding maakt een wetenschappelijke bewering controleerbaar. Alle wetenschap bouwt voort op oudere wetenschap, waarbij referenties aangeven op welke onderzoeken een idee is gestoeld.

Dat illustere bouwwerk van kruisverwijzingen ligt nu onder vuur van AI, schrijft Nature. Bij een eigen onderzoek (waarbij ironisch genoeg ook AI werd ingezet) kwam naar voren dat zeker 10.000 wetenschappelijke publicaties uit 2025 hopeloos tekortschoten bij het verwijzen naar bronnen. Citaten in congresverslagen, artikelen en andere vakliteratuur bleken aantoonbaar verzonnen of onherkenbaar veranderd, titels van artikelen werden verhaspeld en soms werd een referentie domweg verzonnen.

Nature is niet de eerste, noch de enige die het probleem van oprukkende AI vaststelt. Een analyse van 18.000 artikelen rond computerwetenschap liet zien dat 2,6 procent van de studies 'gehallucineerde citaten' bevatte. Een andere studie stelde vast dat tot zes procent van de onderzochte studies de literatuuropgave niet geverifieerd kon worden omdat titels 'opnieuw geformuleerd' waren.

De oorzaak van het probleem ligt aan het gebruik van AI in de studies zelf. Een experiment om met AI-chatbots academische artikelen te genereren rond psychische aandoeningen, leidde tot een rampzalige twintig procent foutieve en verzonnen referenties. 45 procent van de referenties die wel naar bestaande artikelen verwees, bevatte kinderlijke fouten, waaronder verkeerd genoteerde DOI-nummers - de kentekenplaat van elke academische publicatie.

Hoe groot het probleem exact is, is moeilijk te zeggen, schrijft Nature. Naast 'machinefouten' die door AI worden veroorzaakt, blijven ook menselijke fouten het systeem van kruisverwijzingen vertroebelen. 'In de huidige situatie moeten we erkennen dat er menselijke fouten zijn en machinefouten, en dat die vaak overlappen', stelt een onderzoeker in het blad.