Halluzinationen in der Künstlichen Intelligenz, eine neue Dimension menschlicher Desinformation: Perspektiven von Bibliothekaren zu den Implikationen für wissenschaftliche Publikationen

Abstract

Von wissenschaftlichen Publikationen wird erwartet, dass Künstliche Intelligenz die Produktivität steigert und den Zugang zu Wissen verbreitet. Dies bringt jedoch Anomalien mit sich, die als KI-Halluzinationen bekannt sind und eine neue Welle menschlicher Desinformation darstellen, welche die Glaubwürdigkeit wissenschaftlicher Publikationen untergräbt. Die vorliegende Studie untersucht die Wahrnehmung von Bibliothekarinnen und Bibliothekaren in Bezug auf die Auswirkungen von Halluzinationen in der Künstlichen Intelligenz sowie von menschlicher Desinformation auf wissenschaftliche Publikationen. Die Untersuchung folgte einem deskriptiven Umfrageentwurf. Die Grundgesamtheit bilden Bibliothekarinnen und Bibliothekare in Nigeria. Als Stichprobenverfahren wurde zunächst eine gezielte Auswahl von Bibliothekaren angewandt, die soziale Medien nutzen. Anschließend wurde das Schneeballverfahren eingesetzt, um solche Bibliothekarinnen und Bibliothekare zu erreichen, die über gängige soziale Plattformen schwer zugänglich waren. Das Erhebungsinstrument war ein strukturierter Fragebogen. 97 Rückmeldungen wurden als gültig für die Analyse anerkannt. Die Daten wurden mit Hilfe von Mittelwert und Standardabweichung ausgewertet. Die Ergebnisse zeigten, dass Bibliothekarinnen und Bibliothekare sowohl über KI-Halluzinationen als auch über menschlich verursachte Desinformation informiert sind. Sie sind zudem fest davon überzeugt, dass diese Faktoren die Glaubwürdigkeit, Zuverlässigkeit und Integrität wissenschaftlicher Publikationen erheblich beeinträchtigen. Die Befragten stehen vor gravierenden Herausforderungen bei der Eindämmung von Desinformation, darunter fehlende spezialisierte KI-Schulungen, das Fehlen etablierter Prüfungsrichtlinien, die rasante technologische Entwicklung, begrenzte institutionelle Unterstützung sowie Schwierigkeiten bei der Überprüfung gedruckter und unveröffentlichter Arbeiten. Die Studie zeigte ferner, dass Bibliothekarinnen und Bibliothekare verschiedene Strategien zur Eindämmung von KI-Halluzinationen und menschlicher Desinformation anwenden, darunter KI-Technologieschulungen, Sensibilisierung für die Entwicklung von KI-Werkzeuge zur Anpassung sowie die Einführung von Richtlinien zum Umgang mit KI-Halluzinationen. Empfohlen wird die Vertiefung des Wissens der Bibliothekarinnen und Bibliothekare durch kontinuierliche Programme zur beruflichen Weiterbildung, spezialisierte Workshops sowie KI-Bildung. Dies wird ihnen helfen, mit neuen Trends in der Desinformation Schritt zu halten und Wissenschaftlerinnen, Wissenschaftler sowie Studierende besser zu unterstützen.