Kategorie: Information Retrieval +

KI Suche mit Halluzination

5 Strategien gegen KI-Halluzinationen bei der Websuche „60 % KI-Halluzinationsrate, ohne Websuche“ digithek.blog 12.2.2026
„1️⃣ Websuche aktivieren. Die meisten KI-Tools haben eine Websuchfunktion, die oft nicht standardmäßig eingeschaltet ist. Laut Studie senkt sie die Halluzinationsrate von 60 % auf 30 %. Das allein löst das Problem nicht, ist aber der wichtigste erste Schritt.

2️⃣ Quellen auf Inhalt prüfen. Dass eine KI eine Quelle angibt, heißt nicht, dass die Quelle die Aussage stützt. Dieses Content-Grounding ist die häufigste Fehlerquelle. Also: Quelle öffnen und nachlesen.

3️⃣ Gespräche kurz halten. Der Kaskadeneffekt ist messbar. Lieber mehrere kurze Konversationen starten, statt ein langes Gespräch zu führen, in dem sich frühe Fehler fortpflanzen.

4️⃣ Bei Nischenwissen skeptisch sein. Die Studie beschreibt eine gefährliche Mittelzone. Bei Themen mit wenig Trainingswissen füllen Modelle Lücken mit plausibel klingenden Details auf. Genau dort, wo du es am wenigsten merken würdest.

5️⃣ Gegenproben stellen. Bitte die KI, ihre eigene Antwort kritisch zu hinterfragen. Oder suche gezielt nach der Originalquelle. Kostet zwei Minuten, kann einen gravierenden Fehler verhindern.“

Large Language Models for Information Retrieval

Timo Breuer, Sameh Frihat, Norbert Fuhr, Dirk Lewandowski, Philipp Schaer, Ralf Schenkel: Large Language Models for Information Retrieval: Challenges and Chances. Datenbank-Spektrum 11.09.2025
Abstract:
„The rapid advancement of Large Language Models (LLMs) has introduced a paradigm shift in Information Retrieval (IR), moving beyond conventional keyword queries and ranked result lists. LLMs now play a critical role in the evolution of IR technologies and introduce new interaction forms like Retrieval-Augmented Generation, which is a more dynamic and interactive retrieval process that integrates various aspects of Information Access, like Question Answering, into the dialog between a searcher and the search engine. We explore the multi-faceted impact of LLMs on IR, particularly in three distinct layers where they have become an integral part of the retrieval process, namely the retrieval system and processing pipeline that can make use of a richer semantic representation using advanced language models, the interaction layer, and the broader IR ecosystem. For the latter, we focus on evaluation issues as well as bias, fairness, and ethical concerns. We also highlight some recent cases of using LLMs in the medical domain to demonstrate the impact on one specific domain.“

KI-Chatbots als Suchsysteme, Suchmaschinen als KI-Bots?

Lewandowski, Dirk: KI-Chatbots als Suchsysteme, Suchmaschinen als KI-Bots? Veränderungen, Begriffe und die Rolle des Datenbestands. Veränderungen, Begriffe und die Rolle des Datenbestands. In: M. Eibl (Hrsg.): Datenströme und Kulturoasen — Die Informationswissenschaft als Bindeglied zwischen den Informationswelten. Proceedings des 18. Internationalen Symposiums für Informationswissenschaft (ISI 2025), Chemnitz, Deutschland, 18.—20. März 2025. Glückstadt: Verlag Werner Hülsbusch, S. 150—167
Abstract
„Der Beitrag untersucht die Auswirkungen großer Sprachmodelle (LLMs) und KI-Chatbots wie ChatGPT auf die Informationssuche und auf Suchsysteme. Im Zentrum steht die These, dass die Integration von KI-Chatbots und Suchmaschinen neue, hybride Suchsysteme hervorbringt, die sowohl Informationen vermitteln als auch eigenständig generieren. Dabei werden technologische Entwicklungen, wie die Generierung von Informationsobjekten „on the fly“ und die Einbindung von Retrieval-Augmented Generation (RAG), als zentrale Innovationen beschrieben. Diese Veränderungen werfen Fragen zur Verlässlichkeit und Wahrheit von Informationen auf. Die Rolle des Datenbestands in Suchsystemen wird neu bewertet, da KI-Modelle qualitativ hochwertige Trainingsdaten benötigen, um Verzerrungen und Manipulationen zu vermeiden. Der Beitrag diskutiert, wie eine stärkere Kuratierung der Datenbestände zur Sicherung der Informationsqualität beitragen kann. Darüber hinaus wird argumentiert, dass bestehende Definitionen von Suchsystemen und Informationsobjekten angepasst werden müssen, um die Fähigkeiten von KI-Chatbots adäquat zu erfassen. Die Analyse zeigt, dass diese Entwicklungen Implikationen für die Informationswissenschaft haben, insbesondere für die Vermittlung von Informationskompetenz, die professionelle Informationsrecherche und das Informationsverhalten. Es wird betont, dass Informations- und Bibliothekswissenschaftler*innen durch ihre Expertise in der Bewertung und Vermittlung von Wissen gut auf die Herausforderungen generativer KI vorbereitet sind. Abschließend wird die Notwendigkeit einer breiten Debatte zur Rolle von KI-Systemen in der Informationssuche betont.“

Buchseite 1 von 6
1 2 3 … 6