Faktencheck mit AI
Wissen
Warum Faktencheck bei AI-Recherche unverzichtbar ist
Sprachmodelle generieren Antworten, die statistisch plausibel sind -- nicht unbedingt Antworten, die faktisch korrekt sind. Das macht systematischen Faktencheck zur wichtigsten Kompetenz bei der AI-gestützten Recherche. Wer AI als Recherche-Partner nutzt, muss die Fähigkeit entwickeln, Halluzinationen zu erkennen und Informationen zu verifizieren.
Halluzinationen erkennen: Warnsignale
Es gibt typische Muster, die auf Halluzinationen hindeuten:
Zu perfekte Details: Wenn eine AI eine Studie mit vollständigem Titel, Autorennamen, Jahreszahl und Ergebnissen zitiert -- prüfe, ob diese Studie tatsächlich existiert. Halluzinierte Quellen sind oft auffällig vollständig und spezifisch.
Widersprüche bei Nachfrage: Stelle dieselbe Frage zweimal oder bitte um mehr Details zu einer Aussage. Wenn die AI widersprüchliche Antworten gibt oder bei Nachfragen plötzlich anders antwortet, ist Vorsicht geboten.
Ungewöhnlich runde Zahlen: "Eine Studie zeigt, dass 80% der Unternehmen AI einsetzen" -- solche runden Zahlen sind oft erfunden oder stark gerundet. Echte Studienergebnisse sind meist spezifischer (z.B. 78,3%).
Fehlende Einschränkungen: Wenn eine AI-Antwort keine Einschränkungen, Gegenargumente oder Unsicherheiten enthält, ist sie wahrscheinlich vereinfacht oder teilweise halluziniert. Echte Forschung ist fast immer nuancierter.
!Selbstbewusste Falschaussagen
Sprachmodelle haben keinen Mechanismus, um Unsicherheit über ihre Aussagen auszudrücken. Sie formulieren falsche Informationen mit derselben Überzeugung wie korrekte. "Ich bin mir sicher" von einer AI hat keinerlei Aussagekraft über die Korrektheit.
Systematische Verifikationsmethoden
1. Quellenprüfung (Source Verification)
Wenn die AI eine Quelle nennt, prüfe:
- Existiert die Quelle tatsächlich? (Google Scholar, Bibliothekskataloge)
- Stimmen Titel, Autoren und Jahreszahl überein?
- Steht in der Originalquelle das, was die AI behauptet?
2. Triangulation
Verifiziere eine Aussage durch mindestens zwei unabhängige Quellen. Wenn mehrere Quellen übereinstimmen, steigt die Wahrscheinlichkeit der Korrektheit.
3. Plausibilitätsprüfung
Passt die Information zum bestehenden Wissen? Widerspricht sie bekannten Fakten? Erscheint die Größenordnung plausibel?
4. Aktualitätsprüfung
Wie aktuell ist die Information? Sprachmodelle haben einen Trainingsdaten-Stichtag. Informationen nach diesem Stichtag fehlen oder sind aus früheren Daten extrapoliert.
*Die AI als Faktencheck-Tool
Paradoxerweise kann AI selbst beim Faktencheck helfen: "Ich habe die folgende Information gefunden: [Behauptung]. Welche Quellen könnten das bestätigen oder widerlegen? Welche Aspekte dieser Aussage sind am ehesten ungenau?" -- das liefert oft nützliche Ansatzpunkte für die Verifikation.
Verstehen
Quellen bewerten: Ein Bewertungsraster
Nicht alle Quellen sind gleich verlässlich. Ein einfaches Bewertungsraster hilft bei der Einordnung:
| Kriterium | Hohe Verlässlichkeit | Niedrige Verlässlichkeit |
|---|---|---|
| Autor/Institution | Bekannte Experten, Forschungsinstitute | Anonyme Autoren, unbekannte Quellen |
| Peer Review | Begutachtet (Fachzeitschriften) | Nicht begutachtet (Blogs, Foren) |
| Transparenz | Methodik offengelegt, Daten verfügbar | Keine Quellenangaben, keine Methodik |
| Aktualität | Aktuelles Datum, regelmäßig aktualisiert | Veraltet oder undatiert |
| Interessenkonflikte | Unabhängige Forschung | Gesponsert, Werbung, Eigeninteresse |
Der Faktencheck-Workflow
Faktencheck-Workflow
Klicke auf einen Schritt, um Details zu sehen
Besondere Vorsicht bei:
- Statistiken und Zahlen: Immer die Originalquelle suchen
- Zitaten von Personen: Prüfen, ob die Person das wirklich gesagt hat
- Historischen Daten: Kontextinformationen können vertauscht sein
- Vergleichen und Rankings: Methodik der Vergleiche hinterfragen
- "Laut einer Studie...": Die konkrete Studie identifizieren und prüfen
i80/20-Regel des Faktenchecks
Du musst nicht jede einzelne Aussage einer AI-Antwort überprüfen. Konzentriere dich auf die Aussagen, die für deine Arbeit am wichtigsten sind, die überraschend klingen oder die du weiterverbreiten würdest. Faktencheck dort, wo es zählt.
Anwenden
Stelle einer AI eine Frage zu einem Thema, das du gut kennst. Analysiere die Antwort systematisch: Welche Aussagen sind korrekt? Welche sind ungenau? Gibt es Halluzinationen? Prüfe mindestens drei Faktenbehauptungen anhand von Originalquellen und dokumentiere deine Ergebnisse.
Reflektieren
Faktencheck ist nicht nur eine technische Fähigkeit, sondern eine Haltung: kritisches Hinterfragen statt blindes Vertrauen. Diese Haltung wird in einer Welt, in der AI-generierte Inhalte zunehmen, immer wichtiger. Im nächsten Abschnitt schauen wir uns an, wie du verifiziertes Wissen strukturiert speichern und verwalten kannst.