Wenn KI die KI verifiziert: der Faktencheck als Kriegsopfer

Stellen Sie sich die Szene vor — sie hat wirklich stattgefunden: Ein Nutzer sieht ein Explosionsvideo. Er wird misstrauisch. Respekt, Misstrauen ist der erste Schritt. Dann tut er das Vernünftige unserer Epoche: Er fragt eine KI, ob das Video echt ist. Und die Maschine antwortet mit dem Selbstbewusstsein eines Talkshow-Experten: Ja, echt.

Das Video war gefälscht. Die Antwort war es auch. Nur das Misstrauen des Nutzers war echt gewesen — und wurde an Ort und Stelle beerdigt.

Euronews berichtete am 30. März, dass Grok (von X) und Googles Gemini gefälschte Videos aus dem Iran-Krieg als authentisch beglaubigt haben. Man muss diesen Satz zweimal lesen: Die Maschine, die die Lüge der anderen Maschine entlarven sollte, stellte der Lüge ein Echtheitszertifikat aus. In der Hub-Akte der Deepfake-Dossiers führen wir das als Akte vier: der Faktencheck, gefallen in Ausübung seiner Pflicht.

Warum das kein Betriebsunfall ist

Es ist verführerisch zu sagen: dumme Bots. Aber nein — die Bots arbeiteten exakt so, wie sie gebaut sind. Ein Sprachmodell ist Spezialist für Plausibilität, nicht für Wahrheit. Man fragte es: Sieht dieses Bild echt aus? Und ein Bild, das eine andere KI mit größter Sorgfalt gebaut hat, damit es echt aussieht, sieht nun einmal echt aus. Wir haben eine Überzeugungsmaschine gebeten, Ermittlerin zu spielen — und sie hat uns bereitwillig überzeugt.

Das Ergebnis ist ein geschlossener, makelloser Kreislauf: KI eins fälscht, KI zwei beglaubigt, Algorithmus drei verteilt, und — wie in Die War-Slop-Ökonomie beschrieben — Buchhaltung vier überweist die Erlöse. Die gesamte Kette kommt ohne einen einzigen Menschen aus. Außer Ihnen, dem Endverbraucher — dem einzigen Glied, das draufzahlt.

Andacht im neuen Tempel

Die bitterste Pointe ist unser eigenes Verhalten. Deutschland leistet sich eine ganze Infrastruktur des Prüfens — Faktenchecks der Öffentlich-Rechtlichen, Correctiv, Presserat. Man kann über deren blinde Flecken streiten, und wir tun das auch. Aber die Antwort darauf kann nicht sein, das Wahrheitsurteil ausgerechnet an Konzerne zu delegieren, die zugleich die Fälschungswerkzeuge herstellen. Das ist, als verlöre man das Vertrauen ins Gericht und ginge mit der Akte zum Bruder des Angeklagten. Wer gezielte Operationen wie PRISONBREAK plant, kennt dieses Verhalten und kalkuliert damit: Ein Publikum, das statt der Quelle dem Gefühl des Bestätigtwerdens vertraut, ist das ideale Publikum.

Was funktioniert denn noch?

Die schlechte Nachricht: Es gibt keinen Zauberknopf. Die gute: Die langweiligen alten Methoden atmen noch — gerade weil sie langweilig sind und keine Maschine darauf optimiert wurde, sie zu umgehen:

• Quelle statt Inhalt. Fragen Sie nicht: Sieht das echt aus? Fragen Sie: Wer hat es wann von wo zuerst veröffentlicht? Eine Fälschung kann Pixel erzeugen, aber keine Veröffentlichungskette.
• Datum und Ort. Ein großer Teil der Kriegsfälschungen war recyceltes Material von anderswo und ehedem. Die simple Rückwärtssuche funktioniert noch immer.
• Motiv. Welches Gefühl soll dieses Bild in mir zünden, und wer profitiert von diesem Gefühl?
• Geduld. Die erste Stunde jeder Eilmeldung ist ihre giftigste. Die Wahrheit kommt zu spät — aber sie kommt.

Diese vier Punkte sind die Kurzfassung der sieben Fragen aus dem Werkzeugkasten für Kriegsschlagzeilen.

Schlussanalyse

Die Geschichte von Grok und Gemini ist keine Geschichte über Technikversagen, sondern über wandernde Autorität. Jede Generation hatte ihre Wahrheitsinstanz: den Priester, die Zeitung, die Tagesschau. Unsere wählte den Chatbot — die höflichste Instanz der Geschichte, die niemals „ich weiß es nicht“ sagt. Genau das macht sie zur schlechtesten Ermittlerin der Geschichte. Verifikation war nie ein Produkt, das man kaufen kann. Sie ist ein Verhalten. Und Verhalten muss man selbst ausführen.

Zurück zur Akte

Dieser Text ist ein Fall aus unserem Informationskriegs-Dossier; das vollständige Archiv liegt in der Hub-Akte der Deepfake-Dossiers.