MAGAZIN »Leben in der Frauenkirche« > HEFT 3/2026 > INHALT > Im Zweifel für den Zweifel

Zwischen Glaube und Unglaube

DER FAKE IST ZUM STANDARD GEWORDEN. EINE ZUMUTUNG?

NEIN, DENN DER NEUE ECHTHEITSZWEIFEL KÖNNTE SICH ALS EINE VERSPÄTETE FORM DIGITALER MÜNDIGKEIT ENTPUPPEN.

Eines von vielen Schlachtfeldern im Kampf um die sogenannte Realität befindet sich in der Bahnhofstraße 88, 66386 St.  Ingbert im Saarland. Hier hat das Start-up Detesia seinen Sitz, dessen fünf Mitarbeiter an einem großen Auftrag arbeiten. Herauszufinden, was noch echt ist und was nicht. Sie untersuchen Fotos und Videos daraufhin, ob sie von künstlicher Intelligenz gefälscht wurden.

»Früher konnte man KI-Inhalte noch daran erkennen, dass irgendwo im Bild ein Finger gefehlt oder zu viel war«, sagt Philipp Dewald, einer der Gründer. »Heute hat sich die Technologie so sehr weiterentwickelt, dass die Ergebnisse fotorealistisch aussehen.« Beauftragt wird Detesia etwa von Strafverfolgungsbehörden oder Versicherungen, mal geht es um Schadensmeldungen, mal um den Verdacht auf Kinderpornografie.

Die hauseigene Software analysiert Farb- und Frequenzbereiche, prüft auf Wasserzeichen und eingesetzte Filter, analysiert Fluchtpunkte und Schattenwürfe und gibt dann ein Urteil ab: echt oder nicht. Dafür gibt es Fördergelder vom Forschungsministerium und reichlich übergroße Schecks am Ende von Start-up-Wettbewerben. Auf einem Foto sieht man Philipp Dewald neben Bundeskanzler Friedrich Merz stehen.

MANCHE EXPERTEN GLAUBEN,DASS DIE SCHLACHT UM DIE REALITÄT NICHT MEHR ZU GEWINNEN IST.

»Katz-und-Maus-Spiel« nennt Philipp Dewald seine Arbeit optimistischer. Die KIs, mit denen die Fakes erstellt werden, werden immer leistungsfähiger, die Detektoren müssen nachrüsten. Und trotzdem sagt er, sei es überraschend, »wie groß der Anteil der Bevölkerung ist, dem noch nicht wirklich klar ist, dass ein Inhalt fotorealistisch sein kann und gar nicht echt«.

In seinem jährlich herausgegebenen Global Risks Report sieht das Weltwirtschaftsforum Desinformation durch KI im Ranking menschengemachter Krisen an fünft er Stelle, in direkter Nachbarschaft zu kriegerischen Konflikten und durch den Klimawandel ausgelöstem Extremwetter. Jede Krise auf globalem Niveau hat auch Auswirkungen auf den Einzelnen.

Stauen sich die Öltanker an der Straße von Hormus, lässt das die Verbraucherpreise an Tankstellen und Supermarktkassen hochschnellen. Kommen reaktionäre Populisten an die Macht, lässt das die Welt, in der unsere Kinder aufwachsen, kleiner und kälter werden. Und die Desinformation?

Untergräbt, so der Risiko-Report, »den öffentlichen Diskurs und erhöht die Risiken eines zunehmenden digitalen Misstrauens und einer Verwässerung ambitionierter sozial-ökologischer Entscheidungen«. Im Vergleich zu Butter für fünf Euro das halbe Pfund klingt diese Einschätzung zunächst einmal beruhigend abstrakt.

Doch anders als steigende Preise oder Extremwetter betrifft diese Krise etwas Grundsätzlicheres: unsere Fähigkeit, Realität überhaupt zu erkennen. Lange Zeit galt der Satz »Ich hab’s mit eigenen Augen gesehen« als ultimative Evidenz dafür, dass etwas tatsächlich passiert ist.

Innerhalb von wenigen Jahren hat sich unser Verhältnis zur Realität geändert, und es wird Jahre dauern, bis wir uns daran gewöhnt haben. Selbst Menschen, die tief drinnen stecken in der Tech-Welt, sind mit der Geschwindigkeit des Wandels überfordert.

 

Man sei »beschädigt, aber auch klüger«, sagte ZDF-Chefredakteurin Bettina Schausten im Nachgang des Skandals in einem Interview mit der SZ. Als sei es ein einmaliger Ausrutscher gewesen. Als wären die virulenten Fakes eine heiße Herdplatte, deren Gefahr man zwar unterschätzt habe, die man aber künftig vermeiden werde, nun, da man sich einmal verbrannt habe. Nur einen Monat später kam heraus, dass eine Bildagentur Hunderte KI-manipulierte Fotos zum Iran-Krieg an zahlreiche Redaktionen in der ganzen Welt geschickt hatte.

Für Roland Meyer, Medienwissenschaftler und Professor für Digitale Kultur an der Universität Zürich, ist der Schwall von generativer KI auch ein Symptom unserer eigenen Sehgewohnheiten: »In Zeiten von Smartphones und Social Media hat sich die Erwartungshaltung durchgesetzt, dass von allem, was passiert, auch Bilder existieren müssen. KI-Bilder sind vor allem da besonders erfolgreich, wo sie dieses Begehren nach dem sofort vorhandenen Bild bedienen«, sagt Meyer.

So verschärften sich die Dynamiken: »All das findet ja vor dem Hintergrund der Eigenlogik sozialer Medien statt, die aufgrund ihrer Architektur wenig geeignet sind, Konsens herzustellen, sondern von Konfrontation und Konkurrenz leben.«

Doch wenn schon die Profis im Fernsehstudio immer häufiger nicht wissen, was noch echt ist, welche Chance hat dann eigentlich noch der ganz normale Nutzer? Schätzungen zufolge stammt inzwischen ein erheblicher Teil der neu entstehenden Online-Inhalte von KI-Systemen.

Egal, ob Nachrichtensendung oder beschönigter LinkedIn Lebenslauf – der Fake ist zur Standardkulturtechnik geworden. Immer häufiger stellt sich beim Scrollen deshalb eine diffuse Frage, die man noch bis vor Kurzem eher mit einem gepflegten Nervenzusammenbruch in Zusammenhang gebracht hat: Was ist überhaupt noch real? Nicht nur bei makellosen Tierfotos oder hyperattraktiven Insta-Gesichtern, nicht nur bei politisch motivierten Fake News.

Sondern auch bei scheinbar ganz banalen Dingen – Forenbeiträgen, Alltagsanekdoten, Erfahrungsberichten: den kleinen Erzählungen, die lange als soziales Schmiermittel des Netzes dienten, die die Welt durch den Bildschirm in greifbare Nähe rückten. Im vergangenen Jahr waren 73 Prozent aller Anfragen an Chat-GPT keine arbeitsrelevanten Themen, sondern privater Natur.

Die Nutzer lassen sich von der KI ihre Kondolenzschreiben genauso verfassen wie die privaten Nachrichten an Eltern und Freunde. Plötzlich wirkt alles verdächtig glatt. Richtige Orthografie erscheint nicht mehr vertrauenswürdig, sondern suspekt. Kohärente Argumente klingen nach KI-Prompt. Emotional stimmige Texte nach Simulation.

WAS MACHT DIESER ALLGEGENWÄRTIGE ECHTHEITS ZWEIFEL MIT UNS?

Werden wir in dieser Umwelt zu dauerhaft misstrauischen und dementsprechend zynischen Beobachtern? Wie viel Mitgefühl können wir noch aufbringen, wenn immer die Möglichkeit besteht, gerade mit einer Maschine zu sprechen? Was passiert mit unserer Empathiefähigkeit, wenn wir uns nicht mehr auf den kleinsten gemeinsamen Nenner einer gemeinsamen Realität einigen können?

Es gibt viele Gründe, KI-generierte Inhalte zu verbreiten. Der häufigste und damit auch langweiligste ist wahrscheinlich Geld. Seit generative KI für eine breite Öffentlichkeit verfügbar ist, steigen die Zahlen von Deep-Fake-Betrugsmaschen jährlich um mehrere Hundert Prozent. Doch die Menschen nutzen KI auch, um besser, schöner, klüger zu wirken, als sie es wirklich sind. KI dient nicht nur dem Betrug, sondern auch der Selbstinszenierung, der besseren Version des eigenen Lebens.

Und so gibt es die Freundin, die behauptet, aus dem Stand ein perfektes Ölbild gemalt zu haben. Oder den Ex, der auf Instagram Bilder von sich vor perfektem Urlaubsidyll postet, um der Verlassenen noch mal extra reinzureiben, was sie alles verpasst. Und mit jedem Klick auf den KI-Zauberstab verwischt die Grenze zwischen Darstellung und Wirklichkeit ein Stückchen mehr.

Doch längst sind es nicht mehr nur Bilder und Videos, sondern auch Musik und Stimmmuster, die von der KI produziert werden. Die neueste Version des Bildgenerators Nano Banana kopiert noch die krakeligsten Handschriften in perfekter Manier. Währenddessen gibt es bereits sogenannte Humanizer, also Software, die generierte Texte absichtlich mit Fehlern und Stilblüten spickt – um sie wieder menschlicher wirken zu lassen.

Studenten nutzen sie, um zu verschleiern, dass die Hausarbeit in Wahrheit von Chat-GPT verfasst wurde, und selbsternannte Influencer auf LinkedIn tun es, um ihre von der KI über die KI geschriebenen Texte nicht allzu offensichtlich als KI wirken zu lassen. Auf Foren wie »Real or AI?« oder »Ist das KI« zerbrechen sich Nutzer den Kopf, um herauszufinden, was noch echt ist und was nicht.

Mehr als drei Millionen Nutzer wöchentlich wenden sich mit Urlaubsvideos oder Bildern von Fernbeziehungsbekanntschaften an die Öffentlichkeit und fragen:

GIBT ES DIESE PERSON, DIESEN ORT WIRKLICH?

Ähnlich wie Start-up-Gründer Philipp Dewald tragen die Nutzer hier einen aussichtslosen Kampf aus. Auf Webseiten wie realornotquiz.com kann man selbst mal ausprobieren, wie gut man die Realität noch einschätzen kann. Wer von sich selbst glaubt, die Deutungshoheit darüber noch ansatzweise zu besitzen, erhält schnell eine Lektion in Demut.

Zurück beim einzelnen Nutzer vor dem internetfähigen Endgerät bleibt eine niederschwellige Paranoia, ein Grundrauschen des Misstrauens. Denn wenn alles potenziell gefakt ist, lässt sich Wahrheit kaum noch beweisen. Wie kann man nun noch neues Wissen erlangen, wie die Mächtigen zur Rechenschaft ziehen? »Liar’s Dividend« nennt man das im englischen Sprachraum – den Gewinn des Lügners.

Denn der kann nicht nur gefälschte Inhalte verbreiten und behaupten, sie seien echt. Sondern auch echte Inhalte mit der Behauptung diskreditieren, sie seien gefälscht. Unliebsame Fakten und unbequeme Nachfragen als Fake News abzutun – Donald Trump hat es in dieser Disziplin zur Meisterschaft gebracht. Einfach abschalten hilft nur bedingt.

Die Fakes überwinden Medienbarrieren, dringen vom Internet aus in die letzte Ritze der Realität. Man sieht sie auf Werbeplakaten an Bushaltestellen genau so wie auf Speisekarten oder AfD-Wahlplakaten, als Poster im Deko-Store oder auf in der Schule ausgeteilten Arbeitsblättern.

Touristen werden mit generierten Bildern angelockt – und landen, wie zuletzt in Australien, auf der Suche nach nicht existenten heißen Quellen mitten im Nirgendwo. Menschen sehen durch KI generierte perfekte Frisuren und wunderschöne Kleider im Internet und gehen mit dieser Inspiration zu Friseuren und Schneidern. Die ihren Kunden dann erklären müssen, dass die Wirklichkeit mit ihren Wünschen nicht mithalten kann.

Der französische Philosoph Jean Baudrillard erklärte bereits in den Achtzigerjahren angesichts von Privatfernsehen, ersten digitalen Special Effects und Videokassetten, dass wir uns zunehmend in einer »Hyperrealität« befänden, in der die Unterscheidung zwischen Original und Kopie, zwischen Vorbild und Abbild vollkommen unmöglich geworden ist. Es ist ein Zustand, in dem die Unterscheidung zwischen Realität und Simulation implodiert.

Die Grenzen verschwimmen nicht nur – die Simulation wird zur dominierenden Kraft, die oft überzeugender und attraktiver erscheint und letztendlich dem Original vorgezogen wird. Damals, als die ersten Menschen begannen, das Neuland namens Internet zu bevölkern, hatte man Baudrillard noch für seine Thesen ausgelacht. Wie sich herausstellte, war er nur knapp 50 Jahre zu früh dran.

Vor diesem Hintergrund hat Instagram-Chef Adam Mosseri vor einiger Zeit einen bemerkenswert nüchternen Gedanken formuliert:

INZWISCHEN SEI ES LEICHTER, MENSCHLICH ERZEUGTEN CONTENT ZU KENNZEICHNEN ALS MASCHINELL GENERIERTEN.

Was klingt wie eine beiläufige Produktüberlegung, beschreibt in Wahrheit eine vorauseilende Kapitulation vor einer digitalen Umwelt, in der Echtheit nicht mehr die Norm ist. Sondern die schützenswerte Ausnahme. Jutta Jahnel forscht beim Karlsruher Institut für Technikfolgenabschätzung zu den ethischen und gesellschaftlichen Folgen von Deepfakes. Sie vergleicht die Krise der Wahrheit mit der anderen großen Herausforderung unserer Zeit: der Klimakrise.

Auch hier wird die Verantwortung individualisiert. Besorgte Menschen vermeiden Flugreisen und kaufen lokale Produkte, während um sie herum der Raubbau im großen Maßstab weitergeht. Das sei typisch für systemische Risiken, so Jahnel: »Der Einzelne versucht, zu adaptieren und damit umzugehen, weil die Regulierung aufgrund der Komplexität gar nicht mehr die eigentlichen Ursachen angehen kann.«

Wie naiv ist die Annahme, dass dieser Wandel, das Verschwinden der Grenze zwischen Wirklichkeit und Illusion, auch positive Aspekte haben könnte? Dass ein struktureller Zweifel genau das ist, was wir schon lange brauchen. Dass wir Informationen ohnehin viel zu lange viel zu unreflektiert konsumiert haben.

Denn wenn alles potenziell künstlich ist, schärft das ja vielleicht auch den Blick für Kontexte, Quellen und Interessen. Für die Mechaniken, die schon immer hinter Bildern und Geschichten gesteckt haben. Der allgegenwärtige Echtheitszweifel, den man reflexhaft als Zumutung empfindet, könnte sich im besten Fall als eine verspätete Form digitaler Mündigkeit entpuppen.

Anstatt also nur über Social-Media-Verbote für Kinder und Jugendliche zu diskutieren, sollte es auch darum gehen, wie man Menschen aller Altersklassen auf die neue Realität vorbereitet. Es bräuchte einen Crashkurs in Gegenwartskompetenz. Zu den ersten Lektionen, die im Lehrplan stehen müssten, gehörte vielleicht, dem allzu Perfekten zu misstrauen.

Vielleicht auch zu akzeptieren, dass Skepsis keine Paranoia ist, sondern eine neue Form digitaler Hygieneregel: Genauso wie man spätestens seit Corona bitte in die Ellenbeuge hustet, sollte man in Zeiten der virulenten KI Fakes mindestens einmal innehalten, bevor man das allzu schöne Bild weiterleitet. Und sehr genau nachfragen, wer und aus welchem Grund etwas postet.