Mit dem Inkrafttreten weiterer Transparenzpflichten im Rahmen des EU AI Act rückt die Kennzeichnung KI-generierter Inhalte zunehmend in den Fokus von Plattformbetreibenden, Medienunternehmen und Entwickler:innen digitaler Vertrauensinfrastrukturen. Die zugrunde liegende Annahme lautet: Wenn Nutzerinnen und Nutzer erkennen können, dass ein Bild mit generativer KI erstellt wurde, lassen sich Täuschungen und Desinformationskampagnen wirksamer begrenzen.

Forschende des CISPA Helmholtz-Zentrums für Informationssicherheit, der Ruhr-Universität Bochum und des Max-Planck-Instituts für Sicherheit und Privatsphäre kommen nun zu einem differenzierteren Ergebnis. Ihre auf der CHI 2026 veröffentlichte Studie untersucht, wie Nutzende auf KI-Kennzeichnungen reagieren und welche Auswirkungen diese auf die Bewertung von Informationen in sozialen Medien haben.

Untersuchung von Wahrnehmung und Wirkung

Methodisch kombiniert die Studie qualitative Fokusgruppen mit einer quantitativen Online-Untersuchung. Insgesamt nahmen mehr als 1.300 Personen aus Europa und den USA an der Befragung teil.

Während die Fokusgruppen Einstellungen, Erwartungen und Bedenken hinsichtlich von KI-Labels erfassten, zielte der experimentelle Teil auf die Messung konkreter Verhaltenseffekte ab. Hierzu entwickelten die Forschenden simulierte Social-Media-Posts, bestehend aus einem Nachrichtentext und einem zugehörigen Bild.

Dabei wurden vier Faktoren systematisch variiert:

• Echtheit des Bildes (real oder KI-generiert)
• Wahrheitsgehalt der Nachricht (wahr oder falsch)
• Vorhandensein eines KI-Labels
• Kombination von Bild- und Textinformation

Auf diese Weise ließ sich analysieren, welchen Einfluss die Kennzeichnung auf die Wahrnehmung von Glaubwürdigkeit und Wahrheit ausübt.

Nutzende befürworten Labels, zweifeln aber an ihrer Zuverlässigkeit

Die qualitativen Ergebnisse zeigen zunächst eine hohe Akzeptanz von KI-Kennzeichnungen. Die Teilnehmenden betrachten Labels überwiegend als sinnvolles Mittel, um synthetische Medien kenntlich zu machen und Manipulationsversuche zu erschweren.

Gleichzeitig äußerten viele Befragte erhebliche Vorbehalte hinsichtlich der praktischen Umsetzung. Als zentrale Herausforderungen wurden die fehlende Standardisierung von Kennzeichnungssystemen, die Abhängigkeit von Plattformbetreibenden sowie mögliche Fehler bei der Erkennung und Kennzeichnung genannt.

Besonders kritisch bewerteten die Teilnehmenden das Risiko fehlerhafter Kennzeichnungen. Sowohl falsch positive als auch falsch negative Klassifizierungen könnten das Vertrauen in entsprechende Systeme nachhaltig beeinträchtigen. Die Ergebnisse verdeutlichen damit ein bekanntes Problem technischer Vertrauensmechanismen: Ihre Akzeptanz hängt nicht allein von der Existenz eines Signals ab, sondern maßgeblich von dessen wahrgenommener Verlässlichkeit.

KI-Labels verändern Entscheidungsprozesse

Die eigentliche Überraschung der Studie liegt in den Ergebnissen der Online-Untersuchung. Zwar zeigte sich, dass Teilnehmende falschen Informationen seltener Glauben schenkten, wenn diese mit einem als KI-generiert gekennzeichneten Bild kombiniert waren. Gleichzeitig führte die Kennzeichnung jedoch zu unerwarteten Nebeneffekten.

Ungekennzeichnete Inhalte wurden häufiger als glaubwürdig eingestuft, und zwar selbst dann, wenn die enthaltenen Informationen objektiv falsch waren. Umgekehrt wurden wahre Informationen häufiger angezweifelt, sobald sie mit einem KI-Label versehen waren.

Aus Sicht der Forschenden deutet dies darauf hin, dass Nutzende die Kennzeichnung als kognitive Heuristik verwenden. Anstatt die bereitgestellten Informationen umfassend zu bewerten, dient das Label als vereinfachtes Entscheidungssignal. Die Aufmerksamkeit verlagert sich damit von der inhaltlichen Prüfung auf die Interpretation der Kennzeichnung.

In der Summe verschlechterte sich dadurch die Fähigkeit der Teilnehmenden, zuverlässig zwischen wahren und falschen Informationen zu unterscheiden.

Relevanz für Content Credentials und Vertrauensinfrastrukturen

Die Ergebnisse besitzen erhebliche Bedeutung für aktuelle technische Ansätze zur Herkunfts- und Authentizitätskennzeichnung digitaler Inhalte. Systeme wie C2PA (Coalition for Content Provenance and Authenticity), digitale Wasserzeichen oder kryptografisch abgesicherte Content Credentials verfolgen das Ziel, Transparenz über die Entstehung und Bearbeitung von Medieninhalten herzustellen.

Die Studie macht jedoch deutlich, dass Transparenzsignale nicht isoliert betrachtet werden dürfen. Selbst technisch korrekte Kennzeichnungen entfalten ihre Wirkung erst im Zusammenspiel mit menschlichen Wahrnehmungs- und Entscheidungsprozessen.

Für Entwickler:innen entsprechender Systeme bedeutet dies, dass die technische Zuverlässigkeit allein kein ausreichendes Erfolgskriterium darstellt. Ebenso relevant ist die Frage, wie Kennzeichnungen präsentiert, verstanden und in individuelle Bewertungsprozesse integriert werden.

Die Ergebnisse unterstreichen damit die Bedeutung interdisziplinärer Ansätze, die technische Verfahren zur Herkunftskennzeichnung mit Erkenntnissen aus Human-Computer Interaction, Usability-Forschung und Medienpsychologie verbinden.

Konsequenzen für die Umsetzung des EU AI Act

Mit den bevorstehenden Transparenzanforderungen des EU AI Act gewinnt diese Fragestellung zusätzliche Relevanz. Plattformen werden künftig in größerem Umfang verpflichtet sein, bestimmte KI-generierte Inhalte kenntlich zu machen.

Die Studie legt nahe, dass Kennzeichnungspflichten zwar ein notwendiger Baustein für mehr Transparenz sind, jedoch nicht als eigenständige Lösung gegen Desinformation betrachtet werden sollten. Vielmehr könnten isolierte Kennzeichnungssysteme neue Fehlwahrnehmungen erzeugen, wenn Nutzer die Labels als allgemeines Wahrheits- oder Vertrauenssignal interpretieren.

Aus technischer Perspektive spricht dies für mehrstufige Ansätze, bei denen Kennzeichnungen durch zusätzliche Kontextinformationen, Herkunftsnachweise, Verifikationsmechanismen und Maßnahmen zur Förderung von Medienkompetenz ergänzt werden.

Fazit

Die Untersuchung liefert einen wichtigen empirischen Beitrag zur aktuellen Debatte um synthetische Medien und deren Kennzeichnung. Sie zeigt, dass Transparenzmechanismen zwar das Nutzerverhalten beeinflussen, ihre Wirkung jedoch komplexer ausfällt als häufig angenommen.

Für Entwickler:innen von Kennzeichnungssystemen, Plattformbetreiber und Regulierungsbehörden ergibt sich daraus eine zentrale Erkenntnis: Die technische Bereitstellung von Transparenzinformationen ist nur ein Teil der Herausforderung. Ebenso entscheidend ist, wie Menschen diese Informationen interpretieren und in ihre Urteilsbildung einbeziehen.

Link zur Originalpublikation

Die vollständige Studie steht über die Veröffentlichungsplattform der ACM Digital Library zum Download bereit:

Sandra Höltervennhoff, Jonas Ricker, Maike M. Raphael, Charlotte Schwedes, Rebecca Weil, Asja Fischer, Thorsten Holz, Lea Schönherr, and Sascha Fahl. 2026. "That's another doom I haven't thought about": A User Study on AI Labels as a Safeguard Against Image-Based Misinformation. In Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (CHI '26). Association for Computing Machinery, New York, NY, USA, Article 38, 1–32. https://doi.org/10.1145/3772318.3791006

Bild oben: CISPA