SynthID

SynthID

Definition

SynthID ist eine von Google DeepMind entwickelte Technologie zum Kennzeichnen und Erkennen KI-generierter Inhalte. Sie bettet ein digitales Wasserzeichen direkt während der Generierung in Inhalte ein. Das Wasserzeichen ist für Menschen normalerweise nicht wahrnehmbar, kann aber mit passenden Erkennungsverfahren ausgelesen werden.

SynthID wird für unterschiedliche Medientypen eingesetzt, darunter Bilder, Videos, Audio und Text. Die technische Umsetzung unterscheidet sich je nach Medium. Das gemeinsame Ziel ist, mehr Transparenz darüber zu schaffen, ob ein Inhalt mit einem generativen KI-System von Google erzeugt oder bearbeitet wurde.

Funktionsweise

Bei Bildern und Videos wird das Wasserzeichen in die digitalen Daten des erzeugten Mediums eingebettet. Es soll die sichtbare oder hörbare Qualität nicht verändern und auch nach typischen Bearbeitungen wie Zuschneiden, Filtern oder verlustbehafteter Kompression noch erkennbar bleiben. Vollständig unveränderbar ist ein solches Signal jedoch nicht.

Bei Audio wird ein für Menschen nicht hörbares Muster in das generierte Signal integriert. Die Erkennung sucht anschließend nach diesem Muster. Auch hier ist das Verfahren darauf ausgelegt, übliche Veränderungen wie Kompression, zusätzliches Rauschen oder Geschwindigkeitsänderungen bis zu einem gewissen Grad zu überstehen.

Bei Text arbeitet SynthID anders. Sprachmodelle erzeugen Text schrittweise aus Wahrscheinlichkeitsverteilungen über mögliche nächste Token. Das Verfahren beeinflusst die Auswahlwahrscheinlichkeiten bestimmter Token so, dass im resultierenden Text ein statistisch erkennbares Muster entsteht. Die Bedeutung und wahrgenommene Qualität sollen dabei möglichst unverändert bleiben.

Erkennung und Aussagekraft

Ein positiver SynthID-Nachweis bedeutet, dass das untersuchte Material ein passendes Wasserzeichen enthält. Er ist ein technischer Hinweis auf Inhalte, die mit unterstützten Google-KI-Systemen erzeugt oder verändert wurden.

Ein negativer Nachweis beweist dagegen nicht, dass ein Inhalt menschlich erstellt wurde. Der Inhalt kann von einem anderen KI-System stammen, ohne Wasserzeichen generiert worden sein oder so stark verändert worden sein, dass das Signal nicht mehr zuverlässig erkannt wird. SynthID ist deshalb kein universeller KI-Detektor.

Auch klassische KI-Textdetektoren sind von SynthID zu unterscheiden. Sie versuchen meist, KI-Texte anhand sprachlicher Merkmale nachträglich zu schätzen. SynthID setzt dagegen ein absichtlich eingebettetes Signal voraus. Dadurch kann die Erkennung gezielter sein, sie funktioniert aber nur für Systeme und Ausgaben, die das Verfahren tatsächlich verwenden.

Robustheit und Grenzen

Digitale Wasserzeichen stehen in einem Spannungsfeld zwischen Unauffälligkeit, Robustheit und Nachweisbarkeit. Ein starkes Signal lässt sich leichter erkennen, könnte aber die Ausgabe beeinflussen. Ein sehr schwaches Signal bleibt unauffällig, kann jedoch bei Bearbeitung verloren gehen.

Kurze Texte liefern weniger statistisches Material als lange Texte und können deshalb schwieriger zuverlässig zu klassifizieren sein. Übersetzungen, umfangreiches Umschreiben oder das Vermischen mehrerer Quellen können ein Textwasserzeichen abschwächen. Bei Bildern, Audio und Video können aggressive Transformationen oder eine vollständige Neugenerierung ebenfalls die Erkennung erschweren.

SynthID ersetzt außerdem keine Herkunftsdokumentation. Ein Wasserzeichen erklärt nicht automatisch, wer einen Inhalt erstellt hat, welche Quellen verwendet wurden oder ob die Aussage korrekt ist. Für belastbare Provenienz können zusätzliche Metadaten, Signaturen, Veröffentlichungsnachweise und organisatorische Governance erforderlich sein.

Einsatzgebiete

SynthID kann Plattformen, Redaktionen, Bildungseinrichtungen und Nutzern helfen, KI-generierte Medien besser einzuordnen. In Produkten kann die Technologie Transparenzhinweise unterstützen, ohne Inhalte sichtbar mit einem Logo oder Text zu überdecken.

Besonders relevant ist die Kennzeichnung bei täuschend echten Bildern, Stimmen und Videos. Wasserzeichen können Moderation und Verifikation unterstützen, sind aber nur ein Baustein neben Quellenprüfung, Medienforensik und klaren Plattformregeln.

Abgrenzung

SynthID ist kein sichtbares Wasserzeichen und keine allgemeine Methode zur Erkennung sämtlicher KI-Inhalte. Es ist ein herstellerspezifisches Kennzeichnungs- und Erkennungssystem für unterstützte Ausgaben. Seine Aussagekraft hängt davon ab, ob das Wasserzeichen bei der Erzeugung eingebettet wurde, ob es die weitere Verarbeitung überstanden hat und ob ein geeigneter Detektor verwendet wird.