Frei verfügbar: Google macht sein KI-Wasserzeichen
Google hat sein Wasserzeichen SynthID freigegeben. Dieses kennzeichnet KI-Inhalte. Der Konzern stellt es als Open-Source frei zur Verfügung.
Google DeepMind hat SynthID veröffentlicht. Dahinter steckt ein Wasserzeichen-Tool für KI-generierte Inhalte.
Der Konzern hat dieses als Open-Source-Projekt veröffentlicht. Dies geht aus einer Ankündigung auf der Plattform X hervor.
SynthID kann Texte, Bilder, Videos und Audiodateien markieren. Die Technologie steht Entwicklern und Unternehmen kostenlos zur Verfügung.
Funktionsweise von SynthID
Laut «heise» soll SynthID nicht nur Wasserzeichen erstellen, sondern auch bei der Erkennung von KI-Inhalten helfen. Bei Texten nutzt SynthID die Funktionsweise von Large Language Models (LLMs).
Diese basieren auf Wahrscheinlichkeitswerten für jedes Token. Für Bilder und Videos verwendet SynthID ein Pixel-Wasserzeichen.
Dieses ist für das menschliche Auge unsichtbar. Das Wasserzeichen ist laut Google robust und lässt sich nicht durch einfache Bearbeitung entfernen.
Für welche Inhalte ist es gedacht?
Die Technologie ist bereits bei kurzen Texten von drei Sätzen anwendbar. Die Genauigkeit steigt mit der Textlänge.
SynthID ist über Plattformen wie Hugging Face und das Google Responsible GenAI Toolkit erhältlich. Entwickler können die Technologie in ihre eigenen Systeme integrieren.
Dies soll die Erkennung von KI-Inhalten verbessern.
Wie gut funktioniert SynthID?
Zur Zeit ist SynthID noch in der Betaphase. Es steht ausgewählten Nutzern von Vertex AI zur Verfügung.
Vertex AI ist Googles Plattform für die Entwicklung von KI-Anwendungen und -Modellen.
Bedeutung für die Medienlandschaft
Die Einführung von SynthID erfolgt vor dem Hintergrund zunehmender KI-generierter Inhalte im Internet. Google sieht sich mit der Herausforderung konfrontiert, relevante Inhalte zu finden und in der Suche anzuzeigen.
«heise» merkt an, dass KI und böswillige Akteure SEO beherrschen würden. Sie wüssten also, wie sie von Google gut bewertet würden, obwohl die Inhalte für Suchende vielleicht gar nicht hilfreich seien.
Grenzen und Herausforderungen
Trotz fortschrittlicher Technologie ist SynthID nicht unfehlbar. Die Technologie könnte bei extremen Bildmanipulationen an ihre Grenzen stossen.
Dennoch stellt sie einen vielversprechenden Ansatz dar. Sie soll den verantwortungsvollen Umgang mit KI-generierten Inhalten erleichtern.
Zukünftige Entwicklungen
Google plant, SynthID weiterzuentwickeln. Zukünftig soll die Technologie mit anderen KI-Modellen und Medienformaten Schritt halten.
Dies betrifft insbesondere Text, Audio und Video. Laut Google DeepMind sei die Fähigkeit, KI-generierte Inhalte zu identifizieren, von entscheidender Bedeutung, um Menschen darüber zu informieren, wann sie mit generierten Medien interagieren, und um die Verbreitung von Fehlinformationen zu verhindern.
