OpenAI markiert ChatGPT-Texte in der EU mit Wasserzeichen, der Detektor bleibt Forschern vorbehalten
Victoria Shinder2 Min. LesezeitOpenAI hat am 5. Oktober dargelegt, wie das Unternehmen die Vorgabe des EU AI Act erfüllen will, generierte Texte maschinenlesbar kenntlich zu machen. Der Ansatz hat drei Teile, und OpenAI benennt offen die Grenzen jedes einzelnen.
Was sich ändert. In den kommenden Wochen erhalten berechtigte Textausgaben von ChatGPT und Codex in der Europäischen Union ein unsichtbares Wasserzeichen – in allen Tarifen, aber nur in der EU. API-Kunden weltweit können ab sofort für ausgewählte Modelle Wasserzeichen aktivieren; standardmäßig bleibt die Funktion in der API aus. Zugelassene Forscher und Fachorganisationen können Zugang zum Detektor beantragen, der meldet, ob er ein OpenAI-Wasserzeichen findet, ohne Nutzer zu identifizieren oder Prompts offenzulegen. Öffentlich macht OpenAI den Detektor zum Start nicht – wegen des Risikos falscher Treffer und übersehener Wasserzeichen.
Wie es funktioniert. Die Technik namens textGrain legt ein statistisches Signal in die Wortwahl des Modells, nach dem der Detektor sucht. Laut OpenAI erreichte sie in Tests mindestens das Niveau anderer Verfahren, darunter Googles SynthID für Text; die Technik soll als Open Source erscheinen.
Die entscheidenden Zahlen. Bei einer angestrebten Falsch-positiv-Rate von 1 % fand der Detektor das Wasserzeichen in etwa 80 % der Passagen mit 200 Token und in etwa 95 % der Passagen mit 400 Token bei Inhalten wie Psychologie – bei Mathematik, wo die Wortwahl eingeschränkt ist, deutlich seltener. Wurden 10 % der Wörter durch Synonyme ersetzt, sank die Erkennung bei 400-Token-Passagen von etwa 92 % auf 66 %, bei 25 % auf 17 %.
Was ein Wasserzeichen nicht zeigt. OpenAI zählt es ausdrücklich auf: nicht, wie viel ein Mensch beigetragen hat, nicht, wem der Text gehört oder wer verantwortlich ist, nicht, wer der Nutzer war, nicht, ob der Text stimmt – und ein fehlendes Wasserzeichen beweist keine menschliche Autorschaft.
Für Entwickler auf der API heißt das: Außerhalb der EU-Verbraucherprodukte ist das Wasserzeichen eine Entscheidung des einzelnen Kunden, die Compliance-Frage liegt also beim Integrator.