În flăcări Tehnologie publicată actualizată acum 10 min

OpenAI introduce un watermark invizibil în textele generate de ChatGPT pentru utilizatorii din UE

OpenAI va implementa în săptămânile următoare un watermark invizibil numit „textGrain” în anumite texte generate de ChatGPT și Codex pentru utilizatorii din Uniunea Europeană, ca parte a conformării cu cerințele EU AI Act. Semnalul este statistic şi invizibil pentru cititor, poate fi detectat automat de un detector restricţionat la cercetători şi organizaţii aprobate, dar are limite: detectarea scade dacă textul e scurt sau este editat intensiv.

Pe scurt

  • Tehnologia se numește „textGrain” și introduce un semnal statistic invizibil în alegerea cuvintelor, nu o etichetă vizibilă.
  • Implementarea va fi etapizată: din 5 octombrie clienții API pot opta pentru watermark; utilizatorii eligibili din UE vor primi watermarkul în următoarele săptămâni.
  • Detectorul identifică watermarkul în ~80% din textele de 200 tokeni și ~95% pentru pasaje de 400 tokeni la o rată-țintă de fals pozitive de 1%.
  • Editarea textului reduce detectabilitatea: înlocuirea a 10% dintre cuvinte cu sinonime a scăzut detectarea de la ~92% la 66%, iar la 25% înlocuire rata a coborât la 17%.
  • OpenAI spune că watermarkul nu poate demonstra proporția contribuției umane, nici proprietatea sau responsabilitatea asupra textului și nu garantează corectitudinea conținutului.
Etichete: OpenAI ChatGPT watermark Uniunea Europeană Codex textGrain

Surse (2)

Acest text este un rezumat generat automat din sursele de mai sus; verificați întotdeauna articolele originale. Raportează o problemă