Anthropic spiega come funziona il watermark nei testi generati dalla IA

Il nuovo mondo del lavoro, la precarietà dei contratti a termine, ma anche le start-up della seconda ondata di new economy. Discussioni che spaziano dalle telecomunicazioni all'economia, all'editoria, alla televisione, alla finanza, a tutto quello che riguarda questo pazzo mondo dopo l'avvento di Internet.

Moderatori: Supervisor, Moderatori Internet e Telefonia

Rispondi
Zeus News

Anthropic spiega come funziona il watermark nei testi generati dalla IA

Messaggio da Zeus News »

Leggi l'articolo Anthropic spiega come funziona il watermark nei testi generati dalla IA
Non cambia il senso e fallisce sui testi brevi.

Immagine
 
Immagine: Anthropic
 

Segnala un refuso
Avatar utente
zeross
Amministratore
Amministratore
Messaggi: 10062
Iscritto il: 19 nov 2008 12:04

Messaggio da zeross »

E chiaro che la marcatura scelta da Anthropic a molte limitazioni, ma va anche notato che se un testo viene creato da una intelligenza artificiale generativa, ma poi viene cosi pesantemente modificato da perdere i suoi marcatori, allora possiamo ancora definirlo di origine artificiale? :?
Mentre per immagini, filmati e musica pare non ci sia problema perché esistono i metadati, ed in questo caso poi ci sarebbero solo le alterazioni sofisticate di chi vuol far apparire delittuosamente autentico un file che non lo è, i testi sembrano, nella loro semplicità costituire un ostacolo difficile da superare. =)
Adesso bisogna vedere cosa dirà la commissione, che soluzioni adotteranno i concorrenti, e come sarà resistenti, cioè quanto tempo impiegheranno per rendere inutili le protezioni e le marcature i malintenzionati, per poter valutare il progresso e stabilire il passo successivo. :wink:
Avatar utente
Gladiator
Dio maturo
Dio maturo
Messaggi: 15976
Iscritto il: 05 dic 2010 21:32

Messaggio da Gladiator »

Quanto alla rimozione, Anthropic osserva che ritocchi leggeri probabilmente non cancellano del tutto la marcatura, mentre una riscrittura completa sì, e nota che in quel caso «è discutibile se il testo possa ancora essere descritto come generato dall'intelligenza artificiale».
Concordo, se la riscrittura è completa è accettabile che il watermark venga rimosso anche se, comunque, i concetti riportati dall'IA restano immutati o quasi, in fondo i concetti di base dipendono molto dal prompt dell'utente e non sono frutto completo dell'IA.
Rispondi

Torna a “Sopravvivere alla new economy”