Content Credential – L’autenticità nell’era dell’AI

Content Credential – L’autenticità nell’era dell’AI.

I recenti progressi delle tecnologie per la creazione e modifica dei contenuti digitali, in particolare le applicazioni di Intelligenza Artificiale generativa, consentono di produrre materiali visivi estremamente realistici, spesso indistinguibili dagli originali. ​

Queste innovazioni aprono nuove e infinite possibilità creative nei settori dell’intrattenimento e dell’arte.

Diviene, tuttavia, necessario poter individuare con certezza l’origine dei file multimediali, al fine di garantire la tracciabilità dell’intero ciclo di vita dei contenuti video, audio e foto.

Le fake news sono diventate una minaccia sempre più diffusa che, sfruttando l’innocua apparenza di una semplice immagine, possono diffondere disinformazione e alterare la percezione della realtà.​

Immagini ritoccate vengono utilizzate per diffondere messaggi distorti, manipolare opinioni e influenzare le eventuali decisioni dei cittadini.

Un esempio emblematico è rappresentato dalle campagne elettorali, dove le immagini dei candidati sono spesso alterate per presentarli sotto una luce negativa o positiva a seconda degli interessi in gioco.​

C2PA

Creare una “filigrana digitale” per tracciare la provenienza dei contenuti online e distinguere se sono frutto della creazione umana o dell’Intelligenza Artificiale (AI):

a questo servono gli standard stabiliti dalla Coalition for Content Provenance and Authenticity (C2PA), un consorzio di aziende, tra le quali Adobe e Microsoft.

Content Credential

Le Content Credentials rappresentano lo sviluppo dello standard C2PA e allegano ulteriori informazioni al contenuto al momento dell’esportazione o del download.

Vengono archiviate in un set di metadati antimanomissione dedicato, denominato “Content Credential”.

Le Content Credential accompagnano il contenuto corrispondente ovunque vada. Sui browser passando il mouse su una immagine, sarà possibile verificare l’attendibilità del contenuto visivo.

I metatag che indicano l’uso di strumenti di AI sono già inclusi in tutti i contenuti generati con Adobe Firefly. Un contributo per promuovere la trasparenza sull’uso di questo strumento.

In futuro, altre app Adobe supporteranno l’indicazione che l’AI generativa è stata parzialmente utilizzata nel processo creativo. ​

​Anche OpenAI ha annunciato l’implementazione, all’interno del proprio generatore di immagini basato sull’Intelligenza Artificiale DALL-E, di Content Credential.​

Attualmente, le poche immagini etichettate con questo strumento, possono essere verificate utilizzando un sito apposito attualmente ancora in versione beta.