Gli utenti desiderano da tempo un assistente AI come quello rappresentato nel film Her, dove l’attrice Scarlett Johansson presta la sua voce al personaggio di Samantha, un’intelligenza artificiale capace di interagire emotivamente con gli esseri umani.
OpenAI ha cercato di realizzare questo sogno proponendo a Johansson di prestare la sua voce per il sistema ChatGPT 4.0. Tuttavia, nonostante l’offerta, Johansson ha declinato la proposta per motivi personali.
Non volendo abbandonare il progetto, OpenAI ha deciso di ingaggiare una vocalist la cui voce somigliava notevolmente a quella di Johansson, dando vita alla voce “Sky”. Questo ha scatenato una controversia legale, con Johansson che ha accusato OpenAI di utilizzare una voce troppo simile alla sua senza autorizzazione.
Indice dei contenuti
La Dichiarazione di Scarlett Johansson
Quella che riproponiamo è il testo diramato dall’attrice stessa:
Nel settembre scorso, ho ricevuto un’offerta da Sam Altman, che voleva assumermi per dare voce all’attuale sistema ChatGPT 4.0. Mi disse che credeva che la mia voce potesse colmare il divario tra aziende tecnologiche e creativi, e aiutare i consumatori a sentirsi a proprio agio con il cambiamento sismico riguardante gli esseri umani e l’IA. Disse che la mia voce sarebbe stata confortante per le persone.
Dopo molte considerazioni e per motivi personali, ho rifiutato l’offerta. Nove mesi dopo, i miei amici, la mia famiglia e il pubblico generale hanno notato quanto la nuova voce del sistema, chiamata “Sky”, suonasse come me.
Quando ho sentito la demo rilasciata, ero scioccata, arrabbiata e incredula che il signor Altman avrebbe perseguito una voce così simile alla mia che i miei amici più stretti e i media non potevano distinguere la differenza. Il signor Altman ha persino insinuato che la somiglianza fosse intenzionale, twittando una sola parola “her” – un riferimento al film in cui ho doppiato un sistema di chat, Samantha, che forma una relazione intima con un essere umano.
Due giorni prima del rilascio della demo di ChatGPT 4.0, il signor Altman ha contattato il mio agente, chiedendomi di riconsiderare. Prima che potessimo connetterci, il sistema era già in circolazione.
A causa delle loro azioni, sono stata costretta a ingaggiare un consulente legale, che ha scritto due lettere al signor Altman e OpenAI, spiegando cosa avevano fatto e chiedendo loro di dettagliare il processo esatto con cui hanno creato la voce “Sky”. Di conseguenza, OpenAI ha riluttantemente accettato di rimuovere la voce “Sky”.
In un’epoca in cui tutti noi stiamo lottando con deepfake e la protezione della nostra somiglianza, del nostro lavoro, delle nostre identità , credo che queste siano domande che meritano assoluta chiarezza. Non vedo l’ora di una risoluzione sotto forma di trasparenza e l’approvazione di una legislazione appropriata per aiutare a garantire che i diritti individuali siano protetti.
La Mossa di OpenAI per Avere la Voce di Samantha del Film Her
La decisione di OpenAI di cercare la voce di Scarlett Johansson è stata motivata dalla sua interpretazione di Samantha nel film Her.
In questo film, Johansson dà voce a un avanzato assistente AI con cui il protagonista sviluppa una relazione emotiva. OpenAI ha visto un parallelo tra questo concetto e il proprio obiettivo di creare assistenti AI che potessero interagire in modo naturale e coinvolgente con gli utenti​.
Implicazioni Legali ed Etiche
Proprietà e Diritti d’Autore
Una delle questioni principali sollevate da questa controversia riguarda la proprietà dei diritti d’autore sul contenuto generato dall’IA. Chi possiede i diritti quando un’IA crea qualcosa che somiglia strettamente a una persona reale? Le leggi attuali devono ancora affrontare chiaramente questa complessità , rendendo urgente la necessità di normative aggiornate che proteggano i diritti individuali​​.
La questione della proprietà dei diritti d’autore nel contesto dell’IA è complessa. Tradizionalmente, il diritto d’autore protegge le opere originali create da esseri umani. Tuttavia, quando un’IA è coinvolta nella creazione di un’opera, la domanda su chi detenga i diritti d’autore diventa nebulosa.
Nel caso di voci sintetiche basate su registrazioni di persone reali, la persona la cui voce è stata utilizzata potrebbe rivendicare i diritti su quella voce, poiché fa parte della loro identità personale. D’altro canto, gli sviluppatori dell’IA potrebbero rivendicare i diritti sull’algoritmo e sul processo di sintesi vocale.
È necessario un quadro giuridico chiaro per definire questi diritti e prevenire l’uso improprio delle voci e delle immagini delle persone. Questo per dirvi che la fine della controversia potrebbe non essere così scontata come immagineremmo.
Uso Non Autorizzato
L’uso non autorizzato della voce e dell’immagine di Johansson rappresenta una violazione del diritto alla privacy e del diritto di pubblicità .
Questo caso mette in evidenza come le celebrità e i personaggi pubblici possano diventare vittime di sfruttamento digitale attraverso tecnologie AI avanzate.
Il diritto alla privacy protegge gli individui dall’intrusione non autorizzata nella loro vita privata, mentre il diritto di pubblicità garantisce che le persone possano controllare l’uso commerciale della loro immagine e voce.
Quando le voci e le immagini vengono utilizzate senza autorizzazione, si violano questi diritti fondamentali. Nel caso di Johansson, l’uso della sua voce senza consenso non solo ha violato la sua privacy, ma ha anche sfruttato la sua notorietà per scopi commerciali, senza che lei ne traesse alcun beneficio.
Questo mette in evidenza l’importanza di ottenere il consenso esplicito delle persone prima di utilizzare le loro voci o immagini per qualsiasi scopo commerciale.
Preoccupazioni Etiche
L’uso di IA per creare “deepfake” solleva preoccupazioni etiche significative. Johansson ha già parlato contro i “deepfake”, avvertendo che possono essere utilizzati per diffondere disinformazione o per scopi ancora più nefasti, come l’inclusione in video osé senza il consenso della persona interessata​.
Gli sviluppi tecnologici nell’intelligenza artificiale hanno permesso la creazione di voci sintetiche incredibilmente realistiche. Tuttavia, l’uso non autorizzato di queste voci pone importanti questioni etiche. Ad esempio, se una voce viene utilizzata per scopi commerciali senza il consenso dell’individuo, si potrebbe violare il suo diritto alla privacy e il diritto di pubblicità .
Inoltre, l’uso di voci sintetiche può sollevare problemi di proprietà intellettuale, poiché la voce di una persona è considerata una parte della sua identità e, pertanto, dovrebbe essere protetta da leggi sul diritto d’autore.
Un altro aspetto etico da considerare è la potenziale diffusione di disinformazione attraverso l’uso di voci sintetiche. I deepfake, ad esempio, possono essere utilizzati per creare falsi discorsi o dichiarazioni attribuite a individui reali, ingannando così il pubblico.
Questo può avere gravi conseguenze, soprattutto quando si tratta di figure pubbliche o celebrità , il cui impatto sulle opinioni pubbliche può essere significativo. È quindi fondamentale che le aziende tecnologiche adottino misure per garantire che le voci sintetiche vengano utilizzate in modo etico e responsabile.
Risposta di OpenAI
In risposta alle accuse di Scarlett Johansson, OpenAI ha negato di aver utilizzato la sua voce specificamente per il loro sistema. Hanno riconosciuto la necessità di una maggiore trasparenza nei loro processi di addestramento dei modelli vocali. OpenAI ha anche rimosso la voce “Sky” dal sistema per evitare ulteriori controversie.
OpenAI ha emesso una dichiarazione ufficiale in cui afferma di non aver utilizzato la voce di Johansson senza autorizzazione. L’azienda ha spiegato che la voce “Sky” è stata creata utilizzando un database di voci sintetiche e non è stata intenzionalmente modellata sulla voce di Johansson.
Tuttavia, riconoscono che la somiglianza potrebbe aver causato confusione e hanno deciso di rimuovere la voce “Sky” per evitare ulteriori polemiche. Inoltre, OpenAI ha annunciato l’intenzione di rivedere e migliorare le proprie pratiche di raccolta e utilizzo dei dati vocali per garantire una maggiore trasparenza e rispetto dei diritti individuali.
Impatto sull’Industria Tecnologica
La controversia tra Scarlett Johansson e OpenAI potrebbe avere ampie ripercussioni sull’industria tecnologica, specialmente nel settore dell’intelligenza artificiale e delle tecnologie vocali. Questo caso potrebbe portare a nuove regolamentazioni sull’uso delle voci e delle immagini di individui reali per scopi commerciali.
Regolamentazioni Future
Gli esperti suggeriscono che, senza un quadro legale chiaro, tali incidenti continueranno a verificarsi, mettendo a rischio la privacy e i diritti d’autore delle persone.
La questione della proprietà e del controllo delle voci sintetiche deve essere affrontata con urgenza. Le nuove regolamentazioni potrebbero includere requisiti per ottenere il consenso esplicito prima di utilizzare voci o immagini per scopi commerciali, oltre a sanzioni severe per le violazioni.
La questione è particolarmente complessa perché coinvolge diritti di proprietà intellettuale, privacy e pubblicità . La legislazione dovrà essere adattata per affrontare le specificità delle tecnologie AI, definendo chiaramente chi detiene i diritti sulle voci sintetiche e come questi diritti possono essere trasferiti o utilizzati.
In particolare, potrebbe essere necessario sviluppare un sistema di licenze specifico per l’uso delle voci e delle immagini digitali.
Impatto sulle AI Vocali
L’industria delle AI vocali potrebbe dover affrontare significativi cambiamenti normativi, con potenziali restrizioni su come i dati vocali vengono raccolti e utilizzati. Questo potrebbe influenzare lo sviluppo futuro di assistenti vocali e altre tecnologie simili, costringendo le aziende a rivedere le loro pratiche di addestramento dei modelli.
Ad esempio, le aziende potrebbero dover implementare meccanismi di verifica più rigorosi per garantire che i dati vocali utilizzati siano stati ottenuti con il consenso esplicito dei proprietari.
Inoltre, le aziende tecnologiche potrebbero essere tenute a fornire maggiore trasparenza sui loro processi di raccolta e utilizzo dei dati. Questo potrebbe includere la divulgazione delle fonti dei dati vocali e delle metodologie utilizzate per addestrare i modelli AI.
La trasparenza sarà fondamentale per mantenere la fiducia del pubblico e garantire che le tecnologie AI vengano utilizzate in modo etico e responsabile.
Conclusioni e Riflessioni
La controversia tra Scarlett Johansson e OpenAI mette in evidenza l’importanza di stabilire regolamentazioni chiare e pratiche etiche nell’uso delle tecnologie di intelligenza artificiale.
Mentre l’industria continua a evolversi, bilanciare l’innovazione con la protezione dei diritti individuali sarà cruciale per garantire uno sviluppo responsabile e sostenibile delle AI.
Le aziende tecnologiche devono riconoscere l’importanza di ottenere il consenso esplicito prima di utilizzare le voci e le immagini delle persone. Allo stesso tempo, i legislatori devono lavorare per sviluppare un quadro normativo che protegga i diritti degli individui senza ostacolare l’innovazione tecnologica.
La trasparenza, il rispetto della privacy e la responsabilità etica devono essere al centro dello sviluppo delle tecnologie AI. Solo in questo modo possiamo garantire che le tecnologie avanzate vengano utilizzate in modo da beneficiare l’umanità , proteggendo al contempo i diritti e la dignità degli individui.