Microsoft ha recentemente lanciato un nuovo programma che divide gli utenti. Per alcuni è geniale, per altri può essere pericoloso.
Sono molte le innovazioni tecnologiche che abbiamo visto nel corso di quest’anno. Oltre alla grande rivoluzione dell’intelligenza artificiale, Microsoft ha ora deciso di lanciare un nuovo software destinato a dividere gli utenti tra chi lo trova pericoloso e chi lo trova geniale.
Uno dei prodotti più inaspettati lanciati nell’ambito dell’evento Microsoft Ignite 2023 è uno strumento in grado di creare un avatar fotorealistico di una persona e animarlo dicendo cose che quella persona potrebbe non aver detto. Avatar di sintesi vocale Chiamata Azure AI Speech, la nuova funzionalità disponibile oggi in anteprima pubblica, consente agli utenti di generare video di un avatar parlante caricando le immagini di una persona a cui desiderano che l’avatar assomigli e scrivendo una sceneggiatura. Lo strumento di Microsoft addestra un modello per guidare l’animazione, mentre un modello di sintesi vocale, predefinito o addestrato sulla voce della persona, “legge” la sceneggiatura ad alta voce.
In questo modo gli utenti possono creare in modo più efficiente video di formazione, presentazioni di prodotti e testimonianze dei clienti semplicemente inserendo testo. Sarà inoltre possibile utilizzare l’avatar per creare agenti conversazionali, assistenti virtuali, chatbot e altro ancora. Gli avatar avranno la capacità di parlare in diverse lingue. Ce ne sono innumerevoli modi in cui tale strumento potrebbe essere abusato, e Microsoft lo sa bene. La maggior parte degli abbonati ad Azure avrà accesso solo agli avatar predefiniti e non personalizzati al momento del lancio. Gli avatar personalizzati sono attualmente una funzionalità ad “accesso limitato” disponibile solo previa registrazione e solo per casi d’uso selezionati.
Microsoft, il nuovo programma solleva dubbi etici: cosa potrebbe succedere
Molti ricorderanno il recente sciopero SAG-AFTRA, in cui uno dei punti principali è stato l’uso dell’intelligenza artificiale per creare somiglianze digitali. Alla fine gli studi cedettero accettando di pagare gli attori anche per i loro avatar digitali. Ora la domanda è se Microsoft farà la stessa cosa con i suoi clienti. Ad oggi, la società non ha ancora risposto a queste domande, né ha rivelato se richiederebbe alle aziende di contrassegnare gli avatar come generati dall’intelligenza artificiale, come fanno YouTube e un numero crescente di altre piattaforme.
Tuttavia, un portavoce ha chiarito che Microsoft richiede ai clienti di avatar personalizzati di ottenere “un permesso scritto esplicito” e Dichiarazioni di consenso del talento avatar. L’azienda richiede inoltre che i clienti aggiungano dichiarazioni che affermino che gli avatar sono stati creati con l’intelligenza artificiale e sono generati dall’intelligenza artificiale. Microsoft sembra avere più protezioni attorno a uno strumento di intelligenza artificiale generativa correlato, Personal Voice, che sta lanciando anche a Ignite.
Personal Voice, una nuova funzionalità del Custom Neural Voice Service di Microsoft, può replicare la voce di un utente in pochi secondi fornendo un campione audio di un minuto come promemoria audio. Microsoft lo presenta come un modo per creare assistenti vocali personalizzati, doppiare contenuti in diverse lingue e generare narrazioni su misura per storie, audiolibri e podcast.
Per evitare possibili problemi legali, Microsoft vieterà l’uso di discorsi preregistrati, richiedendo agli utenti di dare un “consenso esplicito” sotto forma di una dichiarazione registrata. L’accesso alla funzionalità è attualmente limitato e i clienti devono utilizzarla accetta di utilizzare la tua voce personale solo nelle applicazioni dove la voce non legge contenuti generati dagli utenti o da altre persone. Nonostante questo nuovo programma abbia suscitato grande interesse, non si può certo dire che ci siano dubbi sul suo corretto utilizzo.
