Può OpenAI clonare una voce con soli 15 secondi di audio?

OpenAI ha appena annunciato di aver condotto di recente un'anteprima su scala ridotta di uno strumento chiamato Voice Engine.

Questa è una tecnologia di clonazione vocale che può imitare qualsiasi parlante analizzando un campione audio di 15 secondi. L'azienda afferma che produce "voce naturale" con voci "emotive e realistiche".

Possibilità infinite... e rischi seri

Questa tecnologia, basata sull'API di sintesi vocale esistente dell'azienda, è in sviluppo dal 2022. OpenAI già utilizza una versione dell'intero toolkit per alimentare le voci predefinite disponibili nell'attuale API di sintesi vocale e nella funzione testo-parlato. Ci sono diversi esempi sul blog ufficiale dell'azienda, e suonano spaventosamente vicini alla realtà. Ti incoraggio ad ascoltarli e a immaginare le possibilità, sia positive che negative.

Potenziali utilizzi e preoccupazioni sulla privacy

OpenAI afferma che questa tecnologia potrebbe essere utile per assistenza alla lettura, traduzione linguistica e aiuto alle persone con disturbi del linguaggio improvvisi o degenerativi. Tuttavia, attori malintenzionati potrebbero sicuramente abusarne per inganni di deepfake seri, cosa che è già un problema. A tal proposito, Voice Engine non è ancora del tutto pronto per il pubblico generale, poiché ci sono preoccupazioni serie sulla privacy che devono essere affrontate prima del rilascio completo.

Misure di sicurezza e approccio responsabile

OpenAI riconosce che questa tecnologia presenta "Rischi seri, in particolare in un anno elettorale". L'azienda afferma di aver incorporato feedback da "partner americani e internazionali di diversi background, tra cui governo, media, intrattenimento, istruzione, società civile e oltre" per garantire che il prodotto venga lanciato con rischi minimi. Tutti i tester dell’anteprima hanno accettato le politiche di utilizzo di OpenAI, che vietano l’impersonificazione di un’altra persona senza il loro consenso o diritto legale.

Trasparenza e controllo sull'uso

Inoltre, chiunque utilizzi la tecnologia sarà tenuto a divulgare al proprio pubblico che le voci sono generate dall’IA. OpenAI ha implementato misure di sicurezza come il watermark digitale per tracciare l’origine di qualsiasi audio e "monitoraggio proattivo" dell’utilizzo del sistema. Quando il prodotto sarà ufficialmente lanciato, ci sarà una "lista di voci vietate" che rileva e impedisce le voci generate dall’IA troppo simili a figure pubbliche.

Prezzi competitivi e piani futuri

Per quanto riguarda i tempi di deployment, OpenAI rimane discreta. TechCrunch ha scoperto alcuni dati potenziali sui prezzi, e sembra che stiano sottostimando i concorrenti nel settore, come ElevenLabs. Voice Engine potrebbe costare 15 dollari per un milione di caratteri, circa 162.500 parole. È circa la lunghezza di "Shining" di Stephen King. Questo sembra un modo economico per creare un audiolibro. I materiali di marketing menzionano anche una versione "HD" che costa il doppio, ma l’azienda non ha dettagliato come funziona.

Potenziale enorme, ma sfide da superare

OpenAI continua a fare grandi annunci questa settimana. Ha appena annunciato un'altra partnership con il suo stretto amico Microsoft per costruire un supercomputer basato sull’IA chiamato "Stargate". Il progetto sembra costare uno sconcertante 100 miliardi di dollari, secondo The Information.