A OpenAI pode clonar uma voz com apenas 15 segundos de áudio?

A OpenAI acaba de anunciar que recentemente realizou uma visualização em pequena escala de uma nova ferramenta chamada Voice Engine.

Esta é uma tecnologia de clonagem de voz que pode imitar qualquer orador analisando uma amostra de áudio de 15 segundos. A empresa afirma que ela produz "fala natural" com vozes "emotivas e realistas".

Possibilidades infinitas... e riscos sérios

Essa tecnologia, baseada na API de síntese de fala existente da empresa, está em desenvolvimento desde 2022. A OpenAI já usa uma versão de todo o conjunto de ferramentas para alimentar as vozes predefinidas disponíveis na API de síntese de fala atual e no recurso de conversão de texto em fala. Existem vários exemplos no blog oficial da empresa, e eles soam assustadoramente próximos à realidade. Eu encorajo você a ouvi-los e imaginar as possibilidades, tanto boas quanto ruins.

Usos potenciais e preocupações com a privacidade

A OpenAI afirma que essa tecnologia pode ser útil para assistência na leitura, tradução de idiomas e ajudar pessoas com distúrbios de fala súbitos ou degenerativos. No entanto, atores mal-intencionados certamente usariam essa tecnologia para enganar com deepfakes graves, o que já é um problema. Nesse sentido, o Voice Engine ainda não está totalmente pronto para o público em geral, pois há questões sérias de privacidade que precisam ser resolvidas antes de sua implementação completa.

Medidas de segurança e abordagem responsável

A OpenAI reconhece que essa tecnologia apresenta "riscos sérios, especialmente preocupantes durante um ano eleitoral". A empresa afirma que incorpora feedback de "parceiros americanos e internacionais de diversos setores, incluindo governo, mídia, entretenimento, educação, sociedade civil e outros" para garantir que o produto seja lançado com riscos mínimos. Todos os testadores da visualização concordaram com as políticas de uso da OpenAI, que proíbem a personificação de outra pessoa sem seu consentimento ou direito legal.

Transparência e controle sobre o uso

Além disso, qualquer pessoa que usar a tecnologia será obrigada a informar ao seu público que as vozes são geradas por IA. A OpenAI implementou medidas de segurança como marcas digitais para rastrear a origem de qualquer áudio e um "monitoramento proativo" do uso do sistema. Quando o produto for lançado oficialmente, haverá uma "lista de vozes banidas" que detectará e impedirá vozes geradas por IA que sejam muito semelhantes a figuras públicas.

Preços competitivos e planos futuros

Quanto ao momento de implementação, a OpenAI permanece discreta. O TechCrunch descobriu alguns dados potenciais de preços, e parece que eles estão subestimando os concorrentes nesse espaço, como a ElevenLabs. O Voice Engine pode custar US$ 15 para um milhão de caracteres, aproximadamente 162.500 palavras. Isso equivale ao comprimento do "Iluminado", de Stephen King. Essa parece ser uma maneira econômica de criar um audiobook. Os materiais de marketing também mencionam uma versão "HD" que custa o dobro, mas a empresa ainda não detalhou como isso funciona.

Grande potencial, mas desafios a superar

A OpenAI continua fazendo grandes anúncios nesta semana. Ela acabou de anunciar outra parceria com seu grande amigo Microsoft para construir um supercomputador baseado em IA chamado "Stargate". O projeto aparentemente custa impressionantes US$ 100 bilhões, de acordo com The Information.