OpenAI revela inteligência artificial capaz de clonar voz humana

A OpenAI, criadora do ChatGPT, anunciou que trabalha em uma nova tecnologia que pode recriar vozes humanas. Chamada provisoriamente de “Voice Engine”, a inteligência artificial ainda está em fase de testes para um “pequeno grupo de empresas” e não tem nenhuma previsão para chegar ao público.

Vozes de “mentirinha”

As demonstrações divulgadas pela empresa em seu blog oficial mostram um homem falando em inglês com um sotaque português. Depois de se apresentar, ele aponta que fez a gravação do clipe de áudio para “ajudar indivíduos não verbais a se expressarem mais plenamente”.

No clipe seguinte, a voz do homem é recriada com o auxílio do Voice Engine para dizer algo completamente diferente. Depois, outro pedaço de áudio surge, mas dessa vez, o homem fala em português.

Mesmo que seja possível perceber diferenças no som dos três clipes, uma pessoa desavisada poderia ser enganada pelas vozes de “mentirinha”. Como resultado, diversas situações, que vão desde a disseminação de fake news a ajudar uma pessoa a se comunicar, poderiam surgir com a liberação dessa tecnologia.

A OpenAI destacou algumas aplicações para o modelo:

Auxílio em leitura: ajuda crianças e não-leitores a compreender textos através de vozes emotivas e som natural;

Tradução de conteúdo: oferece maior alcance de vídeos e podcasts de forma fluente e nas próprias vozes dos apresentadores;

Alcance de comunidades globais: promete melhorar a prestação de serviços essenciais em ambientes remotos, pois garante um alto nível de comunicação entre as pessoas;

Apoio a pessoas não-verbais: oferece aplicações terapêuticas para indivíduos com condições que afetam a fala, além de melhorias educacionais para pessoas com necessidades de aprendizagem;

Auxílio de pacientes para recuperarem suas vozes: explorar a IA em condições clínicas para ajudar pessoas que sofrem de condições de fala degenerativas.

Recriar vozes é algo “delicado”.

“Reconhecemos que a geração de fala que lembra a voz de pessoas tem riscos sérios, o que está ainda mais em voga em um ano de eleição”, alerta a OpenAI no seu site. “Estamos nos unindo a parceiros dos EUA e internacionais de governo, mídia, entretenimento, educação, sociedade civil e além para garantir a inclusão de seus feedbacks conforme desenvolvemos (a Voice Engine)”, garante a companhia.

Tal alerta faz sentido e se torna até básico dado o potencial de violações questões éticas nesse tipo de tecnologia, como a possibilidade de aplicar goles usando vozes de conhecidos ou mesmo a produção de áudios falsos cada vez mais difíceis de comprovar a sua veracidade.

Também por isso, a empresa garante que realiza experimentos para diferenciar gravações reais de sintéticas. Por outro lado, a OpenAI destacou que ainda não tem planos para liberar o modelo para o público, então ele deve ficar na área de testes por muito tempo.

Vale apontar que o modelo da OpenAI não é pioneiro, pois já existem IAs gratuitas que criam vozes humanas.