Imitar nossa voz para nos hackear? A IA consegue ultrapassar a última fronteira

O mundo da inteligência artificial abre tantas possibilidades quanto ameaças. E embora o ChatGPT possa fazer um resumo de Capitães de Areia, outra ferramenta pode se passar pelo Presidente do país mais poderoso do mundo.

ChatGPT Download

Nos Estados Unidos, como parte de uma tática de desinformação e em preparação para as eleições presidenciais no final do ano, alguém tem enviado ligações automáticas se passando pelo Presidente Joe Biden.

Parecia que Biden estava dizendo às pessoas para não votarem em uma eleição primária, mas poderia ter sido IA. No entanto, ninguém, nem mesmo os vendedores de software de detecção de falsificações, concorda.

A tentativa de fraude eleitoral apresenta outro tipo de desafio.

Um artigo da Bloomberg desta semana analisou o que poderia ter sido a primeira brincadeira suja de áudio deepfake contra Joe Biden. Mas ninguém sabe se foi um ator imitando-o ou uma IA.

Citando outros dois fabricantes de detectores, ElevenLabs e Clarity, a Bloomberg não conseguiu encontrar nenhuma certeza.

O software da ElevenLabs considerou improvável que o ataque fosse resultado de uma fraude biométrica. Já o Clarity aparentemente encontrou que havia 80% de probabilidade de ser um deepfake.

Uma equipe de estudantes e ex-alunos da Universidade da Califórnia – Berkeley afirma ter desenvolvido um método de detecção que funciona com pouquíssimos erros.

Claro, isso é em um ambiente de laboratório e a equipe de pesquisa considera que o método exigirá um ‘contexto adequado’ para ser compreendido.

ChatGPT Download

A equipe deu um modelo de aprendizado profundo de áudio bruto para processar e extrair representações multidimensionais. O modelo utiliza essas representações para distinguir o real do falso. Mas ainda resta ver como ele é usado no mundo real. Teremos que ver o que o teste com o áudio de Biden diz.