Cinco leituras valiosas é uma coluna regular sobre cinco itens notáveis que descobrimos enquanto pesquisávamos tendências e tópicos atemporais. Nesta semana, estamos explorando a tecnologia de IA ativada por voz que permite que os computadores compreendam e respondam à fala humana, enquanto analisamos algumas de suas desvantagens prejudiciais.
No mundo de hoje, parece que existe um assistente pessoal com inteligência artificial para quase tudo, desde pedir pizza até agendar sua próxima consulta no dentista. Mas você sabia que esses mesmos modelos de IA ativados por voz também podem ser usados por golpistas e cibercriminosos para realizar seus esquemas nefastos?
É isso mesmo, a mesma tecnologia que nos ajuda a reservar uma carona ou definir um lembrete também pode ser manipulada para ajudar agentes mal-intencionados a roubar nossas informações pessoais, drenar nossas contas bancárias e causar estragos em nossas vidas digitais.
Foi-se o tempo dos famosos golpes óbvios, como o do “príncipe nigeriano” ou as ligações de “funcionários do banco” – os golpistas de hoje estão se tornando mais sofisticados do que nunca.
Com a tecnologia de AI de voz, os golpistas podem soar cada vez mais como alguém muito próximo a você e brincar com suas emoções, sem deixar espaço para dúvidas em sua mente. A ascensão dessa tecnologia está confundindo as linhas entre realidade e ficção, tornando mais difícil distinguir entre chamadas genuínas e falsas.
Portanto, cuidado, porque da próxima vez que seu telefone tocar, pode não ser quem você pensa que é.
Nesta semana, estamos mergulhando no mundo da tecnologia de IA de voz — a inovação revolucionária que permite que os computadores entendam e respondam à fala humana. Embora essa tecnologia tenha o potencial de revolucionar nossas vidas de inúmeras maneiras positivas, ela também tem suas desvantagens. Então aperte o cinto e prepare-se para explorar o lado ruim da IA por voz com estes cinco artigos perspicazes.
Prepare-se para aprender, surpreender-se e talvez ficar até um pouco assustado – mas o mais importante, fique atento!
1 – Inteligência artificial que simula voz de qualquer pessoa com apenas 3 segundos de áudio
Um novo modelo de inteligência artificial consegue simular a voz de qualquer pessoa através de um pequeno trecho de áudio. O diferencial deste modelo é que além de imitar a voz, ele também consegue simular emoções e entonações, tornando a experiência muito mais real. O grande perigo desta simulação é a facilidade em que consegue reproduzir e até soar como outra pessoa, tornando-se uma ferramenta perigosa em mãos erradas.
2 – Inteligência artificial é usada para imitar a voz de pessoas e aplicar golpes
Enquanto a inteligência artificial para criação de vozes surgiu com a intenção de nos ajudar e trazer mais acessibilidade, golpistas já encontraram uma nova forma de utilizar esta ferramenta. Em 2022, nos EUA foram registrados mais de 36.000 relatos de pessoas que caíram no golpe através da utilização da IA de voz ao pensarem ser alguém conhecido. E enquanto os golpes estão crescendo, as autoridades ainda não estão preparadas para lidar com esse novo modelo de enganação, sendo muito difícil encontrar pistas que levem até os criminosos. Aqui estão só alguns exemplos de pessoas que já sofreram este ataque.
3 – IA que cria voz foi lançada recentemente e já causa problemas com deepfakes
A ElvenLabs já está apresentando problemas com sua plataforma de criação de voz. Logo após o seu lançamento, o fórum 4Chan a usou para criar deepfakes com pessoas públicas, como a atriz Emma Watson, e personagens da televisão. A empresa já soltou um comunicado através do Twitter de que está tomando providências para resolver questões como essa, como o aumento de segurança com etapas de verificação.
4 – Inteligência artificial imita voz de CEO em roubo de US$ 243 mil
O uso da inteligência artificial de voz já está trazendo prejuízos para empresas. Neste caso, através do uso da IA, golpistas enganaram um funcionário de uma organização para fazer uma transferência que parecia ser urgente. O colaborador não percebeu que se tratava de um golpe pois além da voz ser extremamente parecida, tinha até o sotaque do CEO.
5 – Deepfakes: sua “voz” vai roubar você“
Entender o que é o deepfake e como ela está evoluindo é uma preocupação que a tecnologia está focando, principalmente com o aumento dos cibercrimes. Este é mais um caso em que uma empresa caiu no golpe da ‘voz’. Você pensa que está falando com alguém, mas são golpistas utilizando uma IA.
À medida que a tecnologia de IA de voz voz continua avançando, estamos começando a descobrir algumas de suas implicações mais sombrias. Desde seu uso potencial em crimes cibernéticos e golpes até o impacto em nossa privacidade e segurança de dados, essas preocupações estão crescendo a cada dia. É um lembrete preocupante de que grandes poderes trazem grandes responsabilidades e, à medida que adotamos a conveniência e a eficiência da IA de voz, também devemos estar cientes dos riscos. Afinal, não é uma questão de saber se alguém que conhecemos será vítima de cibercrime, mas quando.
Em última análise, a batalha contra o cibercrime ativado por IA pode ser vencida com segurança cibernética aprimorada pela própria inteligência artificial, e cabe a nós encontrar um equilíbrio entre aproveitar os benefícios dela e, ao mesmo tempo, minimizar seus impactos negativos.
