Vídeos Deepfake
À medida que os vídeos falsos gerados pela IA continuam a se tornar mais convincentes, o que antes era uma ferramenta para compartilhar risadas na internet tornou-se um setor preocupante da mídia digital.
Seja um vídeo viral de ” Tom Cruise ” fazendo um truque de mágica ou “Mark Zuckerberg do Facebook” se gabando de ter “controle total de bilhões de dados roubados de pessoas”, os vídeos falsos têm a capacidade de causar danos reais às pessoas que caem em seu engano .
Uma mulher da Pensilvânia foi acusada no fim de semana passado de supostamente fazer vídeos falsos de garotas em um time de líderes de torcida ao qual sua filha costumava pertencer – os vídeos mostravam as garotas nuas, fumando ou festejando – na tentativa de expulsá-las do time.
O artista gráfico Chris Ume, o mentor por trás do deepfake Tom Cruise TikTok, disse ao CTV News que quando ele começou a fazer vídeos deepfake era apenas para “se divertir”.
Mas agora, como a mídia manipulada continua a fazer manchetes, suas opiniões mudaram.
“Estou preocupado porque está ficando mais fácil fazer isso”, disse Ume. “Especialmente quando as pessoas querem fazer mau uso da tecnologia.”
O QUE SÃO DEEPFAKES?
Um processo de IA conhecido como “aprendizado profundo” é usado para manipular fotos e vídeos para criar mídia falsa profunda.
Muitos deles são usados para pornografia. Um relatório de 2019 da empresa de inteligência artificial Deeptrace Labs encontrou mais de 14.500 vídeos deepfake online em setembro daquele ano – 96 por cento deles de natureza pornográfica. Dos vídeos estudados, 99% envolviam a troca de rostos de celebridades femininas por estrelas pornôs sem seu consentimento.
A tecnologia Deepfake também pode ser usada para criar imagens convincentes, mas basicamente falsas do zero, e o áudio também pode ser falsificado em um processo conhecido como “skins de voz” – onde a voz de alguém é clonada e, em seguida, manipulada para “dizer” o que o usuário deseja para.
Figuras públicas, como políticos ou CEOs, são especialmente vulneráveis a esse processo por causa de seus frequentes discursos públicos; em 2019, golpistas usaram uma máscara de voz para enganar um CEO de uma empresa de energia sediada no Reino Unido para que enviasse fundos a um fornecedor húngaro . O CEO pensou que ele estava falando com seu chefe, um executivo alemão.
Um vídeo falso de 2019 do ex-primeiro-ministro italiano Matteo Renzi insultando outros políticos causou indignação na Itália antes de ser revelado ser um vídeo manipulado para um programa satírico italiano.
COMO SÃO FEITOS OS VÍDEOS DEEPFAKE?
Existem algumas maneiras de fazer um deepfake e várias etapas devem ser executadas.
Primeiro, um usuário pode começar inserindo milhares de fotos de duas pessoas em um algoritmo de IA chamado codificador, que então encontra semelhanças entre as duas faces, reduzindo-as a suas características comuns compartilhadas.
Um algoritmo secundário conhecido como decodificador é então usado para recuperar as faces dos arquivos. Para fazer uma troca de rosto, o usuário simplesmente muda os feeds para o decodificador “errado” para cada pessoa , efetivamente trocando seus rostos. Isso deve ser feito para cada quadro do vídeo que está sendo criado.
Redes Adversariais Generativas, ou GANs, são outro método. Os GANs são compostos por duas redes de computadores: um sintetizador que cria conteúdo e um detector que compara as imagens com as reais.
Ao circular o conteúdo pelas redes centenas de milhares de vezes, os dois sistemas tornam a mídia manipulada confiável.
A tecnologia necessária para criar deepfakes convincentes, desktops poderosos com placas gráficas de última geração e um conhecimento de edição de vídeo, significa que o usuário médio da Internet não produzirá vídeos ou fotos manipuladas tão cedo.
No entanto, “fakes rasos”, que são vídeos manipulados por meio de ferramentas de edição regulares, ainda são capazes de enganar as pessoas.
O Facebook proibiu deepfakes em seu site antes da eleição dos EUA de 2020 em uma tentativa de conter a desinformação, mas sua política não se estendeu a “falsificações superficiais” – é por isso que um vídeo manipulado da presidente da Câmara, Nancy Pelosi, “arrastando-se” em um discurso foi autorizado a permanecer no local.
COMO VOCÊ PODE LOCALIZAR UM PROFUNDO?
Conforme a tecnologia de IA avança, localizar vídeos falsos se torna muito mais difícil.
Sincronização labial deficiente ou oscilação nos quadros de vídeo são algumas maneiras de detectar um deepfake de qualidade inferior, mas a maioria da tecnologia de IA de alta qualidade descobriu maneiras de tornar esses problemas discutíveis.
Em 2018, pesquisadores da Cornell University anunciaram sua descoberta de que os rostos deepfake não piscavam, mas assim que a pesquisa foi publicada, a IA foi programada para resolver o problema.
Ironicamente, a IA pode ser a melhor maneira de detectar deepfakes, e corporações como a Microsoft tomaram iniciativas para detectar e remover mídia manipulada.
QUAL É O PERIGO COM OS DEEPFAKES?
Embora enganar as pessoas para que acreditem em um evento de grande escala seja improvável, já que a maioria dos países tem seus próprios sistemas de vigilância e comunidades de inteligência para verificar os dados, a mídia falsa pode minar a confiança em instituições públicas e indivíduos.
Em 2019, o professor Hany Farid, da Universidade da Califórnia em Berkeley, alertou que a tecnologia deepfake foi “usada como arma” contra as mulheres, especialmente quando são usadas para criar e distribuir pornografia de vingança.
Farid disse à CTV News que os riscos de deepfakes equivalem a “fraude maciça”.
Um robô deepfake no aplicativo de bate-papo criptografado Telegram foi descoberto em 2020 e foi usado para “despir” mais de 100.000 mulheres, muitas delas menores de 18 anos.
Acredita-se que o bot do Telegram seja alimentado pelo software DeepNude, relatado pela primeira vez pela Vice em 2019 , que usa aprendizado profundo para gerar o que pensa ser o corpo de uma pessoa.
“Podemos realmente causar estragos, e a verdadeira preocupação aqui é a viralidade com que esse conteúdo se espalha online antes que alguém descubra que é falso”, disse Farid.
Créditos: ctvnews