Num mundo onde a tecnologia avança rapidamente, os pais enfrentam novos desafios na proteção dos seus filhos contra ameaças emergentes. Uma dessas preocupações é o aumento de deepfakes gerados por IA – meios de comunicação sintéticos que podem imitar vozes, imagens e vídeos de pessoas reais com uma precisão alarmante.
Imagine receber um telefonema angustiante de sua filha, implorando por ajuda enquanto criminosos perigosos a estão sequestrando. Foi exatamente isso que aconteceu com Jennifer DeStefano, do Arizona, em janeiro de 2023. Aterrorizada e desesperada para salvar o filho, Jennifer ouviu horrorizada um homem ameaçar prejudicar a filha se ela não enviasse dinheiro imediatamente.
Mas aqui está a reviravolta chocante: a filha de Jennifer nunca esteve em perigo. Ela estava aproveitando uma viagem de esqui com segurança, completamente inconsciente do chamado traumático. A voz que Jennifer ouviu não era a de sua filha – era um deepfake incrivelmente realista gerado por IA, criado por golpistas para extorquir dinheiro de pais desavisados.
Infelizmente, a história de Jennifer não é um incidente isolado. À medida que a tecnologia de IA se torna mais sofisticada, os criminosos encontram novas formas de a explorar para obter ganhos financeiros, muitas vezes visando famílias vulneráveis. Até os membros do Congresso estão percebendo, explorando como os deepfakes podem infringir os direitos individuais e causar danos graves.
Como pais, é crucial que nos mantenhamos informados sobre estas ameaças emergentes para proteger os nossos filhos e a nós mesmos. Vamos dar uma olhada no mundo dos deepfakes de IA – o que são, como funcionam e, o mais importante, quais medidas podemos tomar para proteger nossas famílias contra seu uso malicioso.
Embora os riscos sejam reais e preocupantes, o nosso objetivo é capacitá-lo com conhecimentos e estratégias práticas para navegar neste novo cenário com confiança.
O que são Deepfakes de IA?
No centro do fenômeno deepfake está uma tecnologia poderosa chamada IA generativa. Em termos simples, IA generativa refere-se a algoritmos de inteligência artificial que podem criar novos conteúdos – como imagens, vídeos, áudio ou texto – com base em padrões aprendidos a partir de dados existentes.
Para entender como funciona a IA generativa, imagine uma criança aprendendo a desenhar. À medida que a criança estuda vários exemplos de arte, ela começa a reconhecer padrões comuns, como a disposição típica dos olhos, narizes e bocas em um rosto. Com a prática, a criança aprende a combinar esses padrões de novas maneiras para criar seus próprios desenhos exclusivos.
A IA generativa opera segundo um princípio semelhante, mas numa escala muito maior. Ao analisar grandes quantidades de dados, estes algoritmos aprendem a identificar e replicar padrões, permitindo-lhes gerar novos conteúdos que imitam os dados originais com um realismo impressionante.
Como esses modelos de IA zombam de pessoas reais?
Um dos tipos mais populares de IA generativa é chamado uma Rede Adversarial Generativa (GAN). Numa GAN, dois modelos de IA trabalham juntos numa espécie de competição.
Um modelo, chamadogerador, cria novos conteúdos, enquanto o outro modelo, conhecido comodiscriminador, tenta distinguir entre o conteúdo gerado e exemplos reais. À medida que os modelos são iterados, o gerador aprende a criar conteúdo cada vez mais convincente que pode enganar o discriminador.
Você pode imaginar que esta seria uma ferramenta poderosa para expandir a tecnologia. Mas quando aplicados a deepfakes, os algoritmos generativos de IA podem analisar rapidamente imagens, vídeos e gravações de áudio reais de uma pessoa para aprender os padrões únicos de suas características faciais, expressões, movimentos e voz. A IA entãousa esta informação aprendida (como a criança aprendendo a copiar e desenhar) para sintetizar novo conteúdo que imite de perto a pessoa original.
Por exemplo, para criar um vídeo deepfake, o algoritmo de IA pode estudar imagens do rosto de uma celebridade de vários ângulos e em várias condições de iluminação. Ao aprender as complexidades das características e expressões faciais da celebridade, a IA pode então gerar novos quadros de vídeo que substituem perfeitamente o rosto da pessoa original pela imagem da celebridade.
Algoritmos de IA podem analisar gravações da voz de uma pessoa para aprender os padrões distintos de sua fala, incluindo tom, tom, sotaque e maneirismos. Com dados de treinamento suficientes, a IA pode então sintetizar novo conteúdo de áudio que soa estranhamente como a pessoa original falando.
Quais são os riscos potenciais dos deepfakes para crianças e adolescentes?
Como pais, o nosso instinto é proteger os nossos filhos de perigos, tanto no mundo físico como no digital. No entanto, com o aumento dos deepfakes gerados por IA, enfrentamos um novo conjunto de desafios que podem ter consequências graves para o bem-estar, o desenvolvimento e até a segurança dos nossos filhos.
Exposição a conteúdo impróprio, enganoso ou perturbador
À medida que a tecnologia deepfake se torna mais acessível, é mais fácil do que nunca para os malfeitores criarem vídeos, imagens ou áudio falsos que pareçam convincentemente reais.
Imagine, por exemplo, uma criança que se depara com um vídeo deepfake que parece mostrar a sua celebridade favorita envolvida em comportamento explícito ou violento. Ou imagine uma imagem deepfake que retrata uma figura pública confiável fazendo declarações falsas ou inflamadas.
Embora os adultos possam ver o conteúdo como ele é, as crianças podem ficar confusas ou chateadas ao verem o inesperado de personagens confiáveis.
Dificuldade em distinguir o real do falso, levando à confusão e às falsas crenças
Como adultos, também temos dificuldade em discernir o conteúdo genuíno das falsificações geradas pela IA. Um estudo recente descobriram que os adultos entrevistados conseguiam identificar textos escritos criados pela IA 57% das vezes – mas só conseguiam distinguir as imagens da IA das reais 53% das vezes.
Para as crianças que ainda estão a desenvolver a sua compreensão do mundo e a aprender a navegar em paisagens informacionais complexas, este desafio é ainda maior.
Quando expostas a deepfakes, as crianças podem ter dificuldade em distinguir entre o que é real e o que é fabricado. Com o tempo, a exposição repetida a deepfakes pode fazer com que as crianças internalizem informações falsas ou desenvolvam percepções distorcidas da realidade.
Potencial para cyberbullying, golpes e danos à reputação usando tecnologia Deepfake
Talvez o mais alarmante seja o fato de que os deepfakes podem ser usados como armas para atingir diretamente as crianças. Os agressores ou abusadores podem usar a tecnologia para criar conteúdos falsos, humilhantes ou comprometedores, apresentando as suas vítimas, como colocar o rosto de uma criança no corpo de um adulto numa imagem explícita. IA tem sido usada para criar imagens falsas de colegas de classe que prejudicam reputações e causam danos graves.
Erosão da confiança na mídia e nas fontes de informação
Nossos filhos já conhecem um mundo onde ver não é mais acreditar – e com os deepfakes de IA assumindo o controle, as crianças podem desenvolver uma profunda desconfiança na mídia e nas fontes de informação.
À medida que lutam para distinguir o real do falso, podem questionar a credibilidade de todos os conteúdos que encontram, mesmo de fontes respeitáveis, como pais, professores e figuras de autoridade.
Esta erosão da confiança pode ter implicações de longo alcance para o desenvolvimento intelectual e social das crianças. Pode levar a uma visão de mundo cínica, onde os factos estão constantemente em dúvida e as opiniões são moldadas mais pelo medo e pela suspeita do que pelas provas e pela razão.
Dicas para ajudar as crianças a identificar deepfakes e conteúdo gerado por IA
Claro, nem toda IA é ruim! A IA tornou mais fácil do que nunca a criação de conteúdo educacional sobre uma ampla variedade de tópicos e abriu novas oportunidades para criatividade e expressão. No entanto, o aumento de deepfakes e outros conteúdos gerados por IA significa que pais e educadores devem estar mais vigilantes do que nunca para ajudar as crianças a navegar neste complexo cenário mediático.
Aqui estão algumas dicas para ajudar as crianças a identificar e compreender deepfakes e outros conteúdos gerados por IA:
Procure falhas visuais e inconsistências
Explique às crianças que, embora os deepfakes possam ser muito convincentes, eles geralmente contêm falhas ou inconsistências visuais sutis. Embora a IA esteja melhorando em escondê-los, ainda é bastante óbvio em muitos golpes e deepfakes de alto perfil.
Incentive-os a olhar atentamente para vídeos ou imagens em busca de sinais de movimentos não naturais, iluminação incompatível ou desfoque nas bordas dos rostos. Aponte exemplos de artefatos visuais, como tremulação ou distorção, que podem indicar um deepfake.
Preste atenção às dicas de áudio
Ajude as crianças a compreender que o áudio deepfake pode soar ligeiramente robótico, distorcido ou não natural. Incentive-os a ouvir atentamente pronúncias estranhas, tom de voz inconsistente ou ruído de fundo que não corresponda ao visual.
Enfatize a importância de considerar a qualidade do áudio juntamente com os elementos visuais ao avaliar a autenticidade de um vídeo ou clipe de áudio. Isso pode ser mais difícil para as crianças mais novas, mas as crianças mais velhas podem facilmente perceber quando algo parece “errado” em um determinado conteúdo ou mídia.
Verifique a fonte e as informações de referência cruzada
Ensine as crianças a serem cautelosas com conteúdo de fontes desconhecidas ou não confiáveis. Incentive-os a verificar se o conteúdo aparece em sites de notícias ou canais oficiais confiáveis – e se for bom demais para ser verdade, provavelmente é!
Mostre-lhes como fazer referência cruzada de informações pesquisando a mesma história ou afirmação em diversas fontes confiáveis. Se uma história ou vídeo não puder ser verificado em outro lugar, pode ser uma falsificação ou desinformação.
Promova uma mentalidade curiosa, mas crítica
A melhor maneira de ajudar as crianças a compreender a tecnologia deepfake é promover uma mentalidade curiosa. Incentive as crianças a abordar o conteúdo online com uma boa dose de curioso ceticismo. Ensine-os a fazer perguntas como:
- “Quem criou este conteúdo e por quê?”
- “Que evidências apoiam esta afirmação?”
- “Isso poderia ser um conteúdo deepfake ou manipulado?”
Ajude-os a compreender que só porque algo parece real não significa necessariamente que seja. Reforce a importância da verificação dos fatos e da verificação das informações antes de aceitá-las como verdadeiras.
Mantenha-se informado sobre a mais recente tecnologia deepfake
Como pai, mantenha-se atualizado sobre os últimos avanços na tecnologia deepfake e as formas como ela pode ser mal utilizada. Siga fontes de notícias de tecnologia confiáveis e organizações de segurança online para se manter informado.
Sempre que possível, tente compartilhar atualizações e exemplos adequados à idade com seus filhos para ajudá-los a compreender o cenário em evolução do conteúdo gerado por IA e seus riscos potenciais. Isso os ajudará a se sentirem melhor preparados para identificar e lidar com qualquer conteúdo questionável que encontrarem online.
Ensine o envolvimento com curiosidade – não com medo
A IA veio para ficar e é seguro dizer que nossos filhos provavelmente crescerão sabendo mais sobre ela do que nós! Mas isso não altera os riscos representados por intervenientes nefastos que pretendem atacar populações vulneráveis com ferramentas poderosas.
Ao ensinar às crianças essas habilidades práticas e incentivar uma mentalidade crítica, podemos ajudá-las a navegar com confiança no mundo dos deepfakes e do conteúdo gerado por IA.
Lembre-se de que o objetivo não é assustar as crianças ou desencorajá-las de se envolverem com a tecnologia, mas sim capacitá-las com as ferramentas e o conhecimento de que precisam para se manterem seguras, informadas e no controle de suas experiências on-line. Quando pudermos ajudá-los a desenvolver uma curiosidade sobre a tecnologia e as suas capacidades, em vez de medo, podemos prepará-los para o sucesso no mundo digital.
Quer saber mais sobre a tecnologia mais recente e como manter as crianças seguras online? Confira nossos outros guias e recursos no Kidslox – e tome as medidas necessárias para criar um ambiente de aprendizagem on-line seguro e próspero para sua família.
