O avanço acelerado da Inteligência Artificial tem ampliado oportunidades no ambiente digital, mas também abriu espaço para práticas criminosas cada vez mais sofisticadas. Entre elas, o uso de deepfakes para criação e disseminação de conteúdos falsos, inclusive de cunho sexual envolvendo crianças e adolescentes, tem preocupado autoridades, especialistas e famílias em todo o país.
Levantamento recente da SaferNet aponta que, entre janeiro e julho de 2025, foram recebidas aproximadamente 76.997 denúncias relacionadas a crimes virtuais envolvendo deepfakes. O dado revela a dimensão do problema e reforça a urgência de ações preventivas e repressivas no campo da segurança digital.
Em resposta a esse cenário, a Câmara dos Deputados aprovou, por meio da Comissão de Constituição e Justiça e de Cidadania, o PL 3066/25, que proíbe o uso da Inteligência Artificial para a criação de conteúdos sexuais envolvendo crianças e adolescentes. A proposta representa um avanço legislativo, mas especialistas alertam que o desafio vai além da criação de leis.
Segundo a advogada Luana Mendes Fonseca de Faria, especializada na remoção de conteúdos impróprios em sites, portais e redes sociais, quem cria ou divulga deepfakes pode responder civil e penalmente.
“Quem cria ou divulga o deepfake pode responder por violação da honra, da imagem e da intimidade, com obrigação de indenizar danos morais e materiais, além de crimes como calúnia, difamação, ameaça, perseguição, extorsão e divulgação de nudez sem consentimento”, explica.
Ela destaca ainda que, em regra, as plataformas digitais só são responsabilizadas quando descumprem ordem judicial de remoção, mas decisões recentes vêm ampliando o entendimento sobre o dever de cuidado dessas empresas diante de conteúdos que ferem direitos fundamentais.
O debate ganhou ainda mais visibilidade no dia 5 de janeiro, quando a deputada federal Érica Hilton protocolou uma representação criminal no Ministério Público Federal contra a rede social X e a plataforma Grok. A parlamentar alega que a ferramenta de Inteligência Artificial estaria sendo utilizada para gerar imagens de cunho sexual envolvendo crianças e adolescentes usuárias da plataforma.
Na análise do caso, Luana Mendes aponta limitações do Marco Civil da Internet diante da velocidade de propagação dos deepfakes. “O Marco Civil reflete uma visão de internet livre, mas se mostra insuficiente frente ao impacto devastador dos deepfakes, que viralizam em horas e causam traumas irreversíveis antes mesmo de uma decisão judicial. A ausência de uma tipificação específica para IA generativa cria brechas que incentivam a inação das big techs”, avalia.
Boas práticas ajudam, mas não eliminam riscos
Embora não exista proteção total contra esse tipo de crime, especialistas reforçam que práticas básicas de segurança digital podem reduzir riscos. Ajustar a privacidade máxima nas redes sociais, limitar o compartilhamento de imagens pessoais, desativar backups automáticos de fotos sensíveis e configurar alertas de monitoramento de nome e imagem são algumas das recomendações.
“Ainda assim, qualquer pessoa pode ser alvo. Criminosos podem usar desde uma simples foto de perfil até vídeos públicos para criar conteúdos falsos. A responsabilidade é sempre do agressor, nunca da vítima”, enfatiza Luana.
Como identificar deepfakes e agir rapidamente
Apesar do alto nível de sofisticação dessas tecnologias, há indícios que podem levantar suspeitas, como inconsistências de iluminação, sombras artificiais, distorções em mãos e rosto e falta de sincronia entre voz e movimentos labiais. Ferramentas específicas de detecção, baseadas na análise de pixels e ruídos digitais, também já são utilizadas no mercado.
Atuando diariamente na remoção de conteúdos indevidos, Luana relata que as vítimas frequentemente apresentam vergonha, ansiedade, medo de julgamento no trabalho, na escola e na família, além da sensação de perda total de controle quando o material se espalha rapidamente por diferentes plataformas.
A orientação, segundo a especialista, é agir com rapidez: reunir provas, salvar links, fazer capturas de tela com data e horário, registrar ata notarial em cartório, denunciar o conteúdo às plataformas e procurar uma delegacia especializada em crimes cibernéticos, além de apoio jurídico para medidas judiciais e pedidos de indenização.
Para Luana Mendes, o crescimento dos casos é resultado da combinação entre maior acesso às ferramentas de IA, cultura de violência, especialmente de gênero, e a percepção de impunidade. “Enquanto não houver respostas mais rápidas, legislação atualizada e maior responsabilização das plataformas, o ciclo de vitimização tende a continuar”, conclui.
