Coreia implementa força-tarefa para combater deepfakes

Governo anunciou força-tarefa para atuar em operações disfarçadas, no bloqueio de imagens explícitas e no aumento das penas contra “deepfakes”

Na última quarta-feira (06), o governo sul-coreano anunciou uma força-tarefa para enfrentar a onda de deepfakes que tomou o país. Em agosto de 2024, a Agência de Polícia Metropolitana de Seul e especialistas da indústria de TI da Coreia identificaram um aumento de crimes sexuais online cometidos contra meninas e mulheres na Coreia. Em resposta, o governou mobilizou uma força-tarefa para atuar em quatro áreas: aplicar punições mais rigorosas, responsabilizar as plataformas, agilizar a proteção das vítimas e fornecer programas educacionais para prevenir a exploração. 

Os crimes são cometidos principalmente nas plataformas de chat como Telegram. Os suspeitos utilizam bots pagos e gratuitos que alteram instantaneamente as imagens de estudantes, professoras, soldadas e artistas femininas da indústria do entretenimento, inclusive menores de idade, para conteúdo explícito. As salas de chat costumam oferecer as primeiras imagens alteradas gratuitamente e as seguintes são cobradas através de um sistema pago no valor de US$ 0,49 (cerca de 2,79 reais) por imagem. Até 21 de agosto, uma única sala de chat contava com cerca de 220 mil usuários.

Primeiro vice-ministro Kim Jong-moon reforçou em coletiva o comprometimento do governo em combater esses crimes sexuais: “O governo continuará operando a força-tarefa dedicada à resposta aos crimes sexuais com deepfake, monitorando de perto e aprimorando medidas de acompanhamento, como o apoio às vítimas, o fortalecimento da aplicação da lei, o progresso legislativo e a alocação de orçamento para essas iniciativas”.

Novas medidas para combater deepfakes

O governo pretende adotar uma regulamentação que permite a apreensão de bens e lucros adquiridos com a distribuição de deepfakes. Para a s plataformas de chat, será imposto um prazo de 24 horas para excluir deepfakes e bloqueio preventivo de conteúdos suspeitos. Será realizado o uso de Inteligência Artificial IA como ferramenta para detectar deepfakes e monitoramento garantindo uma remoção mais ágil dos materiais explícitos. Também foi autorizado o uso de operações disfarçadas que, até o momento, só eram permitidas em casos envolvendo menores de idade.

Reforço na lei de proteção

Em 26 de setembro de 2024, a Assembleia Nacional aprovou projetos de lei com penas mais rigorosas para aqueles que produzem ou consomem conteúdos deepfakes. A pena mínima para a produção de conteúdo como vídeos aumentou de cinco para 7 anos. Os consumidores de deepfakes podem ser condenados a até três anos de prisão e receber multa de cerca de 30 milhões de won (aproximadamente 114 mil reais). Crimes sexuais online envolvendo crianças e adolescentes aumentaram de 3 para 5 anos de prisão.

• Leia mais: SM Entertaiment divulga lucros do terceiro trimestre e anuncia novo grupo feminino para 2025

Agências reagem a deepfakes contra artistas

Em comunicado aos fãs do TWICE, a JYP Entertainment anunciou: “Estamos adotando uma resposta legal robusta, sem tolerância para vídeos deepfakes, em colaboração com um escritório de advocacia especializado”. A Cube Entertainment, que conta com o grupo (G)I-DLE sob sua gestão, publicou: “Tomaremos medidas legais rigorosas, sem tolerância, contra aqueles que criam e distribuem conteúdos deepfakes”. 

A YG Entertainment informou que está monitorando os conteúdos envolvendo BLACKPINK e BABYMONSTER: “Estamos monitorando continuamente a natureza generalizada e maliciosa desta atividade ilegal, trabalhando para excluir/bloquear vídeos ilegais e tomando todas as medidas legais possíveis, incluindo processos criminais”. A Saram Entertainment, agência da atriz Park Gyu-young, prometeu proteger a atriz e tomar medidas legais contra responsáveis pela criação de deepfakes. 

Siga no Instagram

Foto Destaque: Governo coreano distribui cartazes com canal de disque denúncia para combater deepfake. Reprodução/Yonhap