CGI.br Sugere Proibição de Deepfakes Sexuais no Marco Regulatório da Inteligência Artificial
O Comitê Gestor da Internet no Brasil (CGI.br) apresentou uma nota técnica com recomendações ao Projeto de Lei nº 2.338/2023, que estabelece o Marco Regulatório da Inteligência Artificial no país. Entre as sugestões, destaca-se a inclusão da proibição de deepfakes sexuais, uma questão que vem ganhando crescente atenção devido ao seu potencial para causar danos significativos.
Análise do Projeto de Lei
O documento elaborado pelo CGI.br avalia diversos aspectos do projeto atualmente em tramitação no Congresso. Um ponto focal da análise é o artigo 13, que já prevê a proibição de sistemas de IA que facilitem a produção ou disseminação de material envolvendo abuso ou exploração sexual de crianças e adolescentes. Contudo, a nota ressalta que a legislação carece de uma abordagem específica sobre a criação de conteúdos sintéticos de natureza sexual que não tenham o consentimento dos adultos envolvidos.
Impacto dos Deepfakes Sexuais
A nota técnica sublinha que as mulheres são as principais vítimas de deepfakes sexuais, com mais de 90% dos casos envolvendo esse público, conforme o estudo intitulado 'Deepfake Abuse: Landscape Analysis'. Essa realidade alarmante reforça a necessidade de uma regulamentação mais robusta para proteger os indivíduos contra essa forma de violência online.
Propostas de Inclusão
Em resposta à gravidade do problema, o CGI.br sugere a ampliação do escopo das aplicações proibidas no projeto de lei. A proposta inclui um novo item no artigo 13, que visa vedar sistemas de inteligência artificial que possibilitem a produção ou disseminação de material que represente nudez ou conteúdo sexual sem o consentimento expresso das pessoas retratadas. Essa mudança busca não apenas proteger as mulheres, mas também qualquer grupo suscetível a esse tipo de violência.
Outras Recomendações
Além da proposta de proibição dos deepfakes sexuais, o CGI.br apresentou outras sugestões significativas para o aprimoramento do projeto. Entre elas, está a possibilidade de exceções para o uso de identificação biométrica à distância, desde que regulamentadas por legislação específica. O comitê também recomenda a proibição do policiamento preditivo baseado em perfis, a classificação de sistemas de pontuação de crédito como de alto risco e a exclusão de um artigo que poderia restringir a regulamentação de sistemas de IA que afetam a liberdade de expressão.
Considerações Finais
As recomendações do CGI.br refletem uma preocupação crescente com a ética no uso da inteligência artificial e a proteção dos direitos individuais. Ao incluir a proibição de deepfakes sexuais e aprimorar a regulamentação de outras práticas de IA, o comitê busca garantir um ambiente digital mais seguro e respeitador, enfatizando a necessidade de um marco regulatório que responda às complexidades e desafios da era digital.
