Bases de pesquisa acadêmica
0 gostou25 visualizações
O documento discute a evolução e uso de deepfakes, especialmente em eleições e contextos de guerra, e iniciativas para lidar com os riscos que deepfakes apresentam à integridade democrática e jornalística. Não há solução única e nem todo uso de deepfake é negativo, sendo importante educação midiática e leis que proíbam manipulações capazes de influenciar eleitores.
Bases de pesquisa acadêmica
- 1. Aplicação e implicações da IA nas eleições e na disseminação de informações, com a finalidade de debater sobre os desafios e os riscos que a IA apresenta à integridade jornalística e democrática Diretora de Projeto - ITS Rio celina@itsrio.org
- 2. "In the future, people should no longer believe images and videos on the internet as a matter of course".
- 3. 1. Evolução do uso de deepfakes 2. Uso de deepfakes em contexto de guerra e eleição 3. Iniciativas para lidar com esse desafio
- 5. 2015 - tecnologia ainda estava sendo aprimorada. Ainda não era possível criar imagens realistas. Alteração era facilmente identificada. 2015
- 6. 2016 - Já era possível manipular imagem colocando óculos, por exemplo. 2016
- 7. 2017 - Nvidia - Salto de qualidade. Começava com imagem com resolução baixa e gradativamente a resolução vai melhorando. 2017
- 8. Tecnologia usada não só usando rostos, mas também objetos.
- 10. 2019 - Deepfakes começaram a ser usados em sites de pornografia. Canais de youtube especializados em deepfakes
- 11. Usos de Deepfakes no contexto eleitoral e de guerra
- 12. Em 2018, o comediante Jordan Peele criou um vídeo no qual o Barack Obama insultava o então candidato Donald Trump.
- 13. -
- 14. - No inicio da guerra entre Ucrânia e Rússia surgiu um video do presidente Selensky pedindo para o povo se entregar e baixar as armas.
- 15. O que fazer?
- 16. Iniciativas legislativas para enfrentar o problema: EUA: - California e Texas aprovaram leis proibindo o uso de deepfakes em contexto eleitoral. - "DeepFake Accountability Act": Projeto de Lei Federal que criminaliza a produção de deepfakes que não tenha um identificador/marca d'água indicando que o conteúdo foi gerado artificialmente e de quem tenta retirar essa identificação. China: - Lei contra Deepfake - todo conteúdo gerado artificialmente tem que ser rotulado com tal, deve haver o consentimento da pessoa antes de ter sua imagem ou voz alterada além de medidas de informar ao governo sobre a criação de deepfakes. - Governo criou uma lista de 41 empresas que estariam de acordo com os requisitos da nova legislação. Canada: - Prevenção: campanha de conscientização. - Detecção: Governo está investindo em tecnologia para aperfeiçoar formas de identificar deepfake. - Resposta: Legislação para criminalizar a produção de deepfake com intenção de causar confusão e dano.
- 17. União Europeia: - DSA - medidas para lidar com deepfakes - multa de 6% - AI Act - art 52 -3 - obrigação de informar que conteúdo foi artificialmente gerado. Coréia do Sul: - Torna ilegal a distribuição de deepfakes com intuito de "causar dano ao interesse público". Brasil - PL 1002/2023 - altera lei eleitoral para criminalizar deepfake - Art. 57-H. ...................................... § 3º Constitui crime criar, utilizar e propagar deep fake no período das eleições visando manipular informações para prejudicar o senso de realidade dos eleitores com o intuito de desconstruir reputações políticas, punível com detenção de 2 (dois) a 4 (quatro) anos e multa de R$ 15.000,00 (quinze mil reais) a R$ 50.000,00 (cinquenta mil reais). I - Para fins desta Lei considera-se deep fake a criação de vídeos a partir de inteligência artificial que reproduzem a aparência, as expressões e a voz de algum candidato.” - PL 2338/22 - Art. 7º - obrigações de transparência
- 18. Outras Iniciativas: Taiwan: - Criando um 'nerd immunity' - treinando centenas de checadores de fato e treinando as pessoas para identificarem conteúdo que foi gerado artificialmente. Japão: - "Perfil Originador" (Originator profile) - Consórcio entre universidades e empresas de mída para fornecer informações sobre criadores de conteúdo da web, operadores de sites, anunciantes, apontando a origem e credibilidade da fonte.
- 19. Outras Iniciativas da Indústria: Content Authenticity Initiative - Plataforma criada pela indústria para garantir a originalidade do conteúdo produzido. Sistema que detecta a proveniência de conteúdo digital por meio de desenvolvimento de código aberto, colaboração entre setores e interoperabilidade de ferramentas. Facebook, Youtube - Baniram o uso de deepfakes em suas plataformas desde que não sejam claramente identificadas. Exceção para paródias/humor. Intel - Fake Catcher - Primeiro detector de deepfake em tempo real do mundo e com taxa de precisão de 96%.
- 20. Lembrando que nem todo uso de deepfake é negativo…
- 21. Ajuda os pacientes que perderam a habilidade de falar e clonando a voz, eles conseguem "voltar a falar" Imagens criadas artificialmente de sobreviventes do holocausto para contar suas memórias.
- 22. Aumentando empatia em relação a vítimas de desastres.
- 23. Resumindo… - Não tem solução única - Nem todo uso de Deepfake é negativo - Lei proibindo o uso não resolve, tecnologia evolui e criam métodos para remoção de identificadores. - Lei eleitoral no Brasil já proíbe "fatos sabidamente inverídicos em relação a partidos políticos ou a candidatos, capazes de exercer influência perante o eleitorado." - Campanha de educação midiática, ensinando olhar crítico sobre conteúdo online.
- 25. ITS Rio www.itsrio.org Celina Bottino celina@itsrio.org contato@itsrio.org Agradeço pela atenção! Até a próxima, @itsriodejaneiro