Curiosidade e exposição: quais os efeitos das trends de IA?

Victor Terra

Você já deve ter visto alguma das trends de imagens em IA que têm tomado as redes nas últimas semanas. Mas talvez não tenha pensado sobre os impactos de práticas deste tipo, que apesar de começarem como simples brincadeiras, envolvem questões ligadas à privacidade, plágio e autoria dos conteúdos. 

Vamos do início? Recentemente, milhões de usuários começaram a transformar suas fotos em animes com o estilo Ghibli, famoso estúdio japonês de animação, conhecido por obras como ‘A Viagem de Chihiro’ e ‘Meu Amigo Totoro’. O recurso foi lançado para a versão do GPT-4o, da OpenAI, e atraiu mais de um milhão de novos usuários em apenas uma hora, superando o recorde anterior de cinco dias para atingir esse número. ​

A viralização foi imediata em plataformas como X, Instagram e TikTok. Usuários começaram a compartilhar versões estilizadas de si mesmos, de parentes, pets, figuras públicas e memes populares, todos recriados com o traço autoral desenvolvido por Hayao Miyazaki, fundador e diretor do Studio Ghibli. 

De memes populares a fotos pessoais, trend foi reproduzida por grandes marcas e até instituições públicas, como a Prefeitura de Porto Velho, a Defensoria Pública de Rondônia.

Depois da trend Ghibli, apareceram outras como a dos actions figures [bonecos de ação, em tradução livre], dos Simpsons e das histórias em quadrinhos personalizadas ao estilo Turma da Mônica. E o fenômeno está longe de acabar. Isso porque não param de surgir novas ferramentas e atualizações envolvendo imagens de IA generativa, estimulando a curiosidade e a criação de ondas virais a cada semana. 

Mas será que estamos conscientes sobre os impactos deste tipo de prática no mundo real? Até aqui tudo indica que não. 

“Nunca estivemos diante de tantas facilidades geradas pela tecnologia como nos dias de hoje, mas por falta de conhecimento do potencial desses recursos, muitos indivíduos, especialmente adultos, têm sido dominados pelos encantos negativos do mundo digital. Ao invés de utilizarem essas ferramentas para possibilidades saudáveis, têm se colocado em situações de vulnerabilidade. A maneira como as pessoas se submetem a essas trends demonstra como são presas fáceis”, afirma Alessandra Borelli, advogada, especialista em segurança digital. 

Na visão da especialista, é preciso aumentar o senso crítico, o que se torna um desafio pelo ritmo acelerado dos processos. “Tudo tem acontecido tão rápido que poucas pessoas têm dedicado tempo e energia para aprender o que está por trás disso tudo e não ser tão dominado pelos encantos negativos da internet", argumenta Borelli. 

É só uma brincadeira? 

Ao criar uma nova num aplicativo ou plataforma, seja de rede social, e-mail, autocuidado ou inteligência artificial generativa, muitas vezes não nos preocupamos em ler e entender os chamados termos e condições de uso do serviço. É neste momento que o usuário autoriza que a plataforma utilize dados pessoais como arquivos enviados, imagens e áudios e técnicos, como endereço IP, tipo de navegador, sistema operacional, fuso horário, país, datas e horários de acesso, tipo de dispositivo e conexão.

Na prática, ao pedir que o ChatGPT crie uma imagem usando fotos em que você aparece com seus filhos, por exemplo, a plataforma passa a armazenar suas características faciais e biométricas, podendo utilizá-las para outras finalidades – que não necessariamente você vai saber. 

Para Marcel Costa, professor e especialista em Inteligência Artificial no campo da educação, um dos resultados dessas práticas é uma assimetria de poder entre as empresas e os usuários. “A empresa lucra com a sua imagem e seus dados e você ganha só uma figurinha legal por cinco segundos", analisa. 

E, se por um lado, as trends revelam o potencial criativo das IAs, por outro, mostram o quanto é preciso avançar na leitura crítica de conteúdos midiáticos e do mundo digital. “Por trás das brincadeiras inocentes dessas trends, existe um processamento massivo de imagens, muitas vezes sem o consentimento de quem aparece nelas, porque inclusive fazemos isso [usando imagens] de outras pessoas, o que pode ferir tanto direitos de imagem, como também a própria propriedade intelectual e a proteção de dados pessoais", explica Borelli, que é sócia do Opice Blum Advogados, escritório especializado em IA e proteção de dados. 

Autoria em jogo

Segundo os especialistas, a utilização de estilos artísticos já existentes e o compartilhamento de imagens pessoais geradas por IA ainda é um tema complexo e pouco debatido em termos éticos e legais. Eles explicam que, quando a inteligência artificial imita um estilo, como o do próprio Ghibli, não está apenas criando algo novo, mas potencialmente utilizando o trabalho de artistas que dedicaram tempo, esforço e criatividade para construir uma determinada estética. 

 “A IA pode não desenhar a Chihiro, mas desenha um boneco muito semelhante. Quando a pessoa bate o olho, ela lembra de Chihiro. E esse é um problema, porque a IA consegue pegar a essência da coisa por aproximação, passar aquela ideia sem efetivamente colocar o desenho que representa a ideia. Por exemplo, posso pedir para a IA fazer um logo do McDonald's que não é do McDonald's, mas que lembre muito. Quando bater o olho, você vai ter a sensação de estar vendo o logo do McDonald's. Isso é plágio ou não?”, observa Marcel Costa. 

Em trechos do documentário ‘Never-Ending Man: Hayao Miyazaki’, lançado em 2016, o cofundador do Studio Ghibli, que dá nome ao filme, faz duras críticas às imagens geradas por IA, classificando como um “insulto à própria vida”. Conhecido por desenhar animações meticulosamente quadro a quadro, Miyazaki reage negativamente a um vídeo de um personagem gerado usando prompts de texto. “Eu nunca desejaria incorporar essa tecnologia ao meu trabalho”, declarou no trecho que tem circulado nas redes. 

Mas afinal, a quem pertence a imagem? 

Para Borelli, o momento é de redefinição do conceito de autoria. “As ferramentas de IA são treinadas com obras de artistas reais, utilizadas muitas vezes sem autorização ou remuneração. E aí fica aquela dúvida, que tem sido discutida, não só no Brasil, mas no mundo todo: quem é o verdadeiro criador de uma obra gerada por IA?", questiona. 

A Viagem de Chihiro (2001). Studio Ghibli. Filme é uma das bases para estilo usado nas imagens da trend.

Antes, durante e depois do processo de geração de uma imagem de IA, a quem pertence o conteúdo? São pontos que confundem muita gente. “O modelo de IA, a máquina em si, são propriedades da empresa. A imagem de entrada, que é a foto original, é sua. Mas na hora que você envia, você pode ter cedido o uso [ao aceitar os termos e condições]. Por outro lado, a imagem gerada pode ser também uma coautoria entre você e a IA, se você deu instruções criativas detalhadas", explica Marcel, que é CEO da IntegralMind, especializada em engenharia e soluções educativas. 

Estagnação criativa

Apesar de chamada de inteligente, tecnologias artificiais generativas aprendem sempre a partir de dados e trabalhos feitos por pessoas. Nesse ponto, as imagens produzidas por IA têm mais a ver com uma estagnação criativa disfarçada de inovação, indica Costa. 

“Como [a IA] só faz e mostra o que já existiu em cima do que foi treinada, então vai dar sempre a sensação de que estava mostrando uma coisa nova, mas é um novo que é sempre mais do mesmo. E isso não é exatamente um trabalho criativo. A IA pode ser uma ferramenta poderosa de expressão, mas com cuidado. Sem cuidado, na verdade, ela pode apagar o humano no processo criativo", defende.

Para onde vão as imagens? 

Segundo o especialista, também há pouco entendimento sobre o destino das imagens criadas usando IA e os dados por elas gerados. “É um quadro que nos leva a um cenário de risco praticamente invisível. Estamos falando de dados biométricos. O que [plataformas] vão fazer com essas fotos?", questiona Borelli.

Considerando o direito à proteção de dados e privacidade, Alessandra Borelli explica que ao submeter fotos pessoais nessas plataformas, o usuário está entregando dados biométricos que, pela própria Lei Geral de Proteção de Dados (LGPD) são reconhecidos como sensíveis. “Padrões faciais contidos nas fotos podem ser utilizados para finalidades diversas, inclusive para treinamento de algoritmos sem o nosso conhecimento". Por isso, é preciso estar atento.  

“Se um aplicativo que não me cobrasse nada, fosse totalmente gratuito e não tivesse absolutamente nenhum tipo de ganho, eu teria bastante medo de mandar minha foto para lá, porque, certamente, eles estão ganhando dinheiro com alguma outra coisa. Se você manda uma foto do seu filho, ela fica armazenada na base da IA. Um dia, quando essa ferramenta for gerar uma nova imagem, ela vai ter a foto do seu filho como uma das milhões de referências. Haverá pedaços da imagem dele na imagem que está sendo gerada", alerta Marcel Costa. 

Portanto, mesmo que seu objetivo seja se divertir ou matar a curiosidade, é importante lembrar que, assim como qualquer tecnologia digital, o uso de IA tem impactos no mundo real que vão muito além da imagem que você publicou no seu feed.

Antes de testar imagens com IA, confira algumas recomendações: 

1. Evite utilizar fotos que envolvam crianças e menores de idade – Conteúdos deste tipo têm sido frequentemente usados para a produção de peças pornográficos, ligadas a redes de pedofilia e crimes digitais. Crianças e adolescentes são sujeitos de direitos, tanto quanto os adultos.

   
   

   “A diferença é que os direitos das crianças são deveres dos adultos, porque elas, por si só, apesar de habilidosas com as tecnologias, são desprovidas de discernimento e maturidade acerca dos riscos existentes no ambiente digital", explica Borelli.

   
   

2. Enquanto adulto, busque letramento midiático e digital – Se você não sabe, como é que ensina? Não basta que as pessoas apenas saibam da existência e compreendam os usos básicos das plataformas digitais.

   
   

   "É preciso que cada um entenda o funcionamento e avalie as implicações da utilização de determinada ferramenta na sua vida e na vida daquelas pessoas pelas quais somos responsáveis", defende Borelli.

   
   
   
   

3. Leia atentamente os termos e condições de uso da plataforma que você utilizará para criar uma imagem – Isso ajuda a saber se e a partir de que ponto seus dados estarão sob a posse da ferramenta e onde eles potencialmente podem ser usados.

   
   

   “Você deve se informar sobre o que vai acontecer com determinada foto que sobe na plataforma, porque cada empresa terá uma política diferente. Na hora em que se deparar com aquelas letrinhas que aparecem antes do “Ok” [que indica o aceite dos termos de uso], não custa entrar nas configurações e dar uma lida para saber o que eles fazem exatamente com seus dados e sua imagem", orienta Costa.  

Editado por

Raphael Kapa

Fonte/Reprodução: Agência Lupa