Não há como colocar o gênio de volta na garrafa quando se trata de IA generativa abalando para sempre nossa confiança em fotos, mas a indústria de tecnologia tem a responsabilidade de pelo menos ser o mais transparente possível quando essas ferramentas são usadas.
Para esse fim, o Google anunciou que, a partir da próxima semana, o Google Fotos indicará quando uma imagem foi editada com a ajuda da IA.
“Fotos editadas com ferramentas como Magic Editor, Magic Eraser e Zoom Enhance já incluem metadados baseados em padrões técnicos do Conselho Internacional de Telecomunicações da Imprensa (IPTC) para indicar que foram editadas usando IA generativa”, escreveu John Fisher, diretor de engenharia do Google Fotos, em um post no blog. “Agora estamos dando um passo adiante, tornando essa informação visível ao lado de informações como nome do arquivo, localização e status de backup no aplicativo Fotos.”
Isso é certamente melhor do que não ter nenhuma indicação de IA.
A seção “informações de IA” será encontrada na visualização de detalhes da imagem a partir da próxima semana, tanto no Google Fotos na web quanto no aplicativo.
Esses rótulos não serão limitados estritamente à IA generativa, também será especificado quando uma “foto” contém elementos de várias imagens diferentes — como quando as pessoas usam os recursos Best Take e Add Me do Pixel. Isso é encorajador de se ver.
“Esse trabalho ainda não está concluído, e continuaremos coletando feedback e avaliando soluções adicionais para adicionar mais transparência em torno das edições de IA”, escreveu Fisher.
Até agora, os metadados anexados às ferramentas de IA do Google eram praticamente invisíveis para os usuários finais. A falta de um rótulo óbvio de que isso foi feito com IA no Google Fotos era uma preocupação minha quando causei um pouco de caos com a ferramenta Reimagine do Magic Editor, que permite adicionar objetos gerados por IA a uma imagem que nunca estiveram presentes na cena original. O Google e a Samsung permitem que você faça isso com suas respectivas ferramentas de IA. Mas a Apple, que lançará seus primeiros recursos de geração de imagens com o iOS 18.2, disse que está evitando muito deliberadamente conteúdo fotorealista. Craig Federighi, da Apple, disse que a empresa ficou “preocupada” com a IA lançando dúvidas sobre as fotos serem “indicativas da realidade”.
Como já cobrimos repetidamente neste ponto, retocar fotos não é nada novo. Mas a onda atual de ferramentas de IA generativa torna possível criar falsificações convincentes com muito pouco esforço ou habilidade.