O lançamento iminente da Apple Intelligence provocou o próprio momento de ‘o que é uma foto?’ da fabricante do iPhone. Em uma entrevista ao The Wall Street Journal, o chefe de software da Apple, Craig Federighi, disse que a empresa está buscando fornecer ferramentas de edição de imagem impulsionadas por IA que preservem a autenticidade das fotos.
“Nossos produtos, nossos telefones, são muito utilizados”, disse Federighi. “É importante para nós ajudar a transmitir informações precisas, não fantasias.”
O iOS 18.1 traz um novo recurso de “Limpeza” para o aplicativo Fotos que pode rapidamente remover objetos e pessoas de imagens — uma capacidade que Federighi e a repórter do WSJ, Joanna Stern, notaram ser muito mais moderada do que as ferramentas de edição oferecidas por rivais como Google e Samsung, que podem adicionar ativos gerados por IA inteiros às imagens. Apesar das capacidades limitadas do Limpeza, Federighi disse que houve “muitos debates internamente” sobre sua adição.
“Queremos facilitar a remoção daquela garrafa de água ou daquele microfone? Porque aquela garrafa de água estava lá quando você tirou a foto”, disse Federighi após uma demonstração do Limpeza sendo usado para remover itens do fundo de uma imagem. “A demanda das pessoas para querer limpar o que parecem ser detalhes extranos à foto que não mudam fundamentalmente o significado do que aconteceu tem sido muito alta, então estamos dispostos a dar esse pequeno passo.”
Federighi disse que a Apple está “preocupada” com o impacto da IA sobre como “as pessoas veem o conteúdo fotográfico como algo em que podem confiar como indicativo da realidade”. É um assunto que já discutimos frequentemente aqui no The Verge. Ferramentas de edição como o recurso Reimagine do Google tornam incrivelmente fácil para um grande número de usuários adicionar leões, bombas e até mesmo parafernália de drogas a fotos usando apenas uma descrição de texto, o que pode erodir ainda mais a confiança que as pessoas depositam na fotografia. Aplicativos de edição gerados por IA, quando usados de forma maliciosa, estão tornando mais fácil enganar ou iludir outros com falsificações cada vez mais convincentes.
A Apple Intelligence (pelo menos por enquanto) não permite que os usuários adicionem manipulações geradas por IA às imagens como fazem os serviços concorrentes. Qualquer imagem que tenha sido editada usando o novo recurso de remoção de objetos também será marcada como “Modificada com Limpeza” no aplicativo Fotos e embutida com metadados para sinalizar que foram alteradas.
A Apple não está sozinha em tomar tais precauções — a Iniciativa de Autenticidade de Conteúdo da Adobe possui um sistema de metadados semelhante chamado “Credenciais de Conteúdo”, por exemplo, que visa ajudar as pessoas a distinguir entre imagens não alteradas e falsificações de IA. Isso exige que empresas de tecnologia, câmeras e mídia o apoiem voluntariamente, mas o apoio está aumentando gradualmente. Não está claro se o próprio sistema de metadados da Apple apoiará as Credenciais de Conteúdo.