Em uma série de postagens no Threads esta tarde, Adam Mosseri, chefe do Instagram, afirma que os usuários não devem confiar nas imagens que veem online porque a IA está “claramente produzindo” conteúdo que é facilmente confundido com a realidade. Por causa disso, ele diz que os usuários devem considerar a fonte, e as plataformas sociais devem ajudar com isso.
“Nosso papel como plataformas da internet é rotular o conteúdo gerado por IA da melhor forma possível”, escreve Mosseri, mas ele admite que “alguns conteúdos” serão perdidos por essas etiquetas. Por causa disso, as plataformas “também devem fornecer contexto sobre quem está compartilhando” para que os usuários possam decidir quanto confiar em seu conteúdo.
Assim como é bom lembrar que chatbots vão mentir com confiança antes de você confiar em um mecanismo de busca alimentado por IA, verificar se as alegações ou imagens postadas vêm de uma conta respeitável pode ajudar você a considerar sua veracidade. No momento, as plataformas da Meta não oferecem muito do tipo de contexto sobre o qual Mosseri falou hoje, embora a empresa tenha insinuado recentemente grandes mudanças nas suas regras de conteúdo.
O que Mosseri descreve soa mais como moderação liderada pelo usuário, como as Notas da Comunidade no X e os filtros de moderação personalizados do YouTube ou Bluesky. Se a Meta planeja introduzir algo semelhante a isso não é conhecido, mas, novamente, a empresa já foi conhecida por tirar lições do livro do Bluesky.