A Apple em breve lançará uma atualização para o iOS que indicará mais claramente quando as notificações foram resumidas pelo seu software Apple Intelligence. A empresa recebeu críticas significativas sobre o recurso de resumir notificações, especialmente da BBC, que reclamou que a tecnologia de IA resumiu incorretamente suas notificações de notícias.
Em dezembro, não muito depois que a Apple lançou algumas das primeiras grandes funcionalidades do Apple Intelligence, a BBC publicou um artigo dizendo que a IA havia resumido erroneamente uma série de notificações de seu aplicativo, afirmando que Luigi Mangione, o suposto assassino do CEO da UnitedHealthcare, Brian Thompson, havia se suicidado, quando na verdade ele não havia feito isso.
A BBC disse que o erro poderia prejudicar a confiança em uma indústria de mídia que já sofre com a falta de confiança do público em geral.
Após várias semanas, a Apple finalmente respondeu à BBC, dizendo que abordaria o problema. “Uma atualização de software nas próximas semanas esclarecerá ainda mais quando o texto exibido é uma sumarização fornecida pela Apple Intelligence”, disse a empresa à BBC. “Incentivamos os usuários a relatar uma preocupação se virem um resumo de notificação inesperado.”
Uma notificação do aplicativo da BBC que inclui um resumo incorreto. Crédito: BBC
Não está claro como a Apple esclarecerá aos usuários quando uma notificação foi resumida. Como funciona hoje, o ícone oficial de um aplicativo é exibido ao lado dos resumos. Talvez quando o iOS resumir uma notificação, ele deva substituir o ícone oficial – neste caso, do aplicativo da BBC – pelo ícone da Siri, para tornar a distinção clara. Isso pode não ser suficiente, no entanto. Com que frequência um usuário novato lerá essas notificações resumidas e não entenderá o que está acontecendo?
O objetivo dos resumos de notificações é reescrever várias notificações de um aplicativo em um único alerta, para que os usuários possam rapidamente se atualizar e identificar qualquer coisa que precise de atenção. Mas além de erros flagrantes, os resumos de IA também foram alvo de zombarias por resumos às vezes estranhos ou inúteis, desprovidos do contexto necessário que ainda exigem a leitura das notificações completas para entender. Se os usuários não confiarem nos resumos e tiverem que revisar as notificações completas de qualquer maneira, não estão economizando tempo. É o mesmo problema que afetou a Siri antes: o assistente de voz falhou em consultas básicas e os usuários rapidamente perderam a fé de que poderiam contar com ele para muito mais além de iniciar um cronômetro.
A Apple foi criticada pelo seu lançamento do Apple Intelligence, com sentimentos nas redes sociais sugerindo que muitas pessoas acham que os recursos iniciais são amplamente inúteis ou prejudiciais à experiência do iOS. Em dezembro, a empresa adicionou suporte ao ChatGPT na Siri, o que significa que algumas consultas agora são encaminhadas ao chatbot da OpenAI para resposta. A Apple espera aprimorar a própria Siri com habilidades de IA conversacional, mas relatórios recentes sugerem que isso levará tempo. Ela também pretende adicionar outros recursos de IA ao iOS, incluindo a capacidade da Siri de interagir diretamente com aplicativos, permitindo que os usuários, por exemplo, peçam ao assistente para encontrar uma reserva de jantar em seu e-mail.
O motivo para a Apple lançar o Apple Intelligence é claramente a necessidade de impulsionar as atualizações do iPhone; o smartphone representa mais da metade da receita da Apple, e o Apple Intelligence está disponível apenas no iPhone 15 Pro e acima. Mas a maioria dos recursos lançados até agora tem sido decepcionante – como a capacidade de identificar objetos do mundo real apontando a câmera para eles – e pesquisas recentes sugerem que os consumidores não estão comprando novos iPhones para obtê-los.
Não deve ser surpresa para ninguém que interagiu com IA generativa que esses problemas iriam ocorrer. Mas parece pouco característico da Apple incorporar tecnologia em seus produtos como IA generativa, que é notoriamente difícil de controlar e propensa a alucinações ou a produzir resultados que estão completamente errados. Para uma empresa que se preocupa tanto com o polimento, isso é uma bagunça até agora.