O Google lançou silenciosamente um aplicativo que permite baixar e executar modelos de IA localmente

Na semana passada, o Google lançou silenciosamente um aplicativo que permite aos usuários executar uma variedade de modelos de IA disponíveis publicamente da plataforma de desenvolvimento de IA Hugging Face em seus telefones.

Chamado de Google AI Edge Gallery, o aplicativo está disponível para Android e em breve chegará ao iOS. Ele permite que os usuários encontrem, baixem e executem modelos compatíveis que geram imagens, respondem perguntas, escrevem e editam código, entre outros. Os modelos funcionam offline, sem precisar de uma conexão com a internet, utilizando os processadores dos telefones suportados.

Os modelos de IA que rodam na nuvem costumam ser mais poderosos do que seus equivalentes locais, mas também têm suas desvantagens. Alguns usuários podem hesitar em enviar dados pessoais ou sensíveis para um centro de dados remoto, ou preferem ter modelos disponíveis sem precisar encontrar uma conexão Wi-Fi ou celular.

O Google AI Edge Gallery, que o Google está chamando de “lançamento experimental Alpha”, pode ser baixado do GitHub seguindo estas instruções. A tela inicial mostra atalhos para tarefas e capacidades de IA, como “Perguntar Imagem” e “Chat de IA”. Tocar em uma capacidade exibe uma lista de modelos adequados para a tarefa, como o Gemma 3n do Google.

O Google AI Edge Gallery também fornece um “Laboratório de Prompt” que os usuários podem utilizar para iniciar tarefas de “turno único” impulsionadas por modelos, como resumir e reescrever texto. O Laboratório de Prompt vem com vários modelos de tarefa e configurações configuráveis para ajustar o comportamento dos modelos.

Seu desempenho pode variar, alerta o Google. Dispositivos modernos com hardware mais poderoso, previsivelmente, executarão modelos mais rapidamente, mas o tamanho do modelo também importa. Modelos maiores levarão mais tempo para completar uma tarefa – por exemplo, responder a uma pergunta sobre uma imagem – do que modelos menores.

O Google está convidando membros da comunidade de desenvolvedores a dar feedback sobre a experiência do Google AI Edge Gallery. O aplicativo está sob uma licença Apache 2.0, o que significa que pode ser usado na maioria dos contextos – comerciais ou não – sem restrições.

Fonte

Compartilhe esse conteúdo: