A inteligência artificial generativa encontrou mais um lar no governo federal. Na terça-feira, a U.S. Food and Drug Administration anunciou o lançamento antecipado de sua própria IA generativa que espera melhorar a eficiência.
A ferramenta da FDA—apelidada de Elsa—é projetada para ajudar os funcionários com tudo, desde revisões científicas até operações básicas. Originalmente, a FDA planejava lançar até 30 de junho, então Elsa está bem à frente do cronograma e abaixo do orçamento, de acordo com uma declaração da FDA.
Não está claro quais informações exatas Elsa foi treinada, mas a FDA afirma que não usou nenhum “dado submetido pela indústria regulada” para proteger pesquisas e informações sensíveis. Atualmente, Elsa armazena suas informações no GovCloud, um produto da Amazon Web Services especificamente destinado a informações classificadas.
Como um modelo de linguagem, Elsa pode ajudar os funcionários com leitura, escrita e resumo. Além disso, a FDA disse que pode resumir eventos adversos, gerar código para aplicações não clínicas e mais. Segundo a agência, Elsa já está sendo usada para “acelerar revisões de protocolos clínicos, encurtar o tempo necessário para avaliações científicas e identificar alvos de inspeção de alta prioridade.”
Em um comunicado de imprensa de maio anunciando a conclusão da primeira revisão científica assistida por IA da FDA, Makary disse que ficou “impressionado” com as capacidades de Elsa, que “detêm uma promessa tremenda em acelerar o tempo de revisão para novas terapias”. Ele acrescentou: “Precisamos valorizar o tempo de nossos cientistas e reduzir a quantidade de trabalho não produtivo que historicamente consumiu grande parte do processo de revisão.”
De acordo com um cientista, Jinzhong Liu, a IA generativa da FDA completou tarefas em minutos que, de outra forma, levariam vários dias. Na anúncio de terça-feira, o Diretor de IA da FDA, Jeremy Walsh, disse: “Hoje marca o início da era da IA na FDA com o lançamento de Elsa, a IA não é mais uma promessa distante, mas uma força dinâmica que aprimora e otimiza o desempenho e o potencial de cada funcionário.”
A IA generativa pode certamente ser uma ferramenta útil, mas toda ferramenta tem suas desvantagens. Com a IA especificamente, houve um aumento nas histórias sobre alucinações que são afirmações e declarações completamente falsas ou enganosas. Embora comumente associadas a chatbots como o ChatGPT, alucinações ainda podem surgir em modelos de IA federais, onde podem causar ainda mais caos.
De acordo com IT Veterans, as alucinações de IA geralmente decorrem de fatores como preconceitos nos dados de treinamento ou a falta de salvaguardas de verificação de fatos incorporadas ao próprio modelo. Mesmo com essas salvaguardas, no entanto, IT Veterans alerta que a supervisão humana é “essencial para mitigar os riscos e garantir a confiabilidade dos fluxos de dados federais integrados com IA”.
Idealmente, a FDA considerou cuidadosamente e tomou medidas para prevenir quaisquer problemas com o uso de Elsa. Mas a expansão de uma tecnologia que realmente precisa de supervisão humana é sempre preocupante quando agências federais estão em meio a demissões em massa. No início de abril, a FDA demitiu 3.500 funcionários, incluindo cientistas e pessoal de inspeção (embora algumas demissões tenham sido posteriormente revertidas).
O tempo revelará como Elsa acaba se saindo. Mas, eventualmente, a FDA planeja expandir seu uso em toda a agência à medida que amadurece. Isso inclui processamento de dados e funções de IA generativa para “apoiar ainda mais a missão da FDA.”