Enquanto isso, os funcionários da FDA que conversaram com o Stat News chamaram a ferramenta de “apressados” e disseram que suas capacidades foram infladas por funcionários, incluindo Makary e os do Departamento de Eficiência do Governo (DOGE), que foi chefiado pelo controverso bilionário Elon Musk. Em sua forma atual, ele deve ser usado apenas para tarefas administrativas, não para as científicas, disseram os funcionários.
“Makary e Doge acham que a IA pode substituir a equipe e reduzir os tempos de revisão, mas decididamente não pode”, disse um funcionário. O funcionário também disse que o FDA não conseguiu configurar o Guardrails para o uso das ferramentas. “Não tenho certeza na pressa de divulgar que alguém está pensando em políticas e uso”, disse o funcionário da FDA.
Segundo STAT, Elsa é baseado no Claude LLM da Anthropic e está sendo desenvolvido pela consultoria da empresa Deloitte. Desde 2020, a Deloitte recebeu US $ 13,8 milhões para desenvolver o banco de dados original de documentos da FDA de que os dados de treinamento da ELSA são derivados. Em abril, a empresa recebeu um contrato de US $ 14,7 milhões para escalar a tecnologia em toda a agência. O FDA disse que a ELSA foi construída em um ambiente GovCloud de alta segurança e oferece uma “plataforma segura para os funcionários da FDA acessarem documentos internos, garantindo que todas as informações permaneçam dentro da agência”.
Anteriormente, cada centro dentro do FDA estava trabalhando em seu próprio piloto de IA. No entanto, após o corte de custos em maio, o piloto de IA originalmente desenvolvido pelo Centro de Avaliação e Pesquisa de Medicamentos da FDA, chamado CDER-GPT, foi selecionado para ser escalado para uma versão em todo o FDA e renomeado como ELSA.
Os funcionários da FDA no Centro de Dispositivos e Saúde Radiológica disseram à NBC News que seu piloto de IA, CDRH-GPT, está buggy, não está conectado à Internet ou ao sistema interno da FDA e tem problemas para fazer upload de documentos e permitir que os usuários enviem perguntas.