Jul, 134 min de leitura
Produtos de AI
News · OpenAI e a Penda Health testam copiloto de alertas em 40 000 consultas clínicas em Nairobi
Jul, 84 min de leitura
Produtos de AIOpenAI e a Penda Health testam copiloto de alertas em 40 000 consultas clínicas em Nairobi
Uma rede de segurança em segundo plano baseada em LLM reduziu erros documentados de diagnóstico e tratamento — mas o estudo mostra que o trabalho de implementação pesou tanto quanto o modelo.
Uma camada de alerta, não um agente autónomo
A Penda Health criou o AI Consult como um copiloto que corre em segundo plano no sistema de registos clínicos electrónicos já utilizado pelos seus clínicos. Enquanto um clínico documenta uma consulta, notas anonimizadas são enviadas à API da OpenAI em pontos-chave, e o sistema devolve um de três sinais: um visto verde para ausência de preocupação, um sino amarelo que o clínico pode optar por abrir, e um alerta vermelho que tem obrigatoriamente de ver antes de continuar.
A escolha de design que vale a pena destacar é o que o sistema não faz. Identifica potenciais erros para verificação humana, sem tomar qualquer acção sobre um registo. O exemplo prático apresentado no anúncio é concreto: um hemograma completo revelando anemia microcítica (HGB 9,90, MCV 58,30) com um diagnóstico apenas de tonsilite bacteriana. O AI Consult sinalizou a anemia não tratada, e o clínico adicionou anemia por deficiência de ferro aos diagnósticos.
O modelo por detrás disto foi o GPT-4o, de Agosto de 2024. A OpenAI é explícita ao afirmar que a capacidade do modelo não foi o factor limitante — um enquadramento notável, tendo em conta que os prompts também foram adaptados ao contexto epidemiológico do Quénia, às orientações clínicas locais e aos procedimentos-padrão da própria Penda.
A taxa de 'deixado em vermelho' é a verdadeira história
Ao longo de 39 849 consultas, divididas entre clínicos com e sem a ferramenta, os médicos revisores constataram que o grupo com AI teve 16% menos erros de diagnóstico e 13% menos erros de tratamento, com os erros na recolha de história clínica a caírem 32%. Os efeitos foram maiores nas consultas que teriam desencadeado um alerta vermelho: 31% menos erros de diagnóstico, 18% menos erros de tratamento.
Mas uma versão anterior do copiloto, que exigia que os clínicos pedissem activamente uma segunda opinião, teve uma adopção limitada por interromper a interacção com o paciente. E mesmo a versão redesenhada teve, inicialmente, um desempenho abaixo do esperado. A Penda acompanhou uma métrica a que chama taxa de 'deixado em vermelho' — a proporção de consultas com alertas vermelhos não resolvidos. Durante o período de indução, essa taxa situava-se entre 35% e 40% em ambos os grupos, o que significa que os clínicos com a ferramenta estavam frequentemente a ignorar por completo os alertas vermelhos.
Esse número só desceu para 20% depois de a Penda investir numa implementação activa: campeões de pares a explicar a ferramenta, coaching personalizado orientado por dados de utilização, e reconhecimento para as clínicas que a utilizavam bem. A tecnologia manteve-se constante em ambos os períodos. O que mudou foi o programa humano à sua volta.
O que os dados de resultados mostram — e o que não mostram
As reduções de erros são avaliadas através da revisão da documentação por médicos. Quando a Penda analisou os próprios pacientes — através de chamadas de acompanhamento ao oitavo dia, perguntando se se sentiam melhor — a diferença foi de 3,8% sem melhoria no grupo com AI, contra 4,3% sem, o que o anúncio refere não ser estatisticamente significativo. As taxas de procura de cuidados noutro local foram também semelhantes.
A OpenAI é cautelosa aqui, evitando exagerar. Dos 12 relatórios de segurança do paciente (7 no grupo com AI, 5 sem), nenhum envolveu dano causado por recomendações do AI Consult. A Penda está agora a realizar um ensaio controlado e randomizado separado, em parceria com a PATH, especificamente para medir resultados nos pacientes — um reconhecimento implícito de que menos erros documentados é um indicador indirecto, não prova de melhores resultados de saúde.
Um resultado secundário contraria a ideia de que os clínicos se tornam dependentes: os alertas vermelhos desencadeados caíram de 45% das consultas no início do estudo para 35% no final, sugerindo que os clínicos começaram a evitar erros comuns antes mesmo de a ferramenta os sinalizar.
A implicação: o fosso entre modelo e implementação é agora um problema operacional
A conclusão mais clara do trabalho da Penda é que um modelo de fronteira competente foi necessário, mas longe de ser suficiente. O fosso que a OpenAI nomeia — entre o que os modelos conseguem fazer e a forma como são usados — foi aqui fechado através da integração no fluxo de trabalho, da adaptação local dos prompts, das aprovações éticas de quatro entidades quenianas, e de um esforço sustentado de coaching que reduziu a taxa de 'deixado em vermelho' a metade.
Para equipas que implementam copilotos clínicos ou de elevado risco, a lição reproduzível não é o valor de 16%. É que medir com que frequência as pessoas agem sobre os alertas, e depois investir na gestão da mudança necessária para aumentar esse número, é onde o benefício observado realmente teve origem. Uma ferramenta que dispara alertas vermelhos que ninguém segue produz os mesmos resultados do que nenhuma ferramenta.
A Penda descreve o AI Consult como um arquétipo inicial, e não uma forma final, apontando para documentação centrada na voz e acções de agente confirmadas no registo. Essas são melhorias do lado do modelo. Este estudo sugere que o trabalho mais difícil e menos glamoroso continuará a estar do lado da implementação.
Find this story relevant to you?
Contact us to find a unique solution
Precisa de um parceiro de engenharia de IA que saiba executar?
Ajudamos equipas em Portugal a integrar IA em produtos, automatizar processos de alto valor e modernizar os sistemas que suportam o negocio.
Leitura relacionada
Mais análises sobre entrega de produto, AI operacional e o trabalho de sistemas que faz com que a implementação funcione na prática.