O Papanine Sysha, Deo Deo
As soluções de IA em assistência médica abrangem vários domínios, incluindo tecnologias de suporte de diagnóstico, sistemas de apoio à decisão clínica e grandes modelos de idiomas (LLM) para interação do paciente. As soluções de IA atuais se concentram predominantemente no desenvolvimento de algoritmos e modelos em configurações controladas com o objetivo de otimizar a precisão técnica. Embora muitas ferramentas de IA já estejam disponíveis, o impacto desejado nos resultados de saúde no nível do paciente nas configurações de implementação do mundo real ainda não foi alcançado.
Essa lacuna surge principalmente devido à falta de clareza na dimensão específica do problema que a solução de IA pretende resolver; para quem a solução agrega valor; e com qual mecanismo está modificando o processo de prestação de cuidados. Além disso, a IA é percebida como uma ferramenta orientada a tarefas, geralmente avaliada em isolamento (ou seja, classificação de uma doença de pele). Essa percepção ignora o fato de que as soluções de IA interagem com um ecossistema inteiro de valores humanos, processos institucionais e cultura organizacional. Mover esse ecossistema na direção desejada de valor e utilidade coloca desafios complexos.
Por exemplo, um estudo recente de dois estados que introduzia a interpretação de raios X de Tesma de IA para os provedores de Ayush e informais-quem é o primeiro ponto de contato para uma grande maioria dos pacientes-revelou barreiras substanciais de adoção. O estudo constatou que os fornecedores que estavam menos confiantes em sua capacidade de diagnosticar a tuberculose (TB) eram menos propensos a experimentar a IA. A disposição de integrar a IA também variou significativamente entre Gujarat e Jharkhand, correlacionando -se de maneira diferente com a confiança nas redes de radiologistas locais devido às infraestruturas de saúde e ecossistemas de tecnologia muito diferentes dos estados.
A alocação de recursos humanos limitados é outro domínio crítico no qual as soluções de IA estão sendo exploradas no contexto indiano. Embora a estratificação de risco algorítmico ofereça ganhos potenciais de eficiência, ela geralmente deve competir com os valores do julgamento humano. A pesquisa atual está investigando como os profissionais de saúde da linha de frente navegam nas previsões algorítmicas de risco contra suas próprias heurísticas de gerenciar o risco de paciente; Quando e como os trabalhadores se desviam das recomendações de modelos; E como a adaptação dos fluxos de trabalho é reconciliada com as métricas de desempenho que os trabalhadores devem alcançar dentro da hierarquia organizacional. Outra preocupação importante emergente desses estudos é que a redistribuição de um número fixo de profissionais de saúde para pacientes de “alto risco” pode comprometer inadvertidamente os cuidados com pacientes de “baixo risco”. Nesses casos, a alocação de recursos orientada pela IA pode simplesmente deslocar os recursos de saúde, em vez de diferenciar e melhorar significativamente e melhorar a prestação geral de cuidados.
Um campo mais nascente, mas rápido, de soluções de IA, é o uso de chatbots de modelo de grande idioma (LLM) como ferramentas de apoio à saúde mental. Essas ferramentas combatem o estigma associado à divulgação dos sintomas e aos desafios do acesso a profissionais qualificados de saúde mental. A avaliação dos resultados da saúde foi limitada devido à complexidade do ecossistema psicoterapêutico de uma interação ai-humana. Esse domínio requer novos benchmarks para modelos, incluindo avaliações de empatia cognitiva, alinhamento de valor e capacidade de navegar diferentes níveis de abstrações psicológicas expressas pelo usuário individual. Esses exemplos ilustram a complexidade das soluções de IA que afetam os resultados de saúde em suas trajetórias pós-implantação. Estruturas de avaliação que vão além das métricas computacionais convencionais são necessárias. Central para esse esforço é uma integração de abordagens científicas cognitivas, comportamentais e de implementação para desenvolver uma agenda de pesquisa mais imaginativa. O custo de escalar soluções de IA sem tais estruturas de avaliação não deve ser considerado como garantido. Qualquer impacto adverso das soluções de IA mal projetado não pode ser facilmente desaprendido ou desfeito e provavelmente permanecerá um artefato permanente do sistema de saúde.
Sirisha Papineni, consultora de pesquisa, Max Institute of Healthcare Management (MIHM), ISB.
Sarang Deo, Professor de Gerenciamento de Operações, Vice -Dean – Faculdade e Pesquisa, Diretor Executivo – MAX Institute of Healthcare Management (MIHM), ISB.
Isenção de responsabilidade – O conteúdo acima é não editorial, e o ET Healthworld, por este meio, se isenta de toda e qualquer garantia, expressa ou implícita, relacionada a ele, e não garante, atestará ou necessariamente endossa qualquer conteúdo.
