Notice: Test mode is enabled. While in test mode no live donations are processed.
A inteligência artificial está a entrar em hospitais, clínicas e programas de saúde pública mais rapidamente do que muitas organizações conseguem criar políticas, competências e sistemas de supervisão capazes de a gerir de forma responsável.
A Digital Medicine Society, amplamente conhecida como DiMe, está a tentar colmatar esta lacuna. Conforme noticiado pela [Healthcare IT News] a DiMe lançou uma iniciativa multissetorial destinada a desenvolver ferramentas práticas que os sistemas de saúde possam utilizar para avaliar, governar, monitorizar e integrar a inteligência artificial.
O anúncio é importante porque o setor da saúde não tem falta de princípios sobre IA. Governos, organizações internacionais, empresas e entidades profissionais já produziram inúmeros quadros éticos. O que muitas organizações de saúde ainda não possuem são processos utilizáveis: listas de verificação para aquisições, modelos de avaliação de risco, painéis de monitorização, estruturas de responsabilização e procedimentos claros para responder quando um sistema de IA apresenta um desempenho insatisfatório.
A nova iniciativa da DiMe pretende transferir a governação da IA na saúde dos documentos de política para os fluxos de trabalho clínicos e operacionais do dia a dia.
A iniciativa, designada Operationalizing AI Governance in Healthcare, está a ser desenvolvida através da Connected Health Collaborative Community da DiMe.
De acordo com a [página oficial da iniciativa da DiMe] as organizações participantes irão trabalhar através de ciclos intensivos de desenvolvimento para criar um conjunto de ferramentas de código aberto, incluindo modelos, grelhas de avaliação, painéis e fluxos de trabalho.
Estes recursos destinam-se a ajudar as organizações de saúde a responder a questões práticas como:
A Qualified Health patrocina a iniciativa, enquanto cerca de 30 organizações dos setores da saúde, tecnologia, regulação e profissões especializadas estão a contribuir com conhecimentos técnicos. Entre os participantes identificados na cobertura do lançamento encontram-se a Food and Drug Administration dos Estados Unidos, a American Psychological Association, a Intel, a Mass General Brigham, a Stanford Health, a UPMC, a Children’s Nebraska, a Ferrum Health, a Credo AI, o National Health Council e a Consumer Technology Association.
A DiMe afirmou que os parceiros serão participantes ativos, em vez de organizações convidadas apenas para rever um produto já concluído. Os primeiros recursos deverão ficar disponíveis no prazo de dois meses após o anúncio de julho de 2026, estando o conjunto completo previsto para o final de 2026.
A DiMe ainda não publicou o conjunto completo de ferramentas, mas o seu foco anunciado em modelos, grelhas de avaliação, painéis e fluxos de trabalho aponta para várias capacidades essenciais.
Um sistema de saúde não pode governar ferramentas de IA cuja utilização desconhece. As organizações precisam de manter um inventário central de sistemas de apoio à decisão clínica, ferramentas de diagnóstico, chatbots, assistentes de documentação, algoritmos de agendamento, sistemas de deteção de fraude e funcionalidades de IA integradas em software já existente.
Cada sistema deve depois ser classificado de acordo com o seu impacto potencial. Uma ferramenta administrativa que organiza notas de reuniões não deve ser governada exatamente da mesma forma que um algoritmo que influencia referenciações oncológicas ou triagem de emergência.
As equipas de contratação e aquisição devem exigir aos fornecedores informação sobre a finalidade prevista do sistema, dados de treino, métodos de validação, limitações conhecidas, processos de atualização, proteções de cibersegurança e desempenho em diferentes grupos populacionais relevantes.
Isto é especialmente importante para ferramentas importadas para sistemas de saúde africanos. Um modelo treinado sobretudo com dados da América do Norte ou da Europa pode apresentar um desempenho diferente quando mudam a prevalência das doenças, a prática clínica, os equipamentos, a língua ou as características dos doentes.
O desempenho de um modelo de IA no momento do lançamento não garante que esse desempenho se mantenha.
A prática clínica pode mudar. As populações de doentes podem evoluir. As integrações de software podem ser atualizadas. Novos equipamentos podem produzir dados diferentes. Estas alterações podem provocar uma degradação gradual do modelo, fazendo com que um sistema de IA se torne menos preciso ou menos fiável ao longo do tempo.
A governação operacional exige, por isso, painéis que monitorizem continuamente a precisão, as taxas de falsos positivos e falsos negativos, as interrupções do fluxo de trabalho, o desempenho por subgrupos e os incidentes comunicados pelos utilizadores.
As organizações não governamentais e os doadores financiam frequentemente projetos-piloto de IA, mas podem prestar menos atenção à infraestrutura de governação necessária depois de o piloto terminar.
Os acordos de financiamento devem incluir recursos para:
Os financiadores devem também apoiar investigação liderada por instituições africanas sobre o desempenho, os enviesamentos e a implementação da IA. As provas produzidas em hospitais com muitos recursos não podem ser automaticamente consideradas aplicáveis a clínicas rurais, contextos humanitários ou programas de saúde comunitária.
A governação deve, por isso, ser tratada como parte da implementação, e não como um custo administrativo acrescentado depois de a tecnologia ter sido selecionada.
As empresas tecnológicas têm um papel importante na viabilização da governação.
Os fornecedores devem disponibilizar provas claras sobre a utilização prevista, os dados de treino, as populações de validação, os grupos excluídos, as limitações de desempenho, as atualizações do modelo e os modos de falha conhecidos. Os compradores devem também ser informados quando modelos de terceiros são integrados num produto.
Os fornecedores comerciais devem tornar tecnicamente possível a monitorização do desempenho, a exportação de registos de auditoria e a investigação de incidentes. Um sistema que não pode ser avaliado de forma independente cria dependência de longo prazo em relação ao fornecedor.
A eficácia do conjunto de ferramentas da DiMe dependerá da sua capacidade de ser testado em diferentes tipos de organizações de saúde.
Entre as prioridades de investigação mais importantes estão a avaliação de se estas ferramentas reduzem erros de aquisição, melhoram a deteção de incidentes, reforçam a confiança dos doentes e ajudam as organizações a descontinuar sistemas inseguros ou ineficazes.
Os investigadores devem também analisar se os requisitos de governação prejudicam involuntariamente os inovadores de menor dimensão. Processos de conformidade demasiado complexos podem favorecer grandes fornecedores com capacidade para contratar equipas jurídicas extensas, excluindo simultaneamente soluções desenvolvidas localmente.
O objetivo não deve ser uma governação fraca. Deve ser uma governação proporcional: requisitos que se tornam mais rigorosos à medida que aumenta o risco potencial para os doentes.
O financiamento deve apoiar infraestruturas abertas e reutilizáveis, incluindo modelos de documentação, ambientes partilhados de teste, conjuntos de dados de avaliação em línguas africanas e sistemas independentes de monitorização.
Os sistemas de saúde não precisam de esperar pelo conjunto completo de ferramentas da DiMe para começar a agir. Uma primeira fase prática pode ser iniciada respondendo a cinco perguntas:
As organizações que não conseguem responder a estas perguntas já identificaram as suas primeiras prioridades de governação.
Um grupo multidisciplinar de governação da IA deve incluir profissionais clínicos, doentes, equipas tecnológicas, especialistas jurídicos e de privacidade, responsáveis por aquisições, líderes operacionais e representantes com conhecimento sobre equidade em saúde. As organizações de menor dimensão podem criar um comité regional partilhado, em vez de tentarem manter internamente todas estas capacidades.
O facto de a DiMe ter lançado uma iniciativa para desenvolver ferramentas operacionais de governação da IA reflete uma mudança importante no debate sobre IA na saúde.
A discussão está a evoluir para além da questão de saber se as organizações devem ter princípios éticos. A pergunta mais urgente é como esses princípios influenciam, diariamente, as aquisições, os fluxos de trabalho clínicos, a monitorização, a responsabilização e a proteção dos doentes.
Para os sistemas de saúde africanos e para o Sul Global em geral, uma governação prática pode funcionar como facilitador, e não como obstáculo. Modelos partilhados e ferramentas abertas podem reduzir os custos de implementação, melhorar as decisões de compra e ajudar os sistemas de saúde a identificar tecnologias inseguras antes de causarem danos em larga escala.
O sucesso da iniciativa da DiMe não deve, em última análise, ser medido pelo número de documentos produzidos, mas pela capacidade das organizações de saúde utilizarem esses recursos para tomar melhores decisões.
A governação operacional da IA deve ajudar os sistemas de saúde a adotar tecnologias valiosas com confiança, monitorizá-las continuamente, responder rapidamente a problemas e garantir que a inovação se traduz em cuidados de saúde mais seguros, mais justos e mais acessíveis.
Portugal torna-se o primeiro Estado da UE a aderir à HealthAI, promovendo uma regulação da IA na saúde mais segura,
Descubra como a IA, o ioga inteligente e a genómica estão a tornar os cuidados de saúde mais personalizados, preventi
A entrada da Anthropic na descoberta de fármacos pode transformar a saúde com IA, a investigação em doenças neglige
