Regulação da inteligência artificial na saúde requer coleta de dados ética e representativa, diz OMS

A rápida implementação de tecnologias de inteligência artificial no setor saúde é o foco de uma nova publicação da Organização Mundial da Saúde, OMS. A agência aponta preocupação com a atual falta de compreensão sobre benefícios ou prejuízos aos usuários finais, incluindo profissionais de saúde e pacientes.

Lançado nesta quinta-feira, o relatório “Considerações Regulatórias sobre o Uso de Inteligência Artificial na Saúde” enfatiza a importância de estabelecer a segurança e a eficácia dos sistemas de IA, para que sejam disponibilizados de forma apropriada para quem precisa. 

Risco de coleta de dados antiética

Dentre as vantagens da nova tecnologia estão a identificação de potenciais novos medicamentos, aceleração de pesquisas clínicas e a prevenção e previsão de doenças e riscos. 

Por outro lado, ao usar dados de saúde, os sistemas de IA podem ter acesso a informações pessoais sensíveis. Por isso, a OMS defende a criação de estruturas legais e regulatórias robustas para proteger a privacidade, a segurança e a integridade dos pacientes.

O diretor-geral da OMS, Tedros Ghebreyesus, disse que “a inteligência artificial é uma grande promessa para a saúde, mas também vem com sérios desafios, incluindo coleta de dados antiética, ameaças de segurança cibernética e amplificação de vieses ou desinformação”. 

Segundo ele, a nova orientação da OMS apoiará os países “a regular a IA de forma eficaz, a aproveitar o seu potencial, seja no tratamento do câncer ou no diagnóstico da tuberculose, minimizando os riscos.”

Um médico trata um paciente com câncer em um hospital em Idleb, no noroeste da Síria

Medicina personalizada

A agência de saúde da ONU enfatiza que os cuidados estão se tornando mais centrados no paciente, com abordagens personalizadas para a tomada de decisões.

Com base nesta tendência, o uso positivo da IA pode melhorar o bem-estar das pessoas e da população, trazendo mais educação e envolvimento dos pacientes e adesão à medicação, contribuindo com a gestão de doenças, numa abordagem que reforça a individualização e personalização dos cuidados.

Com regulações mais claras, a OMS espera que a nova tecnologia contribua para melhorar o diagnóstico médico e complementar os conhecimentos, habilidades e competências dos profissionais de saúde. 

Por exemplo, a IA pode ser benéfica em ambientes com falta de especialistas médicos, na interpretação de exames de retina e imagens radiológicas, dentre muitas outras possibilidades.

Seis áreas de regulação

Em resposta às crescentes necessidades dos países de gerenciar com responsabilidade o rápido aumento das tecnologias de saúde baseadas em IA, a publicação descreve seis áreas para a regulação.

São elas: documentação transparente do ciclo de vida dos produtos desde o desenvolvimento, gestão de riscos, validação externa de dados, qualidade de dados, proteção da privacidade e colaboração entre todas as partes interessadas, incluindo pacientes e profissionais de saúde.

A OMS ressalta que os sistemas de IA são complexos e dependem não apenas do código com o qual são construídos, mas também dos dados em que são treinados, que vêm de configurações clínicas e interações do usuário, por exemplo.

Representatividade de gênero, raça e etnia

A regulamentação pode ajudar a gerenciar os riscos de a IA amplificar vieses nos dados de treinamento. Por exemplo, pode ser difícil para os modelos de IA representar com precisão a diversidade das populações, levando a vieses, imprecisões ou mesmo falhas.

Para ajudar a mitigar esses riscos, as regulamentações podem ser usadas para garantir que os atributos como gênero, raça e etnia das pessoas apresentadas nos dados de treinamento sejam relatados e os conjuntos de dados sejam intencionalmente tornados representativos.

A nova publicação da OMS visa delinear os princípios-chave que os governos e as autoridades reguladoras podem seguir para desenvolver novas orientações ou adaptar as orientações existentes sobre IA a nível nacional ou regional.