Direitos & Deveres é a nova rubrica semanal resultante de uma parceria entre o jornal Diário dos Açores e a sociedade de advogados José Rodrigues & Associados. Neste espaço, iremos procurar esclarecer dúvidas jurídicas colocadas pelos nossos leitores bem como abordar alguns dos temas mais comuns que entretecem a comunidade jurídica. Se tiver algum tema que queira ver abordado ou alguma questão que queira ver esclarecida, não hesite em enviar-nos um mail para [email protected].
Inteligência Artificial no setor da saúde:
desafios jurídicos e regulação
Imagine que vai ao hospital realizar exames de rotina e que, ao receber os resultados, é informado/a de que o diagnóstico resultou da cooperação entre os profissionais de saúde e um sistema de IA (Inteligência Artificial). Confiaria no resultado que lhe foi apresentado, ainda que parcialmente influenciado por um decisor não humano?
Embora este cenário fosse, há alguns anos, ainda algo distante, a verdade é que a IA está cada vez mais presente na área da saúde, desde a deteção de doenças à análise de exames e ao apoio na definição de tratamentos. Ainda que represente um avanço significativo, surgem alguns desafios a ela associados.
O que pode a Inteligência Artificial fazer na saúde?
O recurso à IA, em diversas áreas do conhecimento, incluindo a saúde, permite identificar padrões que normalmente passariam despercebidos ao olhar humano, bem como auxiliar na gestão hospitalar, prever riscos clínicos e contribuir para o desenvolvimento de tratamentos mais personalizados. Em contexto clínico, estes sistemas podem funcionar como uma espécie de “segunda opinião” automatizada, especialmente útil em áreas como a imagiologia ou a oncologia, onde a análise de grandes volumes de informação é determinante. Ainda assim, a tecnologia não substitui o médico, que continua a ser responsável por avaliar a informação e tomar a decisão final.
Quem responde quando a máquina falha?
Quando um sistema de IA falha na avaliação de um padrão, conduzindo a um diagnóstico errado ou sugerindo um tratamento inadequado, coloca-se a questão: quem responde pelas consequências – o médico que incorporou a IA na sua prática ou a empresa que desenvolveu o sistema de IA?
Não existe, ainda, uma resposta simples. O profissional de saúde tem acesso ao resultado da IA, mas, muitas vezes, desconhece o raciocínio que esteve na base da decisão. Por vezes, nem os próprios programadores conseguem explicar de forma clara o processo decisório dos seus sistemas. Esta realidade dificulta a atribuição de responsabilidade e levanta dúvidas quanto à confiança a depositar nestas tecnologias.
Acresce um problema prático: o médico pode sentir-se pressionado a seguir a recomendação da IA, mesmo quando tenha reservas, uma vez que poderá ser responsabilizado caso se afaste da decisão do sistema sem justificação suficiente.
O que diz a União Europeia?
Como já tivemos oportunidade de abordar nesta rubrica, a União Europeia aprovou em 2024 o IA Act (Regulamento da Inteligência Artificial), que adota uma abordagem baseada no risco. Muitas aplicações na saúde são consideradas sistemas de alto risco, ficando sujeitas a requisitos mais exigentes. Entre estes encontram-se a supervisão humana, avaliações de conformidade, mecanismos de transparência e regras de qualidade dos dados, com o objetivo de conciliar inovação tecnológica com a proteção da privacidade, igualdade e dignidade da pessoa humana. Exige-se que o profissional de saúde compreenda as limitações do sistema, interprete resultados, detete erros e, quando necessário, não siga as recomendações da IA. Estas exigências devem ser acompanhadas por formação adequada dos profissionais de saúde, sem a qual a supervisão humana corre o risco de ser apenas teórica.
Inovação com responsabilidade
A Inteligência Artificial tem um grande potencial na medicina, permitindo aplicações que vão do diagnóstico ao tratamento. Contudo, os seus benefícios apenas serão plenamente alcançados se forem acompanhados por regras claras e por uma utilização responsável da tecnologia. O desafio dos próximos anos será precisamente o de encontrar o equilíbrio entre as vantagens da IA e a necessidade de salvaguardar a dignidade da pessoa humana, garantindo que a decisão médica permanece humana, sendo apenas apoiada pela tecnologia. A questão já não é saber se esta tecnologia será utilizada na medicina, mas sim em que condições continuará a ser o ser humano a decidir.
Beatriz Rodrigues