Inteligência Artificial, saúde e cibersegurança

A Proposta é genérica e tem como objetivo harmonizar as regras que regem as tecnologias de IA em toda a Europa. Na referida Proposta, estabelece-se um quadro jurídico aplicável aos sistemas de IA, no qual se prevê regras e novas obrigações, num âmbito de aplicação alargado, que se estende à maioria dos intervenientes na cadeia de produção de IA (fornecedores de IA, entidades que utilizam sistemas de IA, importadores, distribuidores, fabricantes de produto e representantes autorizados). Atento ao seu âmbito territorial, o Artificial Intelligence Act será aplicável às entidades, mesmo que não se encontrem estabelecidas na União Europeia, sendo apenas necessário que o sistema de IA seja colocado no mercado ou ao serviço do mercado europeu, ou ainda que o resultado produzido pelo sistema de IA seja utilizado na União Europeia.

Em face dos desafios que a Europa atravessa, designadamente ao nível do envelhecimento da população, o crescimento das doenças crónicas; a falta de profissionais de saúde, que segundo dados da OMS (2016), estima-se que a escassez atinja na Europa os 4,1 milhões até 2030, bem como a ineficiência generalizada nos sistemas de saúde da UE (OCDE, 2017) e a previsão do aumento das despesas no setor da saúde, pondo em causa a sustentabilidade do setor, a aplicação dos sistemas de IA no setor da saúde configura uma vantagem, mas igualmente um risco elevado. Os sistemas de IA de risco elevado devem estar sujeitos ao cumprimento de requisitos relativos à qualidade dos conjuntos de dados utilizados, à documentação técnica e à manutenção de registos, à transparência e à prestação de informações aos utilizadores, à supervisão humana, à solidez, à exatidão e à cibersegurança.

O texto determina que a inteligência artificial deverá respeitar os direitos humanos e os valores democráticos, como a igualdade, a não discriminação, a pluralidade, a livre iniciativa e a privacidade de dados. Em concreto no setor da saúde, entre outros pontos, a realização de diagnósticos e a prescrição de tratamentos é uma prática clínica que poderá ser substituída pela IA. Os processos robóticos de automação em substituição de tarefas repetitivas como a introdução de informação nas bases de dados, constitui outro exemplo. Trata-se de um sistema que é capaz de imitar a inteligência humana ou mesmo ultrapassá-la para executar uma determinada tarefa. 

Com o novo instrumento, a União Europeia pretende não perder a vanguarda tecnológica, dotando-se de uma legislação que, ao mesmo tempo, estimule a IA e proteja os cidadãos do seu mau uso, tornando obrigatórios os princípios e disciplinando direitos e deveres. Os sistemas de IA compreendem a aprendizagem automática (machine learning), que é hoje dominante na área dos cuidados de saúde. O aumento massivo de dados digitais e do poder computacional, em conjunto com algoritmos, ampliam as aplicações de IA, obtendo bons resultados, quer na qualidade da prestação desses cuidados, quer no auxílio dos profissionais de saúde na sua prática clínica. Mas compreende também a aprendizagem profunda (Deep Learning), um outro subconjunto da IA, que através de redes neuronais artificiais, tem capacidade para aprender e executar tarefas altamente complexas a partir de dados, podendo culminar na identificação de uma doença.

O atual panorama de progressos nas ciências e tecnologias clínicas é vasto, sendo os riscos para a vida e a saúde particularmente elevados. O instrumento regulatório que é há muito aguardado, impõe que os cada vez mais sofisticados sistemas de IA produzam resultados exatos e de confiança. No setor da saúde, os sistemas de IA podem produzir resultados adversos, sendo importante prevenir e atenuar devidamente os riscos de segurança, de modo a que, segundo António Damásio, não se proponha “conceções da Humanidade que reduzam a dignidade humana – mesmo que não seja esse o seu objetivo – não é vantajosos para a causa Humana”.