ONU destaca “inegável e crescente” impacto da IA nos princípios dos direitos humanos

No seguimento de um relatório desenvolvido pela ONU, a alta-comissária, Michelle Bachelet, urgiu os estados para a utilização de moratórias de controlo dos algoritmos

ONU destaca “inegável e crescente” impacto da IA nos princípios dos direitos humanos

A Inteligência Artificial (IA) tem levantado controvérsia e os apelos para travar a sua utilização ou a proibição total da tecnologia estão a aumentar. A Alta-Comissária da Organização das Nações Unidas, Michelle Bachelet juntou-se ao grupo de especialistas que pretendem impulsionar a tomada de medidas governamentais para manter os algoritmos sob controlo. 

Além disso, Bachelet defendeu a proibição de algumas aplicações de IA que, alegadamente, contrariam a lei internacional dos direitos humanos, como a pontuação social de indivíduos com base em critérios discriminatórios. "Não podemos dar-nos ao luxo de continuar a jogar à apanhada em relação à IA – permitindo a sua utilização com poucas ou nenhumas barreiras ou supervisão e lidar com as consequências quase inevitáveis dos direitos humanos depois disso", disse Bachelet.

A comissária afirma que não há salvaguardas em vigor para garantir que a tecnologia seja utilizada de forma responsável, pelo que os governos devem tratar da matéria com urgência. A posição surge no seguimento de um novo relatório para investigar o impacto da IA nos direitos humanos, como a privacidade, saúde, educação, liberdade de circulação ou liberdade de expressão e que recomenda moratórias sobre a venda e uso de IA para casos de alto risco, avança a Reuters. Embora se tenha verificado que a IA é, de forma geral, uma “força do bem”, o relatório destacou o “inegável e crescente” impacto nos princípios dos direitos humanos. 

Atualmente, os algoritmos já estão presentes em todos os aspetos da vida da maioria das pessoas e já estão envolvidos em sistemas que tomam decisões críticas, relacionados com serviços públicos ou emprego. É de notar que no ano passado, o algoritmo foi utilizado para prever as classificações escolares dos alunos britânicos, e atribuiu notas mais altas aqueles que viviam em zonas mais caras. "O risco de discriminação ligado a decisões orientadas pela IA – decisões que podem mudar, definir ou prejudicar vidas humanas – é demasiado real. É por isso que deve haver uma avaliação sistemática e monitorização dos efeitos dos sistemas de IA para identificar e mitigar os riscos dos direitos humanos", reitera Bachelet.

O relatório das Nações Unidas chamou a atenção, em particular, para a utilização de algoritmos para fins de vigilância, e especialmente tecnologias biométricas como o reconhecimento facial, que é utilizado para identificar pessoas em tempo real e à distância. O relatório nota que deve haver uma moratória sobre a utilização destas tecnologias em espaços públicos, até ser provado que não há problemas de precisão ou um impacto discriminatório, enquanto a Comissão Europeia condena por completo a utilização do reconhecimento facial nesses espaços. 

Tags
Notícias relacionadas

RECOMENDADO PELOS LEITORES

REVISTA DIGITAL

IT INSIGHT Nº 33 Outubro 2021

IT INSIGHT Nº 33 Outubro 2021

NEWSLETTER

Receba todas as novidades na sua caixa de correio!

O nosso website usa cookies para garantir uma melhor experiência de utilização.