No seguimento de um relatório desenvolvido pela ONU, a alta-comissária, Michelle Bachelet, urgiu os estados para a utilização de moratórias de controlo dos algoritmos
|
A Inteligência Artificial (IA) tem levantado controvérsia e os apelos para travar a sua utilização ou a proibição total da tecnologia estão a aumentar. A Alta-Comissária da Organização das Nações Unidas, Michelle Bachelet juntou-se ao grupo de especialistas que pretendem impulsionar a tomada de medidas governamentais para manter os algoritmos sob controlo. Além disso, Bachelet defendeu a proibição de algumas aplicações de IA que, alegadamente, contrariam a lei internacional dos direitos humanos, como a pontuação social de indivíduos com base em critérios discriminatórios. "Não podemos dar-nos ao luxo de continuar a jogar à apanhada em relação à IA – permitindo a sua utilização com poucas ou nenhumas barreiras ou supervisão e lidar com as consequências quase inevitáveis dos direitos humanos depois disso", disse Bachelet. A comissária afirma que não há salvaguardas em vigor para garantir que a tecnologia seja utilizada de forma responsável, pelo que os governos devem tratar da matéria com urgência. A posição surge no seguimento de um novo relatório para investigar o impacto da IA nos direitos humanos, como a privacidade, saúde, educação, liberdade de circulação ou liberdade de expressão e que recomenda moratórias sobre a venda e uso de IA para casos de alto risco, avança a Reuters. Embora se tenha verificado que a IA é, de forma geral, uma “força do bem”, o relatório destacou o “inegável e crescente” impacto nos princípios dos direitos humanos. Atualmente, os algoritmos já estão presentes em todos os aspetos da vida da maioria das pessoas e já estão envolvidos em sistemas que tomam decisões críticas, relacionados com serviços públicos ou emprego. É de notar que no ano passado, o algoritmo foi utilizado para prever as classificações escolares dos alunos britânicos, e atribuiu notas mais altas aqueles que viviam em zonas mais caras. "O risco de discriminação ligado a decisões orientadas pela IA – decisões que podem mudar, definir ou prejudicar vidas humanas – é demasiado real. É por isso que deve haver uma avaliação sistemática e monitorização dos efeitos dos sistemas de IA para identificar e mitigar os riscos dos direitos humanos", reitera Bachelet. O relatório das Nações Unidas chamou a atenção, em particular, para a utilização de algoritmos para fins de vigilância, e especialmente tecnologias biométricas como o reconhecimento facial, que é utilizado para identificar pessoas em tempo real e à distância. O relatório nota que deve haver uma moratória sobre a utilização destas tecnologias em espaços públicos, até ser provado que não há problemas de precisão ou um impacto discriminatório, enquanto a Comissão Europeia condena por completo a utilização do reconhecimento facial nesses espaços. |
Receba todas as novidades na sua caixa de correio!
