IBM lança serviço que deteta comportamentos tendenciosos da inteligência artificial

As novas capacidades, disponíveis na IBM Cloud, prometem identificar eventuais indícios tendenciosos, de distorção ou de parcialidade por detrás da decisão de uma IA – de diferentes ambientes e diversos fornecedores

IBM lança serviço que deteta comportamentos tendenciosos da inteligência artificial

A IBM está a lançar novas ferramentas de transparência na utilização da Inteligência Artificial (IA). Trata-se de um serviço de software que explica, passo a passo, como a IA chegou a uma determinada decisão – à medida que elas vão sendo tomadas –, detetando de forma automática indícios de distorção ou parcialidade e capturando resultados potencialmente incorretos e injustos enquanto ocorrem.

Além disso, o software também recomenda automaticamente que dados devem ser adicionados ao modelo para ajudar a atenuar qualquer tendência detetada. 

O novo serviço está disponível na IBM Cloud e permite que as empresas consigam gerir vários sistemas de inteligência artificial e de diferentes fornecedores do setor. Por base estão modelos construídos a partir de uma ampla variedade de frameworks de machine learning e sistemas de IA, como o IBM Watson, o Tensorflow, o SparkML, AWS SageMaker e AzureML. As empresas podem utilizar estes novos controlos em grande parte dos ambientes de IA mais usados pelas empresas e disponíveis hoje no mercado, de acordo com a IBM. 

As explicações são fornecidas de forma simplificada, dando indicação sobre que fatores influenciaram a decisão numa determinada direção face a outra, a confiança na recomendação e ainda os fatores que permitem sustentar esse estado de confiança. Além disso, os registos sobre a exatidão, o desempenho e a equidade do sistema de IA pode ser rastreados e recuperados para questões relacionadas com a melhoria do serviço de atendimento ao cliente ou com a regulação ou conformidade, como é o caso do RGPD. 

Todas estas capacidades estão disponíveis através de dashboards, oferecendo aos utilizadores uma capacidade incomparável de entender, explicar e gerir decisões baseadas em IA e reduzir a dependência de skills específicas em IA. 

As empresas vão poder também contar com o apoio da IBM Services de modo a aproveitar o novo serviço.

Além disso, a IBM Research disponibilizará na comunidade open source um conjunto de ferramentas de deteção e mitigação de questões de parcialidade em IA, fornecendo soluções e formação como incentivo à colaboração global para alcançar novos avanços nesta temática. 

Estes desenvolvimentos surgem na sequência de um novo estudo do Institute for Business Value da IBM, que revela que, enquanto 82% das empresas estão a considerar adotar soluções de IA, 60% ainda temem questões relacionadas com termos de responsabilidade e 63% referem não possuir internamente os recursos com as competências certas para gerir com confiança esta tecnologia. 
 

Tags

RECOMENDADO PELOS LEITORES

REVISTA DIGITAL

IT INSIGHT Nº 15 Outubro 2018

IT INSIGHT Nº 15 Outubro 2018

NEWSLETTER

Receba todas as novidades na sua caixa de correio!

O nosso website usa cookies para garantir uma melhor experiência de utilização.