Como desenvolver inteligência artificial mais responsável

Humanizar o automático, tornar a IA compreensível, ser ciberseguro, usar dados responsáveis e incentivar a transparência são as cinco formas apontadas pela Visor.ai para desenvolver soluções de IA de forma responsável

Como desenvolver inteligência artificial mais responsável

Apesar da evolução tecnológica ser vastamente aceite como positiva, cria ainda algumas resistências quanto à segurança e ao desenvolvimento ético de iniciativas como a Inteligência Artificial (IA). Neste âmbito, a Visor.ai, startup portuguesa de soluções de conversação inteligente, anunciou cinco formas de desenvolver soluções de IA de forma responsável. 

“Aquilo a que chamamos de Responsible AI é um modelo que procura documentar como é que uma empresa que desenvolve tecnologia de inteligência artificial, o pode fazer de uma forma ética e legal, para que, caso haja algum problema, haja também uma atribuição de responsabilidade”, explica Gonçalo Consiglieri, cofundador da Visor.ai.

Num primeiro ponto, a empresa destaca a importância de humanizar o automático. A empresa explica, em comunicado, que é importante considerar as necessidades do utilizador final que não procura uma experiência 100% automática e valoriza a interação humana. Neste sentido, a Visor.ai apela à criação de soluções de IA que não procurem automatizar todas as interações, sobretudo as mais complexas que possam necessitar de triagem e intervenção humana.

Em segundo lugar, a start-up considera que a IA deve ser compreensível para ser responsável. “A um certo ponto no processo de desenvolvimento é expectável que haja a necessidade de explicar o funcionamento da solução a vários stakeholders”, esclarecem, e “esta explicação deve ser pensada e diferenciada para cada um deles”, uma vez que “um investidor não terá o mesmo nível de conhecimento de programação do que um developer, por exemplo”.

Por outro lado, importa “ser ciberseguro”. Para tal, a empresa refere que é fundamental aplicar medidas de cibersegurança no código que barrem a entrada de possíveis hackers, uma vez que “basta que alterem alguma resposta predeterminada a uma interação para induzir o utilizador final em erro”.

Num quarto ponto, uma Responsible AI implica utilizar também os dados de forma responsável. Tendo em conta que para aumentar a precisão da IA é necessário uma grande quantidade de dados e a implementação de medidas como o RGPD, é crucial, indicam, criar soluções de IA tendo por base dados recolhidos de forma responsável e, por isso, de forma consensual.

Por fim, a Visor.ai refere que se deve incentivar a transparência. Segundo a empresa, além de se dever considerar os inputs de todos os membros da empresa durante o processo, também se deve garantir que estes estão informados sobre o impacto que a IA terá no seu posto de trabalho.

Tags

NOTÍCIAS RELACIONADAS

RECOMENDADO PELOS LEITORES

REVISTA DIGITAL

IT INSIGHT Nº 48 Março 2024

IT INSIGHT Nº 48 Março 2024

NEWSLETTER

Receba todas as novidades na sua caixa de correio!

O nosso website usa cookies para garantir uma melhor experiência de utilização.