Em quem deve recair a responsabilidade ética pelo desenvolvimento das aplicações?

Em geral, as recomendações em torno deste universo atendem ao mundo da segurança e da privacidade, mas praticamente nunca às implicações éticas que acabarão por se desprender da utilização de uma aplicação desenhada para ajudar na tomada de decisões de uma empresa.

Inevitavelmente, os programadores deste tipo de aplicações estão a assumir, de maneira implícita, parte da responsabilidade na tomada de decisões de outras pessoas. Portanto, para avaliar a responsabilidade ética que os criadores de aplicações podem arcar, deveríamos considerar quais são as decisões potencialmente mais nocivas.

Minimizar a tomada de decisões incorreta

Para ter em conta o âmbito ético relativo à criação de aplicações, há que se desenvolver uma lista de tarefas que permita minimizar todos os fatores objetivos que possam contribuir para uma decisão incorreta. Analisemo-los, um a um:

O primeiro deles tem que ver com o dado em si mesmo. Cada programador tem de se fazer duas perguntas: “O dado é preciso? Está completo?” A resposta em ambos os casos tem de ser afirmativa e por esse meio o programador irá assegurar que qualquer potencial incidente em matéria de dados não tenha cabimento. Tomemos como exemplo o setor retalhista. Imagine que uma grande superfície se equivoca ao colocar o preço na etiqueta de um dos seus artigos, com o consequente aborrecimento do cliente quando chega ao caixa. O retalhista sai prejudicado por ter cometido um erro em seu sistema de gestão de dados. Identificar o custo de uma decisão errada é complexo, por isso há que se estabelecer padrões mais restritos para garantir a qualidade dos dados e depositar a responsabilidade nos programadores e geradores de dados, que possuem um conhecimento mais profundo de todo o processo.

Por outro lado, há que se ter em conta a analítica em si mesma. As empresas que utilizam esta tecnologia vital devem questionar-se se os métodos de análises que utilizam são válidos e efetivos, assim como se têm um impacto real nos seus objetivos definidos. Selecionar o método correto é fundamental, especialmente quando tem que ver com a analítica preditiva e prescritiva. Pense no seguinte: quando alguém tem alguma dor e procura um médico, espera que lhe façam diversos exames clínicos para que o doutor não estabeleça um diagnóstico e um tratamento baseados em resultados equivocados. Pois bem, a metodologia analítica deve ser tratada de maneira semelhante, empregando um processo formal de revisão e finalização dos métodos utilizados no desenvolvimento dessas aplicações.

Por último, a forma em que a informação é apresentada também é importante. Causa impacto direto na perceção exterior que se tem do dado e habitualmente as conclusões e decisões são tomadas com base em fatores visuais. Qualquer embelezamento ou decoração desnecessária do desenho que possa impedir ou modificar determinadas perceções, podem incorrer numa falta plausível de ética, já que distraem a atenção do propósito e função fundamentais que esta aplicação deve ter. Às vezes, o visual pode obscurecer os factos e confundir as proporções e os rácios, até levar o utilizador a conclusões erradas. O programador deveria ter sempre em mente o objetivo autêntico da aplicação e transmiti-lo com clareza e sem ambiguidades.

Em conclusão, temos de conscientizar os criadores de aplicações da necessidade de respeitar a ética no que concerne ao seu trabalho e às responsabilidades implícitas que esconde. Esta evangelização ajudaria os programadores a tirar mais partido dos dados, da analítica e da apresentação da informação que geralmente utilizam.