Insights 2018 - Ética, estratégia e futuro da Data Science em debate

Hoje em dia todas as organizações, grandes ou pequenas, dependem de dados. Algumas têm já em curso iniciativas de transformação digital para se tornarem data-driven, o que é um enorme desafio e uma grande mudança para quem não é nativo digital. O fator diferenciador da Insights 2018 foi a sua abordagem interdisciplinar e, acima de tudo, focada na desmistificação - é preciso considerar como é que a data science se integra no mundo, nas organizações e até mesmo nas nossas vidas.

Mais que as respostas, as perguntas

Na apresentação “Empowering Data Science for a Better World”, Fernando Matos, presidente da DSPA, partilhou os resultados preliminares de um inquérito lançado pela associação, os quais, entre outras tendências, delineiam uma distância significativa entre os líderes empresariais e a data science. Uma parte significativa dos líderes de negócio (36%) não têm um nível básico de conhecimento sobre data science, e os data scientists são igualmente leigos no que diz respeito a negócios e estratégia. Adicionalmente, quase três quartos das empresas ainda estão a dar os primeiros passos na implementação de estratégias data-driven. “O mundo em que estamos a viver agora não espera por nós. Temos de aceitar o que não podemos controlar, e focar-nos no que podemos fazer. A data science é o denominador comum de todos os casos de sucesso de projetos de transformação digital”.

No entanto, frisou Fernando Matos, as ideias por detrás destes projetos não vieram de data scientists, mas sim dos líderes empresariais. Fazer as perguntas certas, identificar os problemas que podem ser resolvidos e saber tomar partido das oportunidades apresentadas pode fazer toda a diferença. Podemos ter os melhores data scientists do mundo, mas se fizermos as perguntas erradas, os resultados também o serão, alertou o presidente da DSPA. Para ser-se bem-sucedido em data science, defendeu, é essencial que os líderes de negócio estejam profundamente envolvidos nos projetos, desde o início.

As pessoas são tão importantes quanto os números

Para uma empresa que não seja nativa digital, a implementação de uma estratégia data-driven pode ser imensamente complicada. E, segundo Harry Powell, director of Analytics da Jaguar Land Rover, a analítica é só metade do desafio: o maior obstáculo acaba muitas vezes por ser a cultura empresarial, a começar pela própria liderança. “Seria de imaginar que a analítica fosse transversal a toda uma empresa, mas curiosamente não é o caso”, disse em entrevista à IT Insight. “Tomando o nosso exemplo, de um fabricante de carros: os engenheiros usam analítica constantemente para compreender os veículos e como construí-los, e a fábrica aplica analítica ao controlo de qualidade
e à gestão de processos”. Contudo, acrescentou, “o negócio em si continua a ser gerido essencialmente pelo instinto dos executivos”.

Harry Powell, director of Analytics da Jaguar Land Rover. Fotografia: DSPA

Na sua essência, a analítica é uma forma altamente sofisticada de suportar decisões com provas concretas. E, com ou sem tecnologia, estas decisões são das pessoas. São as pessoas que colocam
as perguntas, e inevitavelmente, são as pessoas que vão ser afetadas pelos resultados da decisão. Por muito sofisticada e precisa que dada ferramenta de analítica seja, o seu valor é apenas tanto quanto for a sua utilidade concreta – ou, muitas vezes, a utilidade que as pessoas sentem que tem. “Não devemos assumir que, só porque conseguimos uns bons números depois de muito raciocínio de qualidade, alguém na nossa organização vai querer saber – a não ser que nos tenhamos igualmente empenhado em planear como envolvê-los no processo. As pessoas são tão importantes quanto os números”.

A data science pode fundamentar as decisões, mas não as pode tomar por nós, nem colocar as perguntas por nós. O ponto fulcral da analítica, segundo Harry Powell, é isolar o problema e estruturá-lo de forma a que possa ser respondido com algoritmos e dados. “Todos acham que a analítica é sobre ferramentas. Não é, é sobre humanos a refletirem sobre os problemas que os humanos têm. A forma como se modela isto, como transformamos estas questões sobre o mundo real em números que possam ser tratados por um modelo – é aí que se acrescenta valor”, avançou o responsável pela analítica da Jaguar Land Rover.

“Não fui eu, foi o sistema”

Os data scientists estão a impactar diariamente as vidas de milhões em todo o mundo através de projetos de inteligência artificial (IA) e machine learning. Apesar disto, estas tecnologias ainda não estão legisladas, os decisores responsáveis pela sua implementação veem-nas como um software como todos os outros, e mesmo os melhores profissionais da área tendem a não ponderar as implicações do seu trabalho para lá dos aspetos puramente funcionais.

Foi com isto em mente que Cortnie Abercrombie fundou a organização AI Truth – para suportar a criação e uso responsável, ético, transparente e inclusivo da IA e machine learning. Na sua apresentação “Ethics of Good Intentions”, Abercrombie convidou os data scientists a questionar tudo no seu trabalho quotidiano: os algoritmos que desenvolveram, as motivações de quem os contratou, os preconceitos – conscientes ou inconscientes – que possam ter, e que tipo de impacto querem ter no mundo. Uma das razões pelas quais as pessoas negligenciam a ética é porque assumem que a IA vai automaticamente ser “boa”, partindo da ideia de que é automaticamente inteligente. A verdade é que a IA será sempre um produto de seres humanos, e como tal sujeita às nossas motivações e preconceitos.

É necessário entender estas limitações da IA e implementar medidas de salvaguarda adequadas em todas as fases, defendeu, desde projetos específicos até à política interna das empresas, educação dos cidadãos e criação de legislação adequada. Acima de tudo, é necessária transparência e responsabilidade. “Foi o sistema” não é uma resposta aceitável. “Moral da história: a IA não é inerentemente boa ou justa. Não tomem isso por garantido. Sejam céticos e questionem tudo antes de confiar cegamente na tecnologia”, alertou Cortnei Abercrombie.