O novo Cabo das Tormentas

Em causa estava, entre outros fatores, a geração de imagens correspondendo a grupos étnicos improváveis nos contextos pedidos. Imagine-se, por exemplo, a corte de Luís XIV, na França do século XVII, povoada por uma nobreza fortemente originária da África ou da Ásia.

Pode-se argumentar que se trata de uma forma de alucinação, como outras a que já nos habituámos a encontrar nos modelos de linguagem, mas, decerto, o modelo faz aquilo para que foi treinado e os resultados são, precisamente, o resultado de tal esforço de identificação dos dados originais e dos marcos de guarda que, entretanto, os diligentes engenheiros da Google estabeleceram antes de colocarem o modelo em produção. E este é, precisamente o novo Cabo das Tormentas.

De uma forma ou de outra, estes modelos refletirão sempre os enviesamentos dos que neles trabalharam – ainda que o objetivo possa ter sido contrariar tais enviesamentos, como pode ter sido o caso do Gemini. A geração de imagens de pessoas refletia, anteriormente, um mundo enviesado em favor dos padrões ocidentais e era parca em tudo o que não fossem as características físicas e culturais do Ocidente.

Os engenheiros e a gestão da Google, pretenderam, decerto, que o pêndulo se equilibrasse melhor e que a diversidade do mundo passasse a ser considerada nos resultados do modelo. Mas, para tal, o contexto histórico não foi tido em conta – ou pode-se dizer que foi alterado.

O problema é que, daqui para a frente, as imagens geradas sem contexto, ou com contexto errado, e com grande fidelidade de aspeto, mas sem qualquer fidelidade histórica, não vão desaparecer, pelo contrário. E vão sendo cada vez mais geradas, e aparecer nos resultados de pesquisa, quem sabe se até em livros e sítios educativos. Até que seja difícil, se não impossível, pelo menos com grande esforço e custo, distinguir o que é real e o que é alucinação gerado com boas intenções ou não. Manter uma separação clara entre o real e o falso real, deveria ser uma prioridade de todos os agentes na área de AI. Não é claro se tal separação não está a deixar de ser uma meta e a passar a ser, apenas, uma miragem.