“A IA tem geografia”

Na IT Insight Talks sobre AI & Data, Henrique Carreiro, Diretor da IT Insight, defendeu que a próxima fase da Inteligência Artificial (IA) nas empresas deverá passar por modelos híbridos, à semelhança do que já acontece na cloud. “A IA tem geografia”, afirmou.

“A generalidade das empresas com que falamos hoje utiliza soluções de cloud híbrida”, afirmou e, para o responsável, a IA deverá seguir essa mesma evolução, ao tornar a localização onde os modelos são executados uma decisão cada vez mais relevante. “A questão de onde é que corre a IA, ou os modelos com que estamos a trabalhar, vai importar tanto ou mais do que onde correm os restantes serviços que temos hoje de cloud”, referiu.

A cloud continua a ser essencial

Apesar de antecipar uma maior adoção de modelos híbridos, o Diretor da IT Insight sublinhou que a cloud vai continuar a desempenhar um papel central.

No contexto da IA com agência, considera que essa vantagem ganha ainda maior relevância, porque “falamos cada vez mais de enxame de agentes, ou seja, grandes quantidades de agentes a correr em simultâneo”, cujos mecanismos necessários para coordenar estes ambientes já fazem parte da infraestrutura cloud.

Quando os dados passam a ser críticos

O cenário altera-se, contudo, quando as organizações começam a integrar dados sensíveis nos seus sistemas de IA. “Com toda a parte regulamentar que existe e a que se aproxima, é cada vez mais importante ter a noção de que estamos a trabalhar com dados críticos da organização que não queremos necessariamente que andem em trânsito e de um lado para o outro”, explicou.

“Para as organizações, a privacidade é cada vez mais uma questão de arquitetura”, afirmou. A este propósito, questionou “quem é que pode pôr as mãos no fogo sobre o que um dos grandes modelos, um dos providers de fronteira, faz com os dados empresariais que disponibilizamos?”.

Às exigências de privacidade e conformidade junta-se a questão económica. Segundo Henrique Carreiro, muitas organizações perceberam rapidamente que a utilização intensiva de modelos alojados na cloud pode tornar-se difícil de sustentar, devido aos custos associados ao armazenamento, à transferência de dados e ao consumo de tokens.

“Estamos a falar de budgets que eram para um ano e que foram estourados num mês”, recordou, ao dar como exemplo empresas que, numa fase inicial, incentivaram a utilização sem restrições e acabaram por rever essa estratégia.

Ainda assim, reconheceu que a execução local não responde a todas as necessidades. “Se queremos modelos de fronteira, é na cloud que eles estão”, admitiu e considerou que “o futuro passa por aqui, até mesmo para utilizadores que não são muito técnicos”.

O papel crescente da orquestração

Neste contexto, considera que as plataformas capazes de decidir automaticamente onde cada tarefa deve ser executada vão ganhar relevância. Nomeadamente, antecipou, “vamos assistir a uma maior predominância de interfaces que sabem fazer este routing inteligente entre o que é o modelo local e o modelo remoto”.

O conceito de harness engineering enquadra precisamente esta evolução ao permitir gerir contexto, memória e seleção dinâmica dos modelos. “Cada tarefa tem uma distância natural, ou seja, há tarefas que têm de estar à nossa mão, outras que podem correr remotamente”, precisou.

Para o responsável, a rápida evolução dos modelos de IA está a acelerar a adoção de arquiteturas híbridas. “A possibilidade de executar um modelo localmente e, ao mesmo tempo, recorrer a um modelo de fronteira era algo que, há um ano, eu diria que era praticamente impossível”, afirmou. Atualmente, porém, “já existem alguns modelos bastante bons, que estão muito próximos dos modelos de fronteira, diria que a cerca de três meses dessa fronteira”.

Para Henrique Carreiro, esse será “claramente o grande tema da segunda metade deste ano: onde e como encontrar o equilíbrio entre o modelo que corre localmente e o modelo que corre na cloud”.