Forrester antecipa maior adoção de modelos de IA especializados nas empresas

Os modelos de Inteligência Artificial (IA) especializados estão a aproximar-se de uma utilização mais alargada nas empresas, à medida que a evolução dos modelos open-weight e das ferramentas de pós-treino reduz os custos e a complexidade associados à sua criação.

A análise é de Rowan Curran, Principal Analyst da Forrester, que considera ter chegado o momento para uma maior adoção de modelos fine-tuned pelas organizações, depois de vários anos em que esta abordagem permaneceu limitada pela tecnologia e pela relação entre custos e benefícios.

Ao contrário dos modelos frontier, desenvolvidos para utilização generalista e normalmente executados a partir de infraestrutura cloud, estes modelos podem ter menores dimensões, exigir menos recursos e ser implementados mais próximo do edge.

A diferença está também na especialização. As organizações podem partir de modelos open-weight e adaptá-los com os seus próprios dados e conhecimento de negócio para melhorar o desempenho em tarefas ou domínios específicos.

Para Curran, a mudança não resulta apenas da melhoria das capacidades dos modelos. A redução dos custos associados à adaptação de modelos open-weight está a tornar economicamente viáveis casos de utilização que anteriormente estavam fora do alcance de muitas organizações.

Algumas empresas já começaram a seguir esta estratégia. A Thomson Reuters apresentou o Thomson, baseado em informação jurídica, fiscal e regulatória, enquanto a Harvey desenvolveu o Tenet com dados especializados na área jurídica. A Travelers anunciou o TravelersLLM para apoiar análise e investigação relacionadas com underwriting, a Optimizely desenvolveu modelos especializados em marketing e a Tech Mahindra lançou o Indus, integrado numa estratégia de desenvolvimento de modelos para hindi e outros idiomas.

Esta evolução coincide, segundo a Forrester, com o recuo de algumas empresas em projetos de modelos mais generalistas. A Databricks terminou os esforços em torno do DBRX devido aos custos, enquanto a ServiceNow deixou de atualizar o seu modelo para privilegiar modelos de fornecedores terceiros. A Cohere está também a orientar a oferta para modelos mais específicos.

O movimento sugere que, no contexto empresarial, a especialização poderá criar mais valor do que a tentativa de competir diretamente no desenvolvimento de modelos generalistas de grande dimensão.

Novas ferramentas reduzem barreiras ao fine-tuning

O número de organizações que desenvolvem os seus próprios modelos continua relativamente reduzido, mas a Forrester identifica uma evolução das ferramentas que pode acelerar a adoção.

Curran destaca iniciativas como o InstructLab da IBM e o Lightning da Nvidia, além de tecnologias como Axolotl, Unsloth e Together AI, que procuram tornar os processos de pós-treino e fine-tuning mais eficientes.

As organizações com grandes volumes de dados proprietários e propriedade intelectual diferenciadora estarão, na perspetiva do analista, melhor posicionadas para converter esse conhecimento em comportamentos específicos dos modelos e, posteriormente, em resultados de negócio.

Para os responsáveis de tecnologia, a Forrester recomenda começar por identificar onde os dados proprietários podem acrescentar valor através de um modelo especializado, distinguindo entre conhecimento específico de uma área e processos particulares da organização.

Essa avaliação deve incluir uma comparação do custo ao longo do ciclo de vida de um modelo fine-tuned com alternativas como Retrieval-Augmented Generation ou sistemas de IA com agência.

Soberania dos dados e dos processos é outro dos critérios apontados. Modelos especializados podem ser relevantes em operações que não devam depender da Cloud ou em locais remotos onde a conectividade dificulta o acesso a modelos de maior dimensão.

A Forrester recomenda ainda rever as estratégias de encaminhamento e failover dos modelos. Um modelo específico, alojado pela própria organização, poderá funcionar como alternativa para determinadas tarefas quando os serviços externos não estiverem disponíveis.

A perspetiva de Curran aponta, assim, para uma arquitetura empresarial de IA em que os modelos de fronteira não são necessariamente substituídos. Passam a coexistir com modelos mais pequenos e especializados, escolhidos em função dos dados, dos custos, da infraestrutura e dos requisitos de cada processo.