IA generativa precisa de data centers de próxima geração

As cargas de trabalho de IA generativa têm implicações para a arquitetura dos data centers em termos de localização, construção e conectividade

IA generativa precisa de data centers de próxima geração

O uso crescente da IA criará exigências à infraestrutura de TI, por isso as organizações precisam de estar preparadas. No entanto, de acordo com o estudo “Equinix 2023 Global Tech Trends Survey (GTTS)”, 60% dos líderes de TI em Portugal não estão confiantes na capacidade da sua infraestrutura para acomodar o uso crescente da IA.

A IA generativa exige uma rede neural maior – mais hardware – uma melhor estrutura computacional e conjuntos de dados de maior dimensão. Estes fatores conduzem a um elevado consumo de energia, à necessidade de um arrefecimento mais eficiente e de uma melhor infraestrutura de rede.

Enquanto a IA tradicional classifica dados e identifica padrões em conjuntos de dados para fazer previsões, a IA generativa vai além do mero reconhecimento de padrões, para criar conteúdos com base nos padrões adquiridos. Normalmente, os modelos de IA generativa são representados por grandes redes neurais, que podem conter até biliões de parâmetros. A IA generativa implica uma infraestrutura superior de training e um maior consumo de energia, exigindo, portanto, racks de servidores mais densos e técnicas avançadas de arrefecimento.

Para que os data centers estejam preparados para lidar com cargas de trabalho de IA generativa, deve ter-se em consideração diversos aspetos relativos à sua arquitetura, incluindo a localização da infraestrutura, a forma como os edifícios são construídos, o tipo de conectividade, etc.

Em relação à localização do data center, as cargas de trabalho de desenvolvimento de IA generativa consomem muita energia, por isso será preferível colocá-las em sites que possam beneficiar de energia de baixo custo. Elas não são muito sensíveis à latência e não precisam de estar em áreas densamente povoadas. Por outro lado, faz sentido colocar cargas de trabalho de produção de IA generativa em localizações Edge, próximo de onde os dados são gerados. Assim, é importante implementar estes sistemas de produção em data centers que possam suportar altos requisitos em termos de energia. Adicionalmente, para cumprir as regulamentações em termos de soberania e conformidade dos dados, muitas organizações necessitam de implementar os seus sistemas de produção de IA em diversos países.

Além disso, é importante hospedar as cargas de trabalho de IA generativa em data centers que forneçam conectividade segura e de alta velocidade a vários provedores de rede para transportar tráfego do Digital Edge.

Por outro lado, o training de IA generativa pode consumir vários megawatts de energia. E, assim, o arrefecimento tradicional a ar não será suficientemente eficiente. Desde modo, é preciso que os data centers adoptem soluções avançadas, tais como o arrefecimento líquido.

Uma vez que as cargas de trabalho de IA generativa consomem muita energia, os fornecedores de data centers devem procurar fontes de energia sustentáveis. Há uma pressão crescente no sentido de se hospedar soluções em data centers ecológicos e eficientes em termos de uso de energia.

Tags

NOTÍCIAS RELACIONADAS

RECOMENDADO PELOS LEITORES

REVISTA DIGITAL

IT INSIGHT Nº 49 Maio 2024

IT INSIGHT Nº 49 Maio 2024

NEWSLETTER

Receba todas as novidades na sua caixa de correio!

O nosso website usa cookies para garantir uma melhor experiência de utilização.