Projetar e construir infraestrutura de inteligência artificial voltado à pesquisa e desenvolvimento (P&D)

newroute final

Os centros de pesquisa precisam considerar muitos fatores ao criar ou aprimorar uma infraestrutura de Inteligência Artificial (IA) para oferecer suporte ao desenvolvimento de pesquisas, aplicativos e cargas de trabalho de IA.

Essas não são questões triviais. O sucesso final de um centro de pesquisa que desenvolve trabalhos relacionados a IA, Machine Learning (ML), entre outras inovações, provavelmente dependerá de quão adequado seu ambiente é construído para tais iniciativas de pesquisa.

Embora a nuvem esteja emergindo como um recurso importante para cargas de trabalho de IA com uso intensivo de dados, os pesquisadores e cientistas também contam com seus ambientes de TI locais para esses projetos.

Armazenamento de big data: requisitos de infraestrutura para IA

Uma das maiores considerações ao projetar e construir infraestrutura de inteligência artificial voltado à pesquisa e desenvolvimento é o armazenamento de dados de IA, especificamente a capacidade de escalar o armazenamento conforme o volume de dados aumenta.

À medida que as organizações preparam estratégias de pesquisa e desenvolvimento de IA e constroem a infraestrutura necessária, o armazenamento deve ser uma prioridade. Isso inclui garantir a capacidade de armazenamento adequada, IOPS, taxa de transferência e confiabilidade para lidar com as enormes quantidades de dados necessárias para uma IA eficaz.

Descobrir que tipo de armazenamento um centro de pesquisa precisa depende de muitos fatores, incluindo o nível de IA que uma organização planeja usar e se ela precisa tomar decisões em tempo real.

Por exemplo, para ecossistemas de rede neural avançados e de alto valor, as arquiteturas tradicionais de armazenamento conectado à rede podem apresentar problemas de dimensionamento com E/S (entrada e saída) e latência.

Da mesma forma, uma organização de pesquisa que usa sistemas científicos de IA para cálculos ou decisões precisos em tempo real pode precisar de uma tecnologia de armazenamento de alta performance e baixa latência.

Muitos centros científicos e instituições de ensino já estão criando ambientes de big data e analítica projetados para suportar enormes volumes de dados e provavelmente serão adequados para muitos tipos de aplicativos de IA.

Outro fator é a natureza dos dados. Os aplicativos de IA dependem das informações de origem, portanto, uma organização precisa saber onde os dados de origem residem e como os aplicativos de IA os usarão. Por exemplo, os aplicativos analisarão os dados do sensor em tempo real ou usarão o pós-processamento?

Você também precisa considerar a quantidade de aplicativos de dados de IA que irão gerar.

Os aplicativos de IA tomam melhores decisões à medida que são expostos a mais dados. À medida que os dados crescem com o tempo, as empresas precisam monitorar a capacidade e planejar a expansão conforme necessário.

Infraestrutura de rede IA

A rede é outro componente chave de uma infraestrutura de inteligência artificial. Para fornecer a alta eficiência em escala necessária para dar suporte a modelos de IA e aprendizado de máquina, as instituições provavelmente precisarão atualizar suas redes.

Algoritmos de aprendizado profundo são altamente dependentes de comunicações, e as redes corporativas precisarão acompanhar a demanda à medida que os esforços de IA se expandem. É por isso que a escalabilidade deve ser uma alta prioridade, e isso exigirá alta largura de banda, baixa latência e arquiteturas criativas.

As organizações devem automatizar sempre que possível. Por exemplo, eles devem implantar ferramentas automatizadas de gerenciamento de infraestrutura em seus data centers.

Enquanto isso, os provedores de infraestrutura de rede que dão suporte a centros de pesquisa e instituições científicas devem fazer o mesmo.

Redes definidas por software estão sendo combinadas com aprendizado de máquina para criar redes baseadas em intenções que podem antecipar demandas de rede ou ameaças de segurança e reagir em tempo real.

Cargas de trabalho de inteligência artificial

Também crítico para uma infraestrutura de inteligência artificial é ter recursos de computação suficientes, incluindo CPUs e GPUs.

Um ambiente baseado em CPU pode lidar com cargas de trabalho básicas de IA, mas o aprendizado profundo envolve vários grandes conjuntos de dados e implantação de algoritmos de rede neural escalonáveis. Para isso, a computação baseada em CPU pode não ser suficiente.

Para fornecer os recursos de computação necessários, as empresas devem recorrer às GPUs. A implantação de GPUs permite que as organizações otimizem sua infraestrutura de data center e ganhem eficiência no consumo de energia.

Inúmeras empresas criam GPUs e CPUs com foco em IA, oferecendo opções às empresas na hora de comprar hardware de IA. A Nvidia, por exemplo, é a principal fornecedora de GPUs com foco em IA.

Treinamento de IA

Por último, mas não menos importante: o treinamento e o desenvolvimento de habilidades são vitais para qualquer pesquisa de TI e, especialmente, para iniciativas de IA científica.

As organizações precisarão de analistas de dados, cientistas de dados, desenvolvedores, especialistas em segurança cibernética, engenheiros de rede e profissionais de TI com uma variedade de habilidades para construir e manter sua infraestrutura para suportar IA e usar tecnologias de inteligência artificial, como aprendizado de máquina, PNL e aprendizado profundo, em uma base contínua.

Eles também precisarão de pessoas que consigam gerenciar os vários aspectos do desenvolvimento da infraestrutura e que sejam conhecedoras nas metas de pesquisa da organização.

Reunir uma equipe forte é uma parte essencial de qualquer esforço de desenvolvimento de infraestrutura de inteligência artificial.

Sobre New Route

New Route é uma empresa especializada em infraestrutura de TI moderna. Utilizamos tecnologias da Computação de Alto Desempenho (HPC) e Inteligência Artificial (IA) para trazer maior insight e melhores resultados aos projetos de pesquisa científica em diversas áreas. Soluções personalizadas com um portfólio de ponta a ponta que inclui estações de trabalho, servidores, supercomputadores, armazenamento, redes, software, sistemas e serviços. Nossa atuação vai desde o planejamento e arquitetura da solução, até a instalação, deployment e suporte técnico local. New Route, há mais de 25 anos apoiando cientistas brasileiros a realizarem descobertas transformadoras.