A Nvidia ampliou o Agent Toolkit, sua plataforma de código aberto para desenvolvimento de agentes de inteligência artificial, com um conjunto de novas ferramentas destinadas a personalização, controle, monitoramento e governança de agentes corporativos.

A expansão inclui a estreia da Nvidia Agent Knowledge Foundation, componente voltado a transformar dados internos das empresas em inteligência que os agentes possam usar diretamente. A solução permite que organizações alimentem seus agentes com informações proprietárias sem mover dados, reconstruir fluxos de trabalho ou alterar controles de governança já existentes.

Composição do Agent Toolkit

O Nvidia Agent Toolkit reúne cinco categorias de componentes:

  • A Agent Knowledge Foundation, com as bibliotecas Nvidia CUDA-X (cuDF, cuGraph, cuML, cuOpt e cuVS) e a nova biblioteca Auto-Ontology;
  • Modelos abertos da NVIDIA, entre eles o Nemotron Retriever e a família Kumo (Kumo Tabular, Kumo Relational, Kumo Time Series e Kumo Forecast);
  • O NVIDIA OpenShell, ambiente de execução seguro que define o que os agentes podem acessar e fazer;
  • Os blueprints Nvidia NemoClaw, modelos de referência para agentes especializados e seguros;
  • Ferramentas como NeMo Relay e NeMo Compass.

A biblioteca Auto-Ontology traduz dados brutos em conceitos de negócio como clientes, produtos e pedidos, mapeando as relações entre eles. O blueprint mais recente do NemoClaw, focado em otimização, oferece um ponto de partida para melhorar a inteligência dos agentes ao longo do tempo.

Adoção por grandes empresas

A Agent Knowledge Foundation já está em operação em parceiros estratégicos da Nvidia. A área de cadeia de suprimentos da própria Nvidia usa a solução em conjunto com o Palantir Foundry, Ontology e AIP para implantar agentes especializados e otimizar decisões a partir de dados proprietários.

Leia mais: OpenAI fecha parceria com Google Cloud para oferecer modelos de IA às empresas

A Databricks combina o Nvidia Kumo Anomaly com o Databricks Genie Ontology para impulsionar agentes com compreensão de contexto. A Snowflake permite que seus clientes utilizem o Kumo Engine e os modelos Kumo Relational em ambientes Snowflake Notebook para ampliar capacidades preditivas.

Desempenho do Nemotron Retriever

Os modelos Nemotron Retriever registraram ganhos de desempenho em aplicações de parceiros. O modelo de embedding melhorou a relevância das buscas no Amazon OpenSearch Service com menos etapas e praticamente sem latência adicional. O reranker ajustado (fine-tuned) da SAP rodou quase três vezes mais rápido com o modelo.

A ServiceNow melhorou a qualidade do reranking e reduziu a latência em quase um quarto. A Zoom usa os modelos Nemotron Retriever para aprimorar a compreensão de documentos, a relevância das buscas e a recuperação de contexto nos Zoom AI Services.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!