Shell Treina Chatbot de IA Personalizado com NVIDIA NeMo para Otimizar Operações

Para alcançar maior precisão para seu LLM específico de domínio adaptado ao setor de energia, a Shell concentrou-se na seleção de dados de treinamento de alta qualidade como base de sua solução de IA. O processo de desenvolvimento começou com a curadoria e pré-processamento de um vasto conjunto de dados de documentos de química. Inicialmente, a Shell tinha acesso a 300 mil documentos técnicos coletados ao longo de décadas. Esses documentos cobrem vários domínios técnicos, sendo reduzidos a 154 mil documentos de alta qualidade usando o NVIDIA NeMo Curator.

O processo de curadoria envolveu várias etapas, como desduplicação exata e difusa para remover conteúdo repetido ou quase duplicado. A Shell também aplicou filtros de qualidade, removendo documentos com informações insuficientes ou formatação ruim, e usou a detecção de idioma para excluir conteúdo que não fosse inglês. Além disso, a classificação de domínio foi usada para selecionar documentos para a criação de benchmarks específicos de domínio.

Uma vez que o conjunto de dados foi curado, a Shell foi além da geração aumentada por recuperação (RAG) e usou o framework NVIDIA NeMo para realizar o pré-treinamento adaptável ao domínio (DAPT) e o ajuste fino supervisionado (SFT) para aprimorar o conhecimento e a precisão específicos do domínio do modelo. O DAPT permitiu que o modelo entendesse completamente o contexto e a terminologia, exclusivos do setor químico. Ao mesmo tempo, o SFT refinou ainda mais o desempenho do modelo treinando-o com dados rotulados específicos para as necessidades da Shell. Aproveitando as técnicas de paralelismo disponíveis por meio do NeMo, a Shell acelerou o tempo de treinamento de modelos (milhões de horas de GPU) em 20% em comparação com outros frameworks de código aberto.

Recuperar informações precisas de fontes de conhecimento corporativo pode ser desafiador para a RAG porque os modelos de linguagem padrão geralmente interpretam incorretamente as consultas de usuários, combinando-as com informações amplas e genéricas, em vez de perspectivas específicas do domínio. A adaptação dos LLMs à linguagem específica do setor preenche essa lacuna e melhora a precisão das respostas e a qualidade da conversação. Essa necessidade de precisão levou a Shell a desenvolver recursos internos, não disponíveis em produtos do mercado, para personalizar LLMs, resultando na colaboração da empresa com a NVIDIA.

Com o chatbot com IA desenvolvido pela Shell, as equipes de tecnologia podem acessar rapidamente documentos e dados químicos detalhados, reduzindo o tempo necessário para essas tarefas e reduzindo o risco de erros. Ao simplificar a recuperação de conhecimento, o chatbot de IA pode aprimorar a obtenção de informações e a tomada de decisões no espaço de P&D, apoiando tanto a inovação quanto a eficiência operacional.

Além da recuperação aprimorada de informações, o LLM personalizado também pode ser utilizado para análise de documentos técnicos, otimizando os workflows em todos os departamentos.

Ao refinar continuamente o modelo por meio de interações reais, a Shell está posicionando seu ecossistema de IA como uma camada de inteligência adaptativa, transformando o gerenciamento de conhecimento empresarial em um recurso dinâmico e acessível.

Olhando para o futuro, a Shell planeja aprimorar ainda mais a capacidade do LLM adaptado ao domínio, expandindo o conjunto de dados de treinamento e desenvolvendo tarefas de avaliação mais diversas e desafiadoras. Juntamente com o aprimoramento do modelo de texto para texto, a meta é habilitar as capacidades multimodais do chatbot de IA. Isso permitirá que o chatbot lide e processe vários tipos de dados, como imagens e vídeos.

A inclusão de capacidades multimodais deve fornecer informações mais completas e contextualmente ricas, especialmente valiosas para processos complexos de tomada de decisão.

Esses aprimoramentos devem impulsionar ainda mais a produtividade e a eficiência operacional, solidificando o compromisso da Shell de utilizar tecnologias avançadas de IA de ponta para o benefício de suas operações.