Como a Nasdaq Está Gerando Insights Mais Rápidos e Decisões de Investimento Mais Inteligentes com Inovação em IA Escalável

A Nasdaq realizou uma série de quatro hackathons globais para servir como prova de conceito para sua plataforma de IA. Esses hackathons, cada um com duração de três dias por região, envolveram programadores e não programadores e se concentraram na construção de chatbots e outras aplicações de IA.

Os eventos geraram centenas de hacks, fornecendo dados valiosos para a construção de uma tese sobre o potencial ROI da plataforma. Durante os hackathons, as equipes testaram a plataforma ao vivo, oferecendo feedback imediato sobre recursos e desempenho. Esse feedback destacou áreas de melhoria, como precisão e velocidade de indexação de dados.

Os hackathons não apenas aceleraram o desenvolvimento, mas também demonstraram o potencial da plataforma para aumentar significativamente a eficiência e a produtividade diárias em toda a empresa. Após o sucesso da série de hackathons, a Nasdaq priorizou a implementação dos hacks de maior impacto, que ditaram todo o roteiro para a adoção da IA.

O departamento de engenharia teve uma atividade significativa, com 50 hacks focados no aprimoramento de processos internos, enquanto o atendimento ao cliente se beneficiou de 30 hacks que criaram chatbots eficientes. As equipes de marketing e jurídica também adotaram a plataforma, com o marketing liderando sua utilização e o jurídico se concentrando na gestão de riscos e na conformidade regulatória.

Os hackathons destacaram a necessidade de migrar os serviços de IA para produção imediatamente, aproveitando os insights da prova de conceito. Essa mudança resultou em uma melhoria de 30% na velocidade, melhores resultados e redução de custos. Os principais recursos solicitados durante os hackathons incluíram maior acesso à conectividade de dados, integrações com outras ferramentas e a capacidade de conversar com a plataforma por meio de uma camada de API. A plataforma foi projetada para ser amigável ao usuário, permitindo integração de dados sem código e fácil vinculação de APIs.

Para desenvolver a plataforma, a Nasdaq utilizou o NeMo Retriever, um conjunto de microsserviços de IA generativa que permite às empresas conectar perfeitamente modelos personalizados a diversos dados de negócios e fornecer respostas altamente precisas. Isso possibilitou a criação de chatbots sofisticados e outras interfaces de conversação, que foram um foco importante durante os hackathons.

Ao utilizar o NeMo Retriever, a Nasdaq alcançou:

• Tempos de Resposta 30% Mais Rápidos: a capacidade da plataforma de processar e recuperar informações rapidamente foi significativamente aprimorada, resultando em interações mais rápidas e eficientes.
• Precisão 30% Maior: chatbots e interfaces de conversação tornaram-se 30% mais precisos, reduzindo a necessidade de intervenção humana e melhorando a satisfação do usuário.

"Aprimorar a precisão teve um grande impacto nos grupos", disse O'Rourke. "Migrar para o NeMo Retriever e o NIM nos permitiu construir mais engajamento com a plataforma, pois ela estava retornando mais rápido, o que significa que nossos usuários podem realizar um trabalho mais significativo e usar a plataforma como parte de seus fluxos de trabalho diários."

Ao comparar seus embeddings de serviços gerenciados anteriores com os embeddings do NVIDIA NeMo Retriever, a Nasdaq obteve um tempo de processamento reduzido por bloco, resultando em respostas mais rápidas e uma experiência aprimorada para o usuário. Essa economia de tempo também permitiu uma indexação de dados mais frequente, garantindo que agentes e habilidades sempre tenham informações atualizadas.

O NIM foi utilizado para otimizar a implantação e o gerenciamento de modelos de IA, garantindo que a plataforma pudesse lidar com altos volumes de solicitações com latência mínima. Os principais benefícios incluem:

• Custos Previsíveis e Escalabilidade: A plataforma utiliza o modelo de assinatura NVIDIA AI Enterprise, fornecendo custos previsíveis e permitindo que a Nasdaq escale suas operações sem incertezas financeiras. Isso é essencial para instituições financeiras que precisam gerenciar orçamentos e recursos com eficiência.
• Feedback em Tempo Real: O NIM forneceu insights em tempo real sobre o desempenho do modelo, permitindo que a equipe identificasse e solucionasse problemas rapidamente, como indexação lenta de dados e respostas imprecisas. Isso garante que o sistema permaneça confiável e eficiente, o que é crucial em serviços financeiros, onde a precisão e a pontualidade dos dados são cruciais.

“A NVIDIA NIM e o NeMo Retriever forneceram uma plataforma mais poderosa do que os recursos que usávamos anteriormente: entregaram maior velocidade, o que aprimorou a experiência do usuário e, talvez o mais importante, geraram economias substanciais a longo prazo que justificaram o investimento”, disse Reiser.

A Nasdaq obteve melhorias, como aumento de produtividade e melhoria na experiência do usuário. Ao integrar o NeMo Retriever e o NIM, a equipe simplificou o processo de desenvolvimento, permitindo que se concentrassem em tarefas de maior valor. Os usuários se beneficiam de interações mais rápidas, precisas e confiáveis com a plataforma, resultando em maiores taxas de satisfação e adoção.

Os recursos aprimorados da plataforma também forneceram dados e insights valiosos, ajudando a equipe a tomar decisões informadas e priorizar recursos com base no feedback dos usuários.

A equipe planeja expandir o uso dessas tecnologias de IA em todo o vasto ecossistema de dados da Nasdaq, que inclui mais de 160 petabytes de dados. Mais de 5.000 empresas listam títulos nas bolsas da Nasdaq, e sua tecnologia impulsiona 135 marketplaces em mais de 55 países. Esse amplo alcance destaca o potencial da plataforma para atender a uma base global de clientes, tornando-a uma ferramenta poderosa para instituições financeiras que buscam expandir suas operações e serviços.

A Nasdaq está explorando diversos casos de uso futuros para aprimorar ainda mais sua plataforma com soluções NVIDIA. Uma área importante é o uso da extração com NVIDIA NeMo Retriever, que permitirá à Nasdaq aliviar alguns de seus processos regulatórios personalizados. A equipe planeja usar os recursos de processamento multimodal da extração com NeMo Retriever para lidar com dados de texto e imagem com mais eficiência.

Outro desenvolvimento é a expansão da plataforma para além do texto, com geração de imagens e guardrails multimodais, que permitirão aos usuários gerar conteúdo para imagens e gráficos. Ao executar esses modelos em um cluster de GPU, eles podem melhorar significativamente a qualidade e a velocidade da geração de conteúdo.

Além disso, a Nasdaq busca aprimorar o desempenho de consultas com um armazenamento vetorial baseado em GPU, utilizando armazenamentos vetoriais acelerados por cuVS NVIDIA RAPIDS™. Isso otimizará o processamento de grandes conjuntos de dados, garantindo que seus armazenamentos de dados permaneçam eficientes e responsivos, mesmo com o aumento do uso da plataforma. Esses avanços consolidarão ainda mais a posição da Nasdaq como líder em tecnologia financeira, fornecendo serviços mais robustos e versáteis aos seus usuários.