Cómo Nasdaq Impulsa la Obtención de Información Más Rápida y la Toma de Decisiones de Inversión Más Inteligentes Gracias a la Innovación en IA Escalable

Nasdaq llevó a cabo una serie de cuatro hackatones globales para probar su plataforma de IA. Estos hackatones, de tres días de duración por región, involucraron tanto a programadores como a no programadores y se centraron en el desarrollo de chatbots y otras aplicaciones de IA.

Los eventos generaron cientos de hackatones, que proporcionaron datos valiosos para construir una tesis sobre el potencial retorno de la inversión (ROI) de la plataforma. Durante los hackatones, los equipos probaron la plataforma en vivo y ofrecieron retroalimentación inmediata sobre sus características y rendimiento. Esta retroalimentación destacó áreas de mejora, como la precisión y la velocidad de indexación de datos.

Los hackatones no solo aceleraron el desarrollo, sino que también demostraron el potencial de la plataforma para mejorar significativamente la eficiencia y la productividad diarias en toda la empresa. Tras el éxito de la serie de hackatones, Nasdaq priorizó la implementación de los hackatones más impactantes, que marcaron la hoja de ruta para la adopción de la IA.

El departamento de ingeniería registró una actividad significativa, con 50 hackatones enfocados en la mejora de los procesos internos, mientras que el servicio de atención al cliente se benefició de 30 hackatones que crearon chatbots eficientes. Los equipos de marketing y legal también adoptaron la plataforma, liderando el uso de marketing y enfocándose en la gestión de riesgos y el cumplimiento normativo.

Los hackatones destacaron la necesidad de implementar los servicios de IA en producción de inmediato, aprovechando la información de la prueba de concepto. Esta medida resultó en una mejora del 30% en la velocidad, mejores resultados y una reducción de costos. Entre las características clave solicitadas durante los hackatones se encontraban mayor acceso a la conectividad de datos, integraciones con otras herramientas y la posibilidad de interactuar con la plataforma a través de una capa de API. La plataforma se diseñó para ser intuitiva, permitiendo la integración de datos sin código y la fácil vinculación de API.

Para desarrollar la plataforma, Nasdaq utilizó NeMo Retriever, un conjunto de microservicios de IA generativa que permite a las empresas conectar sin problemas modelos personalizados con diversos datos empresariales y ofrecer respuestas altamente precisas. Esto permitió la creación de sofisticados chatbots y otras interfaces conversacionales, que fueron un elemento clave durante los hackatones.

Al aprovechar NeMo Retriever, Nasdaq logró:

• Tiempos de Respuesta un 30% Más Rápidos: La capacidad de la plataforma para procesar y recuperar información rápidamente mejoró significativamente, lo que resultó en interacciones más rápidas y eficientes.
• Precisión un 30% Mayor: Los chatbots y las interfaces conversacionales se volvieron un 30% más precisos, lo que redujo la necesidad de intervención humana y mejoró la satisfacción del usuario..

"Mejorar la precisión tuvo un gran impacto en los grupos", afirmó O'Rourke. "Pasar a NeMo Retriever y NIM nos permitió generar una mayor interacción con la plataforma, ya que la respuesta era más rápida, lo que significa que nuestros usuarios pueden realizar un trabajo más significativo y utilizar la plataforma como parte de sus workflows diarios". Al comparar sus anteriores integraciones de servicios gestionados con las de NVIDIA NeMo Retriever, Nasdaq experimentó una reducción del tiempo de procesamiento por fragmento, lo que se tradujo en respuestas más rápidas y una mejor experiencia de usuario. Este ahorro de tiempo también permitió una indexación de datos más frecuente, garantizando que los agentes y las habilidades siempre tuvieran información actualizada.

NIM se utilizó para optimizar la implementación y la gestión de los modelos de IA, garantizando que la plataforma pudiera gestionar grandes volúmenes de solicitudes con una latencia mínima. Las principales ventajas incluyen:

• Costos Predecibles y Escalabilidad: La plataforma aprovecha el modelo de suscripción NVIDIA AI Enterprise, lo que proporciona costes predecibles y permite a Nasdaq escalar sus operaciones sin incertidumbre financiera. Esto es esencial para las instituciones financieras que necesitan gestionar presupuestos y recursos de forma eficiente.
• Retroalimentación en Tiempo Real: NIM proporcionó información en tiempo real sobre el rendimiento del modelo, lo que permitió al equipo identificar y abordar rápidamente problemas, como la lentitud en la indexación de datos y las respuestas imprecisas. Esto garantiza que el sistema se mantenga fiable y eficiente, algo fundamental en los servicios financieros, donde la precisión y la puntualidad de los datos son cruciales.
  

“NVIDIA NIM y NeMo Retriever proporcionaron una plataforma más potente que las capacidades que habíamos utilizado anteriormente: ofrecieron una mayor velocidad que mejoró la experiencia del usuario y, quizás lo más importante, generaron ahorros sustanciales a largo plazo que justificaron la inversión”, afirmó Reiser.

Nasdaq experimentó mejoras como una mayor productividad y una mejor experiencia del usuario. Al integrar NeMo Retriever y NIM, el equipo agilizó el proceso de desarrollo, lo que les permitió centrarse en tareas de mayor valor. Los usuarios se benefician de interacciones más rápidas, precisas y fiables con la plataforma, lo que se traduce en una mayor satisfacción y tasas de adopción.

Las capacidades mejoradas de la plataforma también proporcionaron datos e información valiosos, lo que ayudó al equipo a tomar decisiones informadas y a priorizar las funciones según los comentarios de los usuarios.

El equipo planea expandir el uso de estas tecnologías de IA al vasto ecosistema de datos de Nasdaq, que incluye más de 160 petabytes de datos. Más de 5000 empresas cotizan valores en las bolsas de Nasdaq, y su tecnología impulsa 135 mercados en más de 55 países. Este amplio alcance resalta el potencial de la plataforma para atender a una base de clientes global, lo que la convierte en una herramienta poderosa para las instituciones financieras que buscan expandir sus operaciones y servicios.

Nasdaq está explorando varios casos de uso futuros para mejorar aún más su plataforma con las soluciones de NVIDIA. Un área clave es el uso de la extracción de NVIDIA NeMo Retriever, que permitirá a Nasdaq descargar algunos de sus procesos regulatorios a medida. El equipo planea utilizar las capacidades de procesamiento multimodal de la extracción de NeMo Retriever para gestionar datos de texto e imágenes de forma más eficiente.

Otro desarrollo es la extensión de la plataforma más allá del texto con generación de imágenes y barandillas multimodales, que permitirán a los usuarios generar contenido para imágenes y gráficos. Al ejecutar estos modelos en un clúster de GPU, se puede mejorar significativamente la calidad y la velocidad de generación de contenido.

Además, Nasdaq busca optimizar el rendimiento de las consultas con un almacén vectorial basado en GPU que utiliza almacenes vectoriales acelerados por NVIDIA RAPIDS™ cuVS. Esto optimizará la gestión de grandes conjuntos de datos, garantizando que sus almacenes de datos se mantengan eficientes y con capacidad de respuesta, incluso con el aumento del uso de la plataforma. Estos avances consolidarán aún más la posición de Nasdaq como líder en tecnología financiera, ofreciendo servicios más robustos y versátiles a sus usuarios.