Amdocs lanzó su estrategia para integrar la IA generativa en su cartera principal colaborando con NVIDIA. Comenzaron identificando áreas de aplicación y, luego, pasaron a hacer que las funcionalidades de la IA generativa fueran más fáciles de usar a través del rediseño de la experiencia del usuario y priorizando la ingeniería rápida. Al optimizar los formatos de datos y ajustar los LLM, Amdocs mejoró la precisión de su sistema de preguntas y respuestas sobre facturación y redujo significativamente los costes.
El compromiso con NVIDIA dio como resultado aumentos notables (hasta un 30 %) en la precisión de las respuestas generadas por IA. Este tipo de mejora es fundamental para lograr una adopción generalizada por parte de la industria de las telecomunicaciones y para satisfacer las demandas de los servicios de IA generativa directos al consumidor.
Con los microservicios NVIDIA NIM, Amdocs también logró mejorar el rendimiento con respecto a los costes y la latencia:
- Disminución de costes de funcionamiento: Al usar, en la infraestructura NVIDIA, la generación aumentada por recuperación basada en las telecomunicaciones, Amdocs redujo el número de tókenes que se consumen para los casos de uso implementados (hasta un 60 por ciento para el preprocesamiento de datos y hasta un 40 por ciento para la inferencia). Esto les permitió obtener el mismo nivel de precisión a un coste significativamente menor por token, lo que dependió de varias influencias y volúmenes utilizados.
- Mejoras de latencia: La colaboración ha reducido con éxito la latencia de las consultas en, aproximadamente, un 80 por ciento, lo que garantiza que los usuarios finales obtengan respuestas casi tiempo real. Esta aceleración mejora las experiencias de los usuarios en el comercio, la asistencia, las operaciones, etc.
Amdocs pretende seguir integrando la IA generativa en su plataforma amAIz de múltiples maneras:
- Mejora del redireccionamiento de las consultas de los clientes utilizando análisis y sensaciones lingüísticas impulsadas por IA
- Mejora de las capacidades de razonamiento de sus soluciones de IA para proporcionar sugerencias adaptadas a las necesidades específicas de los clientes
- Abordaje de escenarios complejos que demanden un amplio conocimiento del dominio y soluciones multimodales y de varios pasos, como el diagnóstico y la optimización de redes
Ve la sesión bajo demanda sobre NVIDIA GTC y obtén más información sobre la plataforma amAIz de Amdocs.