Búsqueda visual más rápida e inteligente con tecnología de GPU

La búsqueda visual se considera la próxima gran frontera de las búsquedas, y Bing de Microsoft ha utilizado la potencia de las GPU de NVIDIA para hacerla realidad. Al mismo tiempo, ha utilizado el conjunto de herramientas de generación de perfiles NVIDIA® CUDA® y cuDNN para que el sistema sea más económico. Sin embargo, la búsqueda visual a gran escala no es tarea fácil: ofrecer resultados pertinentes de forma instantánea cuando los usuarios pasan el ratón por encima de objetos dentro de las fotos requiere cálculos masivos por parte de algoritmos entrenados para clasificar, detectar y relacionar las imágenes dentro de las imágenes.

Bing: detección de objetos en grupo

La búsqueda visual se considera la próxima gran frontera de las búsquedas, y Bing de Microsoft ha utilizado la potencia de las GPU de NVIDIA para hacerla realidad. Al mismo tiempo, ha utilizado el conjunto de herramientas de generación de perfiles NVIDIA® CUDA® y cuDNN para que el sistema sea más económico. Sin embargo, la búsqueda visual a gran escala no es tarea fácil: ofrecer resultados pertinentes de forma instantánea cuando los usuarios pasan el ratón por encima de objetos dentro de las fotos requiere cálculos masivos por parte de algoritmos entrenados para clasificar, detectar y relacionar las imágenes dentro de las imágenes.
No obstante, el esfuerzo merece la pena.

"Una imagen vale más que mil palabras", afirma Yan Wang, ingeniero jefe de Bing.
"Si tienes una imagen, estás mucho más cerca de lo que buscas".

Antes, sin embargo, había que esperar mucho para encontrar lo que se buscaba. En 2015, Bing introdujo funciones de búsqueda de imágenes que permitían a los usuarios dibujar recuadros alrededor de subimágenes o hacer clic en recuadros de subimágenes ya detectadas por la plataforma; después podían utilizar esas imágenes como base de una nueva búsqueda.

Bing buscaba una solución lo suficientemente rápida como para satisfacer las expectativas de los usuarios. Para ello, cambió su plataforma de detección de objetos de CPU a máquinas virtuales Azure de la serie NV con aceleradores GPU NVIDIA Tesla® M60. De este modo, Bing redujo notablemente la latencia de detección de objetos de 2,5 segundos en la CPU a 200 milisegundos. Otras optimizaciones con cuDNN de NVIDIA redujeron esa latencia a 40 milisegundos, muy por debajo del umbral para una excelente experiencia de usuario en la mayoría de las aplicaciones.

Bing: búsqueda de camisas de vestir

El cambio a las GPU de NVIDIA fue instantáneo, ya que la latencia de las inferencias se redujo de inmediato 10 veces. A pesar de ello, los ingenieros de Bing no iban a detenerse ahí.

Incorporaron a su código la biblioteca de deep learning acelerado por GPU cuDNN de NVIDIA y actualizaron su modo de controlador de Windows Display Driver Model a Tesla Compute Cluster, lo que redujo la latencia a 40 milisegundos con una mejora total del rendimiento equivalente a 60 veces. Para detectar más categorías de objetos en una imagen, pasaron de un rápido proceso R-CNN de dos etapas a un proceso de "detección de una sola pasada" en una sola etapa. De este modo, la función se multiplica por 10 y es posible detectar más de 80 categorías de imágenes.

El equipo de Bing también utiliza un modelo de activación de filtros y el almacén de valores clave ObjectStore de Microsoft para limitar la cantidad de datos que necesita procesar y almacenar en caché los resultados para su uso futuro. De este modo, ahorra más del 90 % de sus costes, lo que le permite prestar un servicio más económico al volumen de solicitudes que recibe a diario.

La experiencia de usuario que ofrece Bing Visual Search refleja estos esfuerzos adicionales. En la página de búsqueda de Bing, el usuario puede seleccionar "búsqueda de imágenes", escribir un texto o cargar una imagen y, a continuación, seleccionar los puntos clave detectados automáticamente en la imagen o dibujar un recuadro en las partes de interés para obtener resultados de búsqueda casi instantáneos. Al dibujar el recuadro sobre, por ejemplo, un bolso, se generan numerosas oportunidades de compra de bolsos, con sus precios correspondientes.

En cuanto al desarrollo y la implementación, el cambio a las GPU de NVIDIA ha permitido al equipo de Bing ganar agilidad y aumentar su ritmo de aprendizaje e innovación. Con las CPU, llevaría meses ejecutar modelos actualizados en todo el conjunto de datos de miles de millones de imágenes con cada cambio significativo. Ahora, con las GPU, este proceso es instantáneo, lo que permite actualizar los modelos con frecuencia y ofrecer más funciones a los usuarios de Bing.