BioNeMo incluye tres LLM preentrenados. MegaMolBART es un modelo de química generativa entrenado con 1,4 mil millones de moléculas (cadenas SMILES) y se puede utilizar para una variedad de aplicaciones quimioinformáticas.

ProtT5 y ESM1-85M son modelos de lenguaje de proteínas basados en transformador que se pueden utilizar para generar incrustaciones aprendidas para tareas como la estructuración de proteínas y la predicción de propiedades.

BioNeMo permite a los desarrolladores implementar LLM con miles de millones y billones de parámetros. Los modelos de lenguaje de proteínas actuales contienen miles de millones de parámetros que requieren una infraestructura de supercomputación para realizar inferencias de un gran espacio químico. El escalado dinámico de recursos en la nube permite que los procesos de inferencia de LLM se escalen automáticamente para satisfacer las demandas de computación.

BioNeMo facilita el proceso de comenzar a usar modelos preentrenados, descargadores automáticos y preprocesadores para bases de datos UniRef50 y ZINC. Se pueden combinar varios modelos, incrustaciones y salidas para combinar datos multimodales gracias al aprendizaje estructurado no supervisado. El preentrenamiento no supervisado también elimina la necesidad de disponer de datos etiquetados, lo que impulsa la generación de incrustaciones aprendidas para predecir la estructura de las proteínas, la función, la ubicación celular, la solubilidad del agua, las regiones de límite de la membrana, conservadas y variables, y mucho más.