Empresas de IA aprovechan Oracle Cloud en modelos avanzados

Proveedores de IA generativa sacan ventaja de la Infraestructura de Oracle Cloud para entrenar y ejecutar Modelos de IA de próxima generación.

Empresas de IA, pioneras en el desarrollo de soluciones basadas en Inteligencia Artificial Generativa están utilizando Oracle Cloud Infrastructure (OCI) AI Infrastructure y OCI Supercluster para respaldar el desarrollo e implementación de IA listas para producción, incluido el entrenamiento de modelos de lenguaje avanzados.

Una oleada de empresas de IA, incluyendo Modal, Suno, Together AI y Twelve Labs, están desplegando la Infraestructura de IA de OCI para acelerar el entrenamiento y la inferencia de IA a escala.

Con la creciente demanda los proveedores de soluciones de IA requieren una infraestructura en la nube y de IA segura, confiable y de alto rendimiento que les permita escalar rápidamente las instancias de GPU según sea necesario. Con la Infraestructura de IA de OCI, estas empresas tienen acceso a clústeres de GPU de alto rendimiento para aprendizaje automático, procesamiento de imágenes, entrenamiento de modelos, cálculo de inferencia, modelado y simulación basados en física y aplicaciones HPC masivamente paralelas.

“Los innovadores en IA tienen un margen de error pequeño cuando se trata de implementar infraestructura de IA”, dijo Greg Pavlik, vicepresidente senior de Servicios de IA y Gestión de Datos de Oracle Cloud Infrastructure. “OCI ofrece potentes capacidades informáticas y ahorros significativos de costos para una variedad de casos de uso de IA, y por eso se ha convertido en el principal destino para líderes en IA”.

Casos de uso

Modal, una plataforma GPU sin servidor, permite a los clientes ejecutar modelos de IA generativos, trabajos de lotes a gran escala y colas de trabajos sin tener que configurar o establecer la infraestructura necesaria. Para respaldar su rápida expansión a centros de datos en todo el mundo, Modal aprovechó las instancias de hardware bare metal de OCI Compute para una inferencia más rápida y rentable para sus clientes.

“El precio y el rendimiento inigualables de OCI nos brindan la escala y el alto rendimiento necesarios para ejecutar modelos de IA masivos sin costos excesivos de computación”, dijo Erik Bernhardsson, fundador y CEO de Modal. “Con Modal en OCI, nuestros clientes obtienen una ejecución completamente sin servidor mientras realmente solo pagan por lo que usan”.

Suno es una empresa líder en música generativa cuyo producto estrella produce música realista y personalizada en segundos. Suno eligió OCI Supercluster para entrenar sus modelos de aprendizaje automático patentados y respaldar la creciente demanda de su próxima generación de modelos de música generativa.

“Descubrimos que el valor principal de asociarnos con Oracle estaba relacionado con la escala”, dijo Mikey Shulman, fundador y CEO de Suno. “Oracle nos da la confianza de que, a medida que crecemos, contamos con un proveedor que puede crecer y escalar con nosotros. Las nuevas capacidades de gestión de OCI Supercluster, incluida la gestión de usuarios, la gestión de discos, la gestión de GPU y la capacidad de agregar nuevas máquinas, fueron fundamentales para ayudarnos a mejorar nuestras operaciones”.

Together AI es una empresa de IA impulsada por la investigación que proporciona la plataforma en la nube más rápida para la inferencia y el entrenamiento de modelos de IA generativos. Together AI seleccionó OCI por su sólido rendimiento, seguridad incorporada y soporte de ingeniería personalizado.

“La seguridad fue la principal preocupación al seleccionar un proveedor de nube para respaldar nuestro crecimiento rápido”, dijo Vipul Ved Prakash, fundador y CEO de Together AI. “La seguridad y estabilidad confiables de OCI nos han ayudado a escalar rápidamente para respaldar la creciente demanda de startups y clientes empresariales que adoptan nuestras soluciones de Inferencia, Ajuste fino y Entrenamiento por su rendimiento líder en la industria”.

Twelve Labs es una startup de IA que construye modelos de base para la comprensión multimodal de videos, permitiendo a los usuarios buscar videos para escenas específicas mediante lenguaje natural, generar texto preciso e informativo sobre videos a través de solicitudes y clasificar automáticamente videos según categorías personalizadas. Las GPU bare metal de OCI Compute y el ancho de banda entre nodos alto que ofrece OCI permiten a Twelve Labs entrenar modelos a gran escala a alta velocidad.

“La Infraestructura de IA de OCI nos permite entrenar nuestros modelos a escala sin comprometer la calidad o velocidad”, dijo Jae Lee, fundador y CEO de Twelve Labs. “OCI proporciona el rendimiento, la escalabilidad y la interconexión de clústeres que necesitamos para avanzar en la comprensión de videos, al tiempo que reduce significativamente el tiempo y el costo necesarios para implementar nuestros modelos de IA”.