Lamini, una startup con sede en Palo Alto que construye una plataforma para ayudar a las empresas a implementar tecnología de inteligencia artificial generativa, ha recaudado 25 millones de dólares de inversores, incluido el profesor de informática de Stanford, Andrew Ng.
Laminicofundada hace varios años por Sharon Zhou y Greg Diamos, tiene un argumento de venta interesante.
Muchas plataformas de IA generativa tienen un propósito demasiado general, sostienen Zhou y Diamos, y no tienen soluciones ni infraestructura diseñadas para satisfacer las necesidades de las corporaciones. Por el contrario, Lamini se creó desde cero pensando en las empresas y se centra en ofrecer alta precisión y escalabilidad de IA generativa.
“La principal prioridad de casi todos los directores ejecutivos, CIO y CTO es aprovechar la IA generativa dentro de su organización con el máximo retorno de la inversión”, dijo Zhou, director ejecutivo de Lamini, a TechCrunch. “Pero si bien es fácil obtener una demostración funcional en una computadora portátil para un desarrollador individual, el camino hacia la producción está plagado de fallas a diestra y siniestra”.
En opinión de Zhou, muchas empresas han expresado su frustración por los obstáculos para adoptar de manera significativa la IA generativa en todas sus funciones comerciales.
Según una marcha encuesta Según MIT Insights, solo el 9% de las organizaciones han adoptado ampliamente la IA generativa a pesar de que el 75% ha experimentado con ella. Los principales obstáculos abarcan desde la falta de infraestructura y capacidades de TI hasta estructuras de gobernanza deficientes, habilidades insuficientes y altos costos de implementación. La seguridad también es un factor importante: en un reciente encuesta Según Insight Enterprises, el 38 % de las empresas dijeron que la seguridad estaba afectando su capacidad para aprovechar la tecnología de IA generativa.
Entonces, ¿cuál es la respuesta de Lamini?
Zhou dice que “cada pieza” de la pila tecnológica de Lamini se ha optimizado para cargas de trabajo de IA generativa a escala empresarial, desde el hardware hasta el software, incluidos los motores utilizados para respaldar la orquestación, el ajuste, la ejecución y la capacitación del modelo. “Optimizado” es una palabra vaga, por supuesto, pero Lamini es pionero en un paso que Zhou llama “ajuste de memoria”, que es una técnica para entrenar un modelo con datos de modo que recuerde partes de esos datos exactamente.
El ajuste de la memoria puede reducir potencialmente las alucinaciones, afirma Zhou, o los casos en los que un modelo inventa hechos en respuesta a una solicitud.
“El ajuste de la memoria es un paradigma de entrenamiento, tan eficiente como el ajuste fino, pero va más allá, para entrenar un modelo con datos propietarios que incluyen hechos, números y cifras clave para que el modelo tenga alta precisión”, Nina Wei, diseñadora de IA. en Lamini, me dijo por correo electrónico, “y puede memorizar y recordar la coincidencia exacta de cualquier información clave en lugar de generalizar o alucinar”.
No estoy seguro de comprar eso. “Ajustar la memoria” parece ser más un término de marketing que académico; No hay ningún artículo de investigación al respecto, al menos ninguno que haya logrado encontrar. Dejaré a Lamini para que muestre evidencia de que su “sintonización de la memoria” es mejor que otras técnicas de reducción de alucinaciones que se están intentando o se han intentado.
Afortunadamente para Lamini, el ajuste de la memoria no es su único diferenciador.
Zhou dice que la plataforma puede operar en entornos altamente seguros, incluidos aquellos con espacios aislados. Lamini permite a las empresas ejecutar, ajustar y entrenar modelos en una variedad de configuraciones, desde centros de datos locales hasta nubes públicas y privadas. Y escala las cargas de trabajo de manera “elástica”, llegando a más de 1000 GPU si la aplicación o el caso de uso lo exige, afirma Zhou.
“Los incentivos actualmente no están alineados en el mercado con los modelos de código cerrado”, dijo Zhou. “Apuntamos a “Volver a poner el control en manos de más personas, no sólo de unas pocas, empezando por las empresas que más se preocupan por el control y que tienen más que perder con los datos de propiedad de otra persona”.
Los cofundadores de Lamini son, por lo que vale, bastante exitosos en el espacio de la IA. También se han codeado por separado con Ng, lo que sin duda explica su inversión.
Anteriormente, Zhou fue profesora en Stanford, donde dirigió un grupo que investigaba la IA generativa. Antes de recibir su doctorado en informática con Ng, fue gerente de productos de aprendizaje automático en Google Cloud.
Diamos, por su parte, cofundó MLCommons, el consorcio de ingeniería dedicado a crear pruebas estándar para modelos y hardware de IA, así como la suite de pruebas comparativas de MLCommons, MLPerf. También dirigió la investigación de IA en Baidu, donde trabajó con Ng mientras este último era el científico jefe allí. Diamos también fue arquitecto de software en Nvidia. CUDA equipo.
Las conexiones industriales de los cofundadores parecen haberle dado a Lamini una ventaja en el frente de la recaudación de fondos. Además de Ng, el director ejecutivo de Figma, Dylan Field, el director ejecutivo de Dropbox, Drew Houston, el cofundador de OpenAI, Andrej Karpathy y, curiosamente, Bernard Arnault, director ejecutivo del gigante de artículos de lujo LVMH, han invertido en Lamini.
AMD Ventures también es un inversor (un poco irónico considerando las raíces de Diamos en Nvidia), al igual que First Round Capital y Amplify Partners. AMD se involucró temprano, suministrando a Lamini hardware de centro de datos y hoy, Lamini ejecuta muchos de sus modelos en las GPU AMD Instinct, en contra de la tendencia de la industria.
Lamini hace la elevada afirmación de que el rendimiento de ejecución y entrenamiento de su modelo está a la par con las GPU equivalentes de Nvidia, dependiendo de la carga de trabajo. Dado que no estamos equipados para probar esa afirmación, se la dejaremos a terceros.
Hasta la fecha, Lamini ha recaudado 25 millones de dólares en rondas semilla y Serie A (Amplify lideró la Serie A). Zhou dice que el dinero se destina a triplicar el equipo de 10 personas de la empresa, ampliar su infraestructura informática e iniciar el desarrollo de “optimizaciones técnicas más profundas”.
Hay una serie de proveedores de IA generativa orientados a la empresa que podrían competir con aspectos de la plataforma de Lamini, incluidos gigantes tecnológicos como Google, AWS y Microsoft (a través de su asociación OpenAI). Google, AWS y OpenAI, en particular, han estado cortejando agresivamente a la empresa en los últimos meses, introduciendo características como ajustes simplificados, ajustes privados de datos privados y más.
Le pregunté a Zhou sobre los clientes, los ingresos y el impulso general de comercialización de Lamini. No estaba dispuesta a revelar mucho en esta coyuntura algo temprana, pero dijo que AMD (a través del vínculo AMD Ventures), AngelList y NordicTrack se encuentran entre los primeros usuarios (de pago) de Lamini, junto con varias agencias gubernamentales no reveladas.
“Estamos creciendo rápidamente”, añadió. “El desafío número uno es servir a los clientes. Solo hemos manejado la demanda entrante porque nos hemos visto inundados. Dado el interés en la IA generativa, no somos representativos de la desaceleración tecnológica general; a diferencia de nuestros pares en el publicitado mundo de la IA, tenemos márgenes brutos y quemas que se parecen más a los de una empresa de tecnología normal”.
El socio general de Amplify, Mike Dauber, dijo: “Creemos que existe una gran oportunidad para la IA generativa en las empresas. Si bien hay varias empresas de infraestructura de IA, Lamini es la primera que he visto que se toma en serio los problemas de la empresa y crea una solución que ayuda a las empresas a desbloquear el enorme valor de sus datos privados y al mismo tiempo satisfacer incluso las normas de cumplimiento más estrictas. y requisitos de seguridad”.