NeuBird Los fundadores Goutham Rao y Vinod Jayaraman vinieron de Portworx, una solución de almacenamiento nativa de la nube que finalmente vendido a PureStorage en 2019 por 370 millones de dólares. Fue su tercera salida exitosa.
Cuando buscaron su próximo desafío de inicio el año pasado, vieron una oportunidad de combinar su conocimiento nativo de la nube, especialmente en torno a las operaciones de TI, con el área floreciente de la IA generativa.
Hoy NeuBird anunció una inversión de 22 millones de dólares por parte de Mayfield para llevar la idea al mercado. Es una cantidad considerable para una startup en etapa inicial, pero es probable que la empresa confíe en la experiencia de los fundadores para construir otra empresa exitosa.
Rao, el director ejecutivo, dice que si bien la comunidad nativa de la nube ha hecho un buen trabajo resolviendo muchos problemas difíciles, ha creado niveles cada vez mayores de complejidad a lo largo del camino.
“Hemos hecho un trabajo increíble como comunidad durante los últimos 10 años creando arquitecturas nativas de la nube con diseños orientados a servicios. Esto agregó muchas capas, lo cual es bueno. Esa es una forma adecuada de diseñar software, pero también tuvo el costo de una mayor telemetría. Simplemente hay demasiadas capas en la pila”, dijo Rao a TechCrunch.
Llegaron a la conclusión de que este nivel de datos hacía imposible que los ingenieros humanos encontraran, diagnosticaran y resolvieran problemas a escala dentro de grandes organizaciones. Al mismo tiempo, los grandes modelos de lenguaje comenzaban a madurar, por lo que los fundadores decidieron ponerlos a trabajar en el problema.
“Estamos aprovechando grandes modelos de lenguaje de una manera única para poder analizar miles y miles de métricas, alertas, registros, seguimientos e información de configuración de aplicaciones en cuestión de segundos y poder diagnosticar cuál es la salud del entorno. , detectar si hay un problema y proponer una solución”, dijo.
Básicamente, la empresa está creando un asistente digital confiable para el equipo de ingeniería. “Por lo tanto, es un compañero de trabajo digital que trabaja junto con los ingenieros de SRE e ITOps y monitorea todas las alertas y registros en busca de problemas”, dijo. El objetivo es reducir la cantidad de tiempo que lleva responder y resolver un incidente de horas a minutos, y creen que al poner a trabajar la IA generativa en el problema, pueden ayudar a las empresas a lograr ese objetivo.
Los fundadores comprenden las limitaciones de los grandes modelos de lenguaje y buscan reducir las respuestas alucinadas o incorrectas utilizando un conjunto limitado de datos para entrenar los modelos y configurando otros sistemas que ayuden a ofrecer respuestas más precisas.
“Debido a que estamos usando esto de una manera muy controlada para un caso de uso muy específico para entornos que conocemos, podemos verificar los resultados que salen de la IA, nuevamente a través de una base de datos vectorial y ver si tiene sentido y si no nos sentimos cómodos con él, no lo recomendaremos al usuario”.
Los clientes pueden conectarse directamente a sus diversos sistemas en la nube ingresando sus credenciales y, sin mover datos, NeuBird puede usar el acceso para compararla con otra información disponible y encontrar una solución, lo que reduce la dificultad general asociada con la obtención de datos específicos de la empresa. datos con los que trabajar el modelo.
NeuBird utiliza varios modelos, incluido Llama 2, para analizar registros y métricas. Están utilizando Mistral para otros tipos de análisis. De hecho, la empresa convierte cada interacción de lenguaje natural en una consulta SQL, esencialmente convirtiendo datos no estructurados en datos estructurados. Creen que esto dará como resultado una mayor precisión.
La startup en etapa inicial está trabajando con socios de diseño y alfa en este momento refinando la idea mientras trabajan para llevar el producto al mercado a finales de este año. Rao dice que sacaron una gran cantidad de dinero porque querían que la sala trabajara en el problema sin tener que preocuparse por buscar más dinero demasiado pronto.