Meta Is Already Training a More Powerful Successor to Llama 3

Zuckerberg tomó Instagram hoy para explicar que Meta incorporaría el nuevo asistente Meta AI, impulsado por Llama 3, en productos que incluyen Whatsapp, Instagram, Facebook y Messenger.

Meta dijo en la publicación de su blog anunciando Llama 3 que se había centrado en gran medida en mejorar los datos de entrenamiento utilizados para desarrollar el modelo. Recibió siete veces más datos que su predecesor, Llama 2, dijo la compañía. Algunos expertos en inteligencia artificial señalaron que las cifras publicadas por Meta también mostraban que la creación de Llama 3 requería enormes cantidades de energía para alimentar los servidores necesarios.

Las crecientes capacidades de los modelos de IA de código abierto han incitado a algunos expertos a preocuparse de que puedan facilitar el desarrollo de armas cibernéticas, químicas o biológicas, o incluso volverse hostiles hacia los humanos. meta tiene herramientas lanzadas que, según dice, puede ayudar a garantizar que Llama no emita expresiones potencialmente dañinas.

Otros en el campo de la IA dicen que los modelos Llama de Meta no son tan abiertos como podrían ser. La licencia de código abierto de la compañía sobre los modelos impone algunas restricciones sobre lo que los investigadores y desarrolladores pueden construir.

“Es fantástico ver cada vez más modelos liberando abiertamente sus pesos”, dijo Luca Soldaini, científico de investigación aplicada del Instituto Allen de IA, un laboratorio sin fines de lucro, en un comunicado después del lanzamiento de Llama 3. “Pero la comunidad abierta necesita acceso a todas las demás partes del proceso de IA: sus datos, capacitación, registros, código y evaluaciones. Esto es lo que, en última instancia, acelerará nuestra comprensión colectiva de estos modelos”.

Stella Bidermanun investigador de IA involucrado con EleutherAI, un proyecto de IA de código abierto sin fines de lucro, dice que la licencia de Meta para Llama 2 limitó los experimentos que los investigadores de IA pueden ejecutar con él, y agrega que la licencia de Llama 3 parece aún más restrictiva. “Meta libera pesas, pero es notoriamente restrictivo sobre lo que se puede hacer con ellas”, dice Biderman.

Una parte de la licencia del modelo dice que las empresas con “más de 700 millones de usuarios activos mensuales” deben solicitar una licencia especial de Meta, una cláusula aparentemente diseñada para evitar que el proyecto ayude a los rivales más cercanos de la empresa.

Aun así, parece probable que Llama 3 provoque una nueva explosión de experimentación con IA. Clément Delange, director general de AbrazosCara, un repositorio de modelos abiertos de IA, incluido Llama 3, dice que los desarrolladores crearon más de 30.000 variantes de Llama 2. “Estoy seguro de que también veremos una avalancha de nuevos modelos basados ​​en Llama 3”, dice. “Impresionante movimiento comunitario de Meta”.



Fuente