Opera permite a los usuarios descargar y utilizar LLM localmente

La empresa de navegadores web Opera anunció hoy que ahora permitirá a los usuarios descargar y utilizar modelos de lenguaje grande (LLM) localmente en su computadora. Esta característica se implementará por primera vez para los usuarios de Opera One que reciben actualizaciones de flujo de desarrolladores y permitirá a los usuarios seleccionar entre más de 150 modelos de más de 50 familias.

Estos modelos incluyen Llama de Meta, Gemma de Google y Vicuña. La función estará disponible para los usuarios como parte del programa AI Feature Drops de Opera para permitir a los usuarios tener acceso temprano a algunas de las funciones de AI.

La compañía dijo que está utilizando el marco de código abierto Ollama en el navegador para ejecutar estos modelos en su computadora. Actualmente, todos los modelos disponibles son un subconjunto de la biblioteca de Ollama, pero en el futuro, la compañía busca incluir modelos de diferentes fuentes.

Créditos de imagen: Ópera

La compañía mencionó que cada variante ocuparía más de 2 GB de espacio en su sistema local. Por lo que debes tener cuidado con tu espacio libre para evitar quedarte sin almacenamiento. En particular, Opera no hace ningún trabajo para ahorrar almacenamiento mientras descarga un modelo.

“Opera ha proporcionado por primera vez acceso a una gran selección de LLM locales de terceros directamente en el navegador. Se espera que reduzcan su tamaño a medida que se especialicen cada vez más en las tareas en cuestión”, dijo Jan Standal, vicepresidente de Opera a TechCrunch en un comunicado.

Créditos de imagen: Ópera

Esta función es útil si planea probar varios modelos localmente, pero si desea ahorrar espacio, existen muchas herramientas en línea como Quora’s Poe y AbrazosChat para explorar diferentes modelos.

Opera ha estado jugando con funciones impulsadas por IA desde el año pasado. La compañía lanzó un asistente llamado Aria ubicado en la barra lateral en mayo pasado y lo presentó en la versión de iOS en agosto. En enero, Opera dijo que estaba construyendo un navegador impulsado por IA con su propio motor para iOS, ya que las Leyes del Mercado Digital (DMA) de la UE pidieron a Apple que eliminara el requisito obligatorio del motor WebKit para los navegadores móviles.

Fuente