Apple’s Biggest AI Challenge? Making It Behave

Giannandrea dijo que Apple se había centrado en reducir las alucinaciones en sus modelos en parte mediante el uso de datos seleccionados. “Hemos invertido mucha energía en entrenar estos modelos con mucho cuidado”, afirmó. “Por eso estamos bastante seguros de que estamos aplicando esta tecnología de manera responsable”.

Ese enfoque de ruedas de entrenamiento para la IA se aplica en toda la oferta de Apple. Si funciona según lo prometido, debería significar que Apple Intelligence es menos propenso a fabricar o sugerir algo inapropiado. En su publicación de blog, Apple afirmó que los evaluadores encontraron sus modelos más útiles y menos dañinos con más frecuencia que los modelos de dispositivos de la competencia de OpenAI, Microsoft y Google. “No vamos a tomar a este adolescente y decirle que vaya a volar un avión”, dijo Federighi.

El tan esperado vínculo de Apple con OpenAI también mantendrá a ChatGPT a distancia, con Siri y un nuevo asistente de escritura llamado Writing Tools solo tocándolo para ciertas consultas complicadas y con el permiso del usuario. “Le preguntaremos antes de ingresar a ChatGPT”, dijo Federighi. “Desde el punto de vista de la privacidad, siempre tienes el control y tienes total transparencia con esa experiencia de que abandonas el ámbito de privacidad de Apple y sales y usas ese otro modelo”.

El acuerdo de Apple con OpenAI alguna vez habría parecido muy improbable. La startup ha experimentado un ascenso meteórico gracias a la brillantez de su chatbot, pero también ha generado controversia en repetidas ocasiones con batallas legales, dramas en las salas de juntas y su incesante promoción de una tecnología poderosa pero poco confiable. Federighi afirmó que Apple podría incorporar el modelo Gemini estrella de Google en una fecha futura, sin ofrecer más información.

Apple ha sido ridiculizada por avanzar más lentamente que sus competidores en la construcción de IA generativa, y aún no ha revelado nada tan poderoso como ChatGPT de OpenAI o Gemini de Google, pero la compañía ha publicado algunas investigaciones de IA notables, incluidos detalles de los modelos multimodales de la empresa que se ejecutan en dispositivos.

Apple alguna vez pareció tener la delantera en el uso de la IA para la informática personal, después de lanzar Siri en 2011. El asistente hizo uso de los recientes avances de la IA en ese momento para reconocer el habla de manera más confiable y buscó convertir una gama limitada de comandos de voz en acciones útiles. en el iPhone.

Competidores como Amazon, Google y Microsoft pronto siguieron su ejemplo con sus propios asistentes de voz, pero su utilidad se vio fundamentalmente limitada por el desafío de analizar el significado de un lenguaje complejo y ambiguo. Los grandes modelos de lenguaje que impulsan programas como ChatGPT representan un avance significativo en la capacidad de las máquinas para manejar el lenguaje, y Apple y otros esperan usar IA para actualizar sus asistentes personales de varias maneras. Los LLM podrían hacer que ayudantes como Siri sean más capaces de comprender comandos complejos y mantener conversaciones relativamente sofisticadas. También podrían proporcionar una manera para que los asistentes utilicen software escribiendo código sobre la marcha.

“Se comprometieron con la IA personal, privada y contextual”, dice Tom Gruber, un emprendedor de IA que cofundó la empresa que desarrolló Siri, que fue adquirida por Apple en 2010. Gruber dice que estaba feliz de ver el casos de uso de demostración de la empresa que enfatizaban esas características.

Otros observadores dicen que los anuncios de Apple equivalen a un esfuerzo por igualar a la competencia sin correr el riesgo de cometer demasiados errores. “En lo que Apple es excelente es en ofrecer grandes capacidades nuevas y mostrarnos nuevas formas de hacer las cosas”, dice David Yoffie, profesor de la Escuela de Negocios de Harvard. “Ninguna de las cosas anunciadas parece así, lo cual no es sorprendente porque se están poniendo al día”.

Yoffie dice que el enfoque de Apple en la privacidad y seguridad de los datos no fue sorprendente dadas las preocupaciones que tiene la gente sobre compartir datos con programas como ChatGPT. “La IA generativa es un complemento para el iPhone”, afirma. “Creo que es importante que demuestren que no están detrás del mundo Android, lo cual creo que hicieron hoy”.

Aun así, la IA generativa es, por definición, impredecible. Es posible que Apple Intelligence se haya comportado bien en las pruebas, pero no hay forma de contabilizar cada resultado una vez que se haya desatado en millones de usuarios de iOS y macOS. Para cumplir sus promesas de la WWDC, Apple necesitará dotar a la IA de una característica que nadie más ha logrado todavía. Necesita que se comporte.

Fuente