Mantenerse al día con una industria que evoluciona tan rápidamente como la IA es una tarea difícil. Entonces, hasta que una IA pueda hacerlo por usted, aquí hay un resumen útil de historias recientes en el mundo del aprendizaje automático, junto con investigaciones y experimentos notables que no cubrimos por sí solos.
Por cierto, TechCrunch planea lanzar pronto un boletín informativo sobre IA. Manténganse al tanto. Mientras tanto, estamos aumentando la cadencia de nuestra columna semiregular de IA, que anteriormente era dos veces al mes (más o menos), a semanal; así que esté atento a más ediciones.
Esta semana en AI, OpenAI reveló que es explorador cómo generar “responsablemente” pornografía con IA. Si, escuchaste bien. Anunciada en un documento destinado a abrir las cortinas y recopilar comentarios sobre las instrucciones de su IA, la nueva política NSFW de OpenAI tiene como objetivo iniciar una conversación sobre cómo y dónde la compañía podría permitir imágenes y texto explícitos en sus productos de IA, dijo OpenAI.
“Queremos asegurarnos de que las personas tengan el máximo control en la medida en que no viole la ley ni los derechos de otras personas”, dijo Joanne Jang, miembro del equipo de producto de OpenAI. le dijo a NPR. “Hay casos creativos en los que el contenido que involucra sexualidad o desnudez es importante para nuestros usuarios”.
No es la primera vez que OpenAI ha manifestado su voluntad de sumergirse en territorio controvertido. A principios de este año, Mira Murati, directora de tecnología de la empresa, dijo The Wall Street Journal que “no estaba segura” de si OpenAI eventualmente permitiría que su herramienta de generación de videos, Sora, se utilizara para crear contenido para adultos.
Entonces, ¿qué hacer con esto?
Allá es un futuro en el que OpenAI abre la puerta a la pornografía generada por IA y todo resulta… bien. No creo que Jang se equivoque al decir que existen formas legítimas de expresión artística para adultos, expresiones que podrían crearse con la ayuda de herramientas impulsadas por inteligencia artificial.
Pero no estoy seguro de que podamos confiar en OpenAI, o en cualquier proveedor de IA generativa, para hacerlo bien.
Consideremos, por ejemplo, el ángulo de los derechos de los creadores. Los modelos de OpenAI han sido entrenados en grandes cantidades de contenido web público, algunos de ellos sin duda de naturaleza pornográfica. Pero OpenAI no ha otorgado licencias para todo este contenido, ni siquiera ha permitido a los creadores optar por no recibir capacitación hasta hace relativamente poco tiempo (e incluso entonces, solo ciertas formas de capacitación).
Es difícil ganarse la vida con contenido para adultos, y si OpenAI llevara la pornografía generada por IA a la corriente principal, los creadores enfrentarían una competencia aún más dura: competencia construida sobre las espaldas de los trabajos de esos creadores, no en vano.
El otro problema que tengo en mente es la falibilidad de las salvaguardias actuales. OpenAI y sus rivales han estado perfeccionando sus herramientas de filtrado y moderación durante años. Pero los usuarios descubren constantemente soluciones que les permiten abusar de los modelos, aplicaciones y plataformas de IA de las empresas.
Apenas en enero, Microsoft se vio obligado a realizar cambios en su herramienta de creación de imágenes Designer, que utiliza modelos OpenAI, después de que los usuarios encontraran una manera de crear imágenes desnudas de Taylor Swift. En cuanto a la generación de texto, es trivial encontrar chatbots construidos sobre modelos supuestamente “seguros”, como Claude 3 de Anthropic, que escupir fácilmente erótica.
La IA ya ha creado una nueva forma de abuso sexual. Los estudiantes de primaria y secundaria están utilizando aplicaciones impulsadas por inteligencia artificial para “quitar” fotos de sus compañeros de clase sin el consentimiento de esos compañeros; un 2021 encuesta Un estudio realizado en el Reino Unido, Nueva Zelanda y Australia encontró que el 14% de los encuestados de entre 16 y 64 años habían sido víctimas de imágenes deepfake.
Nuevas leyes en Estados Unidos y otros lugares apuntan a combatir esto. Pero aún no se sabe si el sistema de justicia (un sistema de justicia que ya lucha por erradicar la mayoría de los delitos sexuales – poder regular una industria tan rápida como la IA.
Francamente, es difícil imaginar un enfoque que OpenAI podría adoptar para la pornografía generada por IA que no esté lleno de riesgos. Quizás OpenAI reconsidere su postura una vez más. O tal vez, contra todo pronóstico, voluntad encontrar una mejor manera. Cualquiera que sea el caso, parece que lo descubriremos más temprano que tarde.
Aquí hay algunas otras historias destacadas de IA de los últimos días:
- Los planes de IA de Apple: El director ejecutivo de Apple, Tim Cook, reveló algunos datos sobre los planes de la compañía para avanzar con la IA durante la llamada de resultados con los inversores de la semana pasada. Sarah tiene la historia completa.
- GenIA empresarial: Los directores ejecutivos de Dropbox y Figma, Drew Houston y Dylan Field, respectivamente, han invertido en Lamini, una startup que construye tecnología de inteligencia artificial generativa junto con una plataforma de alojamiento de inteligencia artificial generativa dirigida a organizaciones empresariales.
- IA para servicio al cliente: Airbnb está lanzando una nueva función que permite a los anfitriones optar por sugerencias impulsadas por IA para responder a las preguntas de los huéspedes, como enviarles una guía de pago de la propiedad.
- Microsoft restringe el uso de IA: Microsoft ha reafirmado su prohibición a los departamentos de policía de EE. UU. de utilizar IA generativa para el reconocimiento facial. También ha prohibido a las fuerzas del orden a nivel mundial aplicar tecnología de reconocimiento facial en cámaras corporales y cámaras para salpicadero.
- Dinero para la nube: Los proveedores de nube alternativos como CoreWeave están recaudando cientos de millones de dólares a medida que el auge de la IA generativa impulsa la demanda de hardware de bajo costo para entrenar y ejecutar modelos.
- RAG tiene sus límites: Las alucinaciones son un gran problema para las empresas que buscan integrar la IA generativa en sus operaciones. Algunos proveedores afirman que pueden eliminarlos mediante una técnica llamada RAG. Pero esas afirmaciones son muy exageradas, según lo cree sinceramente un servidor.
- Resumen de la reunión de Vogels: El CTO de Amazon, Werner Vogels, abrió una aplicación de resumen de reuniones llamada Distill. Como era de esperar, se apoya en gran medida en los productos y servicios de Amazon.