El filósofo Nick Bostrom está sorprendentemente alegre para alguien que ha pasado tanto tiempo preocupándose por las formas en que la humanidad podría destruirse a sí misma. En las fotografías a menudo parece tremendamente serio, tal vez apropiadamente atormentado por los peligros existenciales que rondan por su cerebro. Cuando hablamos por Zoom, se ve relajado y sonriendo.
Bostrom se ha dedicado a reflexionar sobre los avances tecnológicos lejanos y los riesgos existenciales para la humanidad. Con la publicación de su último libro, Superinteligencia: caminos, peligros, estrategiasen 2014, Bostrom llamó la atención del público sobre lo que entonces era una idea marginal: que la IA avanzaría hasta un punto en el que podría volverse contra la humanidad y eliminarla.
Para muchos dentro y fuera de la investigación de la IA, la idea parecía fantasiosa, pero figuras influyentes incluido Elon Musk citó los escritos de Bostrom. El libro generó una corriente de preocupación apocalíptica sobre la IA que estalló recientemente tras la llegada de ChatGPT. La preocupación por el riesgo de la IA no es sólo un tema generalizado, sino también un tema dentro de los círculos políticos gubernamentales de IA.
El nuevo libro de Bostrom adopta un rumbo muy diferente. En lugar de tocar los éxitos fatales, Utopía profunda: vida y significado en un mundo resuelto, considera un futuro en el que la humanidad haya desarrollado con éxito máquinas superinteligentes pero haya evitado el desastre. Se ha acabado con todas las enfermedades y los humanos pueden vivir indefinidamente en infinita abundancia. El libro de Bostrom examina qué significado tendría la vida dentro de una tecno-utopía y se pregunta si podría ser más bien vacía. Habló con WIRED a través de Zoom, en una conversación que ha sido ligeramente editada para mayor extensión y claridad.
Will Knight: ¿Por qué pasar de escribir sobre la IA superinteligente que amenaza a la humanidad a considerar un futuro en el que se utilizará para hacer el bien?
Nick Bostrom: Las diversas cosas que podrían salir mal en el desarrollo de la IA están recibiendo ahora mucha más atención. Es un gran cambio en los últimos 10 años. Ahora todos los principales laboratorios de IA de vanguardia tienen grupos de investigación que intentan desarrollar métodos de alineación escalables. Y también en los últimos años hemos visto líderes políticos empezando a prestar atención a la IA.
Todavía no ha habido un aumento proporcional en profundidad y sofisticación en términos de pensar hacia dónde irán las cosas si no caemos en uno de estos pozos. Se ha pensado bastante superficialmente sobre el tema.
cuando escribiste superinteligencia, pocos hubieran esperado que los riesgos existenciales de la IA se convirtieran en un debate generalizado tan rápidamente. ¿Tendremos que preocuparnos por los problemas de su nuevo libro antes de lo que la gente piensa?
A medida que comencemos a ver el despliegue de la automatización, suponiendo que el progreso continúe, creo que estas conversaciones comenzarán a ocurrir y eventualmente se profundizarán.
Las aplicaciones sociales complementarias serán cada vez más prominentes. La gente tendrá todo tipo de puntos de vista diferentes y es un gran lugar para tal vez tener una pequeña guerra cultural. Podría ser genial para las personas que no pueden encontrar satisfacción en la vida ordinaria, pero ¿qué pasa si hay un segmento de la población que disfruta abusando de ellos?
En el ámbito político y de la información podríamos ver el uso de la IA en campañas políticas, marketing y sistemas automatizados de propaganda. Pero si tenemos un nivel suficiente de sabiduría, estas cosas realmente podrían amplificar nuestra capacidad de ser ciudadanos democráticos constructivos, con asesoramiento individual que explique lo que las propuestas políticas significan para usted. Habrá un montón de dinámicas para la sociedad.
¿Sería realmente tan malo un futuro en el que la IA haya resuelto muchos problemas, como el cambio climático, las enfermedades y la necesidad de trabajar?