Leah Feiger: Está bien, es una buena idea. Gracias, Tori. Will, ¿qué tienes para nosotros?
Será caballero: Vaya, no sé si realmente puedo competir con RFK, pero como buen agente de la CIA, supongo que voy a promover algo de los rincones más extraños de la IA, la IA y la filosofía. Existe algo llamado basilisco de Roko. El basilisco es una criatura mitológica, una serpiente, que si la miras a los ojos, puede matarte. Y hubo un experimento mental que alguien publicó en un foro de IA diciendo que la superinteligencia del futuro estaría incentivada a crear una simulación en la que tal vez todos existiéramos dentro de ella, y estaría incentivada a torturar a cualquiera que trabajara en contra o incluso pensara en la idea de trabajar en contra de su creación. Entonces, en un momento dado, en uno de estos…
Leah Feiger: Increíble.
Será caballero: … foros, prohibieron hablar del experimento mental de Roko, el basilisco de Roko. La idea era que si uno lo pensaba, podía ser peligroso, lo cual es particularmente absurdo.
Leah Feiger: Qué gracioso. ¿En qué foros se está difundiendo o no este fenómeno?
Será caballero: Esto fue en LessWrong, que es un foro muy famoso dedicado a los riesgos y la alineación de la IA y…
Leah Feiger: ¿Con qué frecuencia piensas personalmente en el basilisco de Roko?
Será caballero: Bueno, en realidad lo descubrí hace poco y trato de no pensar en ello por si acaso. Es como la apuesta de Pascal, ¿no? Es como jugar con las probabilidades de que la superinteligencia se haga realidad, así que hay que intentar que se haga realidad. Sí, es una locura.
Leah Feiger: Ah, esa es muy buena. Vale. Ah, en realidad, esta semana es un poco difícil, pero tengo que ir con Tori. Agentes de la CIA, aquí vamos.
Victoria Elliott: Por fin. ¿Los Ravens me hicieron perder el control? Debo saberlo.
Leah Feiger: Los Ravens te hicieron superar el desafío. Me gustó y fue parte de eso. Vi cuánto te esforzaste por lograrlo y sí, recibiste una A por el esfuerzo y una A por la ejecución. Buen trabajo.
Victoria Elliott: Gracias.
Leah Feiger: Y en parte, no puedo darle la victoria a algo en lo que no me está permitido pensar nunca más. Tori y Will, muchas gracias por acompañarnos. Fueron unos invitados excelentes.
Victoria Elliott: Gracias, Leah.
Será caballero: Gracias por invitarme.
Leah Feiger: Gracias por escuchar WIRED Laboratorio de políticaSi te gusta lo que escuchaste hoy, asegúrate de seguir el programa y calificarlo en la aplicación de podcast que prefieras. También tenemos un boletín informativo, que Makena Kelly escribe cada semana. El enlace al boletín informativo y el reportaje de WIRED que mencionamos hoy se encuentran en las notas del programa. Si deseas comunicarte con nosotros si tienes alguna pregunta, comentario o sugerencia para el programa, escríbenos a politicslab@WIRED.com. Es politicslab@WIRED.com. Estamos muy emocionados de saber de ti. WIRED Laboratorio de política Jake Harper produce este episodio. Pran Bandi es nuestro ingeniero de estudio. Amar Lal mezcló este episodio. Stephanie Kariuki es nuestra productora ejecutiva. Chris Bannon es el director global de audio en Condé Nast y yo soy su presentadora, Leah Feiger. Volveremos a aparecer en sus feeds con un nuevo episodio la próxima semana.
