¿Cómo pasa sus días el director de tecnología de Amazon, Werner Vogels, un hombre con un valor incalculable que durante la pandemia de COVID-19 compró directamente el pequeño Airbnb en el centro de Ámsterdam en el que había estado viviendo? Por lo que parece: crear aplicaciones de resumen de reuniones basadas en inteligencia artificial. Imagínate.
en un correo esta semana en el blog personal de Vogels, detalla Distill, una aplicación de código abierto que creó con su equipo “OCTO” (Oficina del CTO) para transcribir y resumir sus conferencias telefónicas. Distill toma una grabación de audio de una reunión (en formatos como MP3, FLAC y WAV), la analiza y genera un resumen junto con una lista de tareas pendientes. Opcionalmente, puede mostrar ese resumen y enumerarlo en plataformas como Slack a través de integraciones personalizadas.
Como se podría esperar de una aplicación del CTO de Amazon, Distill depende notoriamente de los productos y servicios pagos de Amazon para realizar el trabajo pesado computacional. AWS Transcribe realiza la transcripción de Distill; Amazon S3 proporciona almacenamiento para los archivos de audio de la reunión; y Bedrock, la suite de desarrollo de IA generativa de Amazon, se encarga del resumen.
Pero, ¿por qué crear un resumen de reuniones cuando existen innumerables herramientas que cumplirían ese propósito? Bueno, tengo que imaginar que Vogels pensó, ¿por qué no? Después de todo, tiene toneladas de recursos a su disposición y suficiente tiempo libre para proyectos de programación de aficionados. Según el blog, ya está intentando portar el código de Distill de Python a Rust. Ser CTO es un buen trabajo si puedes conseguirlo.
Una característica única de Distill es que le permite seleccionar qué modelo de IA realiza el resumen de la reunión. Por defecto, es Sonnet, un modelo de gama media de la familia Claude 3 de Anthropic. (La enorme participación de Amazon en Anthropic podría haber tenido algo que ver con esa decisión de diseño). Pero cualquier modelo alojado en Bedrock funcionará, como Meta’s Llama 3 y los modelos de las nuevas empresas de inteligencia artificial Mistral, AI21 Labs y Cohere.
Vogels no promete que Distill no cometerá errores.
“Recuerde, la IA no es perfecta”, escribe. “Algunos de los resúmenes que recibimos… tienen errores que necesitan ajuste manual. Pero está bien, porque aún así acelera nuestros procesos. Es simplemente un recordatorio de que aún debemos discernir e involucrarnos en el proceso. El pensamiento crítico es tan importante ahora como siempre”.
Yo diría que tener que estar “involucrado” en resumir anula el objetivo de un resumidor automático. También podrías contratar a una taquígrafa. Pero nunca verás a Vogels hablando mal de la tecnología que vende su empleador. Y apuesto a que esa es la razón por la que sigue siendo CTO.