la versión original de esta historia apareció en Revista Quanta.
Coches sin conductor y Los aviones ya no son cosa del futuro. Solo en la ciudad de San Francisco, dos compañías de taxis han registrado colectivamente 8 millones de millas de conducción autónoma hasta agosto de 2023. Y más de 850.000 vehículos aéreos autónomos, o drones, están registrados en Estados Unidos, sin contar los propiedad del ejército.
Pero existen preocupaciones legítimas sobre la seguridad. Por ejemplo, en un período de 10 meses que finalizó en mayo de 2022, la Administración Nacional de Seguridad del Tráfico en Carreteras reportado Casi 400 accidentes que involucraron a automóviles que utilizaron alguna forma de control autónomo. Seis personas murieron como consecuencia de estos accidentes y cinco resultaron gravemente heridas.
La forma habitual de abordar este problema, a veces denominada “prueba por agotamiento”, implica probar estos sistemas hasta que esté satisfecho de que son seguros. Pero nunca se puede estar seguro de que este proceso descubrirá todos los defectos potenciales. “La gente hace pruebas hasta agotar sus recursos y su paciencia”, dijo Sayán Mitra, científico informático de la Universidad de Illinois, Urbana-Champaign. Sin embargo, las pruebas por sí solas no pueden ofrecer garantías.
Mitra y sus colegas sí pueden. Su equipo ha conseguido probar el seguridad de capacidades de seguimiento de carriles para automóviles y sistemas de aterrizaje para aviones autónomos. Su estrategia se está utilizando ahora para ayudar a aterrizar drones en portaaviones, y Boeing planea probarla en un avión experimental este año. “Su método para proporcionar garantías de seguridad de extremo a extremo es muy importante”, dijo Corina Pasareanucientífico investigador de la Universidad Carnegie Mellon y del Centro de Investigación Ames de la NASA.
Su trabajo pasa por garantizar los resultados de los algoritmos de aprendizaje automático que se utilizan para informar a los vehículos autónomos. A alto nivel, muchos vehículos autónomos tienen dos componentes: un sistema de percepción y un sistema de control. El sistema de percepción le dice, por ejemplo, a qué distancia está su coche del centro del carril, o en qué dirección se dirige un avión y cuál es su ángulo con respecto al horizonte. El sistema funciona alimentando datos sin procesar de cámaras y otras herramientas sensoriales a algoritmos de aprendizaje automático basados en redes neuronales, que recrean el entorno fuera del vehículo.
Luego, estas evaluaciones se envían a un sistema independiente, el módulo de control, que decide qué hacer. Si, por ejemplo, se avecina un obstáculo, decide si frena o gira para sortearlo. De acuerdo a luca carloneprofesor asociado del Instituto de Tecnología de Massachusetts, si bien el módulo de control se basa en tecnología bien establecida, “toma decisiones basadas en los resultados de la percepción y no hay garantía de que esos resultados sean correctos”.
Para brindar una garantía de seguridad, el equipo de Mitra trabajó para garantizar la confiabilidad del sistema de percepción del vehículo. Al principio supusieron que es posible garantizar la seguridad cuando se dispone de una representación perfecta del mundo exterior. Luego determinaron cuánto error introduce el sistema de percepción en su recreación del entorno del vehículo.
La clave de esta estrategia es cuantificar las incertidumbres involucradas, lo que se conoce como banda de error, o las “incógnitas conocidas”, como lo expresó Mitra. Ese cálculo proviene de lo que él y su equipo llaman contrato de percepción. En ingeniería de software, un contrato es un compromiso de que, para una determinada entrada a un programa de computadora, la salida estará dentro de un rango específico. Calcular este rango no es fácil. ¿Qué precisión tienen los sensores del coche? ¿Cuánta niebla, lluvia o resplandor solar puede tolerar un dron? Pero si se puede mantener el vehículo dentro de un rango específico de incertidumbre y si la determinación de ese rango es suficientemente precisa, el equipo de Mitra demostró que se puede garantizar su seguridad.