La confiabilidad es por definición la capacidad de prestar un servicio en el que se puede confiar justificadamente. En el caso de aplicaciones de conducción autónoma, en los que los fallos pueden conllevar daños a las personas o al mismo sistema de conducción, asegurar el concepto de confiabilidad es clave desde las primeras etapas de desarrollo. Dicho proceso suele estar basado en la elaboración de modelos abstractos de los componentes del sistema y la posterior simulación su comportamiento, sometiéndolo a procesos de análisis, verificación y validación que nos permita alcanzar la confiabilidad esperada.

El desarrollo del modelo de cada componente suele estar basado en diferentes niveles de abstracción, con el objetivo de garantizar la mejor aproximación posible a su comportamiento real. En este proceso es habitual el uso de diferentes entornos de modelado y simulación como por ejemplo MATLAB/Simulink o Dymola. Sin embargo, esto puede causar problemas a la hora de integrarlos para la verificación global del sistema por la interfaz de comunicación o por errores al portar modelos de un entorno a otro. Para solucionar este problema, Ikerlan ha desarrollado una interfaz genérica de simulación basada en el estándar no propietario Distributed Co-simulation Protocol (DCP) en el marco del proyecto AUTOEV@L. Mediante esta interfaz, se quiere lograr una comunicación estandarizada, no solo entre diferentes entornos de simulación, sino también entre diferentes plataformas hardware que ayuden en el proceso de análisis, verificación y validación de estos sistemas. Los resultados han sido publicados en la revista IEEE access.

De forma paralela, es necesario garantizar la mitigación y el control de los errores que tienen lugar en los sistemas embebidos en los que se implementa el sistema para que no lleven a situaciones catastróficas. Este es un atributo de la confiabilidad que recibe el nombre de seguridad funcional. Existen varios estándares que guían el proceso de desarrollo de sistemas relacionados con la seguridad funcional, definiendo los requerimientos, técnicas y medidas para garantizar el funcionamiento adecuado del mismo. Varios ejemplos en función del ámbito de aplicación son el estándar IEC 61508 (sector industrial) o el ISO 26262 (automoción). No obstante, la complejidad de los sistemas de conducción autónoma suele requerir plataformas computacionales de alto rendimiento integrando aceleradores como GPUs que presentan un gran nivel de paralelización no contemplado en estos estándares. De manera adicional, tampoco se contempla el uso de la inteligencia artificial, que está cobrando el interés de los sistemas de conducción autónomos por llevar a cabo de manera cada vez más precisa funciones complejas, como la detección de objectos, que son cruciales en la conducción autónoma.

Como primer paso para abordar el problema, Ikerlan se ha centrado en garantizar el despliegue software de forma segura de sistemas relacionados con la seguridad que incluyen inteligencia artificial sobre plataformas de alto rendimiento. Para ello ha diseñado e implementado un catálogo de diagnósticos para detectar errores a la hora de realizar la computación de la multiplicación de matrices, componente clave en términos de tiempo de computación en redes neuronales convolucionales (CNN por sus siglas en inglés). También se ha diseñado una metodología para proteger de forma selectiva CNNs implementadas en GPUs mediante la utilización de este catálogo de diagnósticos, implementándose en Tiny YOLO v3, un detector de objectos basado en CNNs. Los resultados de esta contribución han sido presentados en la International Conference on System Reliability and Safety 2022.

Por último, cabe mencionar que la experiencia obtenida durante el proyecto AUTOEV@L ha contribuido a la elaboración del proyecto europeo SAFEXPLAIN, actualmente en curso. Este proyecto se centra en la certificación desde el punto de vista de la seguridad funcional de sistemas que involucran el uso de inteligencia artificial. Además, se prevé la diseminación de los resultados obtenidos en AUTOEV@L en el congreso HIPEAC que tendrá lugar en Toulouse en 2023, con el objetivo de visibilizar los avances en la temática.