Informe final del proyecto: Verificación de Sistemas Inteligentes con Componentes con Capacidad de Aprendizaje

Abstract

Los sistemas de información actuales incluyen cada vez más componentes de inteligencia artificial con capacidad de aprendizaje, en particular las redes neuronales artificiales. Esto no se limita a sistemas de bajo riesgo, como por ejemplo, organizar un álbum de fotos, sino que el área está evolucionando con gran rapidez hacia su aplicación en sistemas críticos de alto riesgo, como el control de vehículos autónomos o el diagnóstico médico, cuyo mal funcionamiento puede causar daños irreparables a personas o al medioambiente. Para hacer frente a esta realidad, este proyecto se ubica dentro del área general de la "IA verificada" cuyo objetivo es diseñar sistemas de IA que tengan garantías sólidas de corrección con respecto a requisitos especificados matemáticamente. Su objetivo contribuir al desarrollo de métodos formales para la construcción de sistemas críticos con componentes de IA verificados. La dificultad de esta iniciativa es que si bien los componentes capaces de aprender implementan intrínsecamente algún modelo de cómputo, esto no significa que su verificación formal sea tratable con las técnicas existentes dado que son difíciles de formalizar. Un área de especial interés en el ámbito de sistemas críticos es garantizar que la evolución del estado de un sistema en el tiempo, consecuencia de las acciones que hace durante su funcionamiento, cumple ciertas propiedades. Este problema se expresa naturalmente en términos de lenguajes formales y lógicas temporales. En el caso de las redes neuronales artificiales, se trata de aquellas que manipulan secuencias, como las recurrentes y los Transformers. Concretamente, el objetivo del proyecto es desarrollar técnicas que contribuyan a garantizar el correcto comportamiento de sistemas de inteligencia artificial basados en redes neuronales sobre secuencias mediante la extracción de modelos formales que sirvan de base para la verificación de propiedades y la síntesis de controladores que guíen su comportamiento.