TOKIO, 26 de febrero de 2025 – Mitsubishi Electric Corporation (TOKIO: 6503) anunció hoy que ha desarrollado una “tecnología de verificación formal rápida para IA”, dirigida a modelos de IA conocidos como conjuntos de árboles de decisión.¹ Esta tecnología tiene como objetivo reducir el riesgo de fallo de la IA y ayudar a hacer realidad una sociedad en la que la IA pueda utilizarse con confianza. Su desarrollo es una consecuencia directa del desarrollo de Maisart^® de Mitsubishi Electric.²

Para abordar el rápido avance de la tecnología de IA y su uso cada vez mayor a nivel mundial, el 1 de agosto de 2024 entró en vigor el primer marco legal integral del mundo para la IA, la “Ley de Inteligencia Artificial de la UE”. Países de todo el mundo están estableciendo leyes y directrices similares para abordar los riesgos de la IA, exigiendo a las empresas que desarrollan y proporcionan IA que gestionen estos riesgos adecuadamente. La fiabilidad de la IA es particularmente crucial en sistemas donde la seguridad es crítica, como los sistemas de control autónomos, los sistemas de energía y de infraestructura social y los sistemas de ciberseguridad, debido al daño significativo que pueden causar los errores.

Normalmente, la fiabilidad de la IA se evalúa utilizando un conjunto finito de datos de prueba que no se utilizan en el entrenamiento del modelo y evaluando métricas como la precisión. Sin embargo, el comportamiento de la IA es muy complejo e incluso si los resultados de las pruebas son 100 % precisos, no se puede eliminar el riesgo de errores con datos no probados. Para abordar esta cuestión, se ha propuesto un método de verificación formal, que implica establecer de antemano el comportamiento esperado de la IA y verificar rigurosamente que funciona como se espera, sin omisiones. Sin embargo, la verificación formal ha sido limitada debido al enorme tiempo requerido para verificar grandes modelos de IA y la dificultad de determinar la prioridad para abordar el riesgo de fallos.

Para abordar estos problemas, Mitsubishi Electric ha desarrollado un nuevo algoritmo destinado a realizar de manera eficiente la verificación formal de conjuntos de árboles de decisión, ampliamente utilizados para tareas como la predicción de datos numéricos, y una herramienta de verificación interactiva que utiliza este algoritmo. Al aprovechar esta tecnología, los desarrolladores de IA pueden realizar rápidamente procesos de verificación formal, reduciendo así el riesgo de errores de IA. Esta mejora en la fiabilidad de la IA ayudará a hacer realidad una sociedad en la que la IA pueda utilizarse con mayor confianza.