Un equipo de investigadores de la Universidad de las Islas Baleares (UIB) ha desarrollado una nueva forma de evaluar los sistemas de inteligencia artificial (IA) explicable (XAI), que tiene como objetivo principal conocer el funcionamiento interno de estos modelos.
Hoy, la mayoría de los modelos de inteligencia artificial son cajas negras. Es decir, que ni siquiera sus creadores saben por qué toman una decisión u otra. Este hecho contrasta con la legislación europea, que promueve la transparencia y la supervisión, elementos que sólo se pueden conseguir mediante técnicas XAI.
El trabajo de este grupo de investigadores de la UIB, por tanto, es clave para mejorar la confianza en estos sistemas, especialmente en ámbitos sensibles como la salud. El estudio ha sido publicado en la prestigiosa revista Artificial Intelligence.
El estudio presenta tres conjuntos innovadores de datos visuales que permiten comprobar si las explicaciones que dan estos modelos son correctas y fiables. Los resultados muestran cómo algunas de las técnicas de explicación más utilizadas en la literatura científica y en la industria pueden generar errores o información confusa, y cómo otras menos utilizadas son una propuesta más adecuada para resolver los problemas.
Este trabajo ayuda a identificar qué métodos son realmente útiles y abre el camino a una inteligencia artificial más segura y transparente. Con este avance, la UIB reafirma su compromiso con una tecnología más ética y comprensible para todos.
Los investigadores del Departamento de Ciencias Matemáticas e Informática de la UIB que han participado en este estudio son los doctores Miquel Miró Nicolau, Antoni Jaume y Capó y Gabriel Moyà Alcover, miembros de la Unidad de Gráficos y Visión por Ordenador e IA (UGiVIA) y del Laboratorio de Aplicaciones de IA
El estudio se ha realizado en el marco de los proyectos de I+D+I PID2019-104829RA-I00 EXPLainable Artificial INtelligence systems for health and well-beING (EXPLAINING), financiado por el Ministerio de Ciencia e Innovación, y la Agencia Estatal de Investigación (MCIN5/01/01 ID2022-136779OB-C32 (PLEISAR), financiado por el Ministerio de Ciencia, Innovación y Universidades, y la Agencia Estatal de Investigación (MICIU/AEI/10.13039/501100011033) y Fondo de Desarrollo Regional Europeo. Miquel Miró Nicolau ha sido beneficiario del contrato predoctoral FPI_035_2020 del Govern de las Illes Balears.
