Miquel Miró Nicolau - Foto: A. Costa/UIB
La tesis doctoral de Miquel Miró Nicolau, defendida recientemente en la Universidad de las Islas Baleares, tiene como objetivo aportar soluciones a la problemática de los sistemas de inteligencia artificial explicables, especialmente en las posibles aplicaciones en el ámbito médico.
Para ello, el investigador utiliza un conjunto de técnicas llamadas inteligencia artificial explicable (conocidas como XAI por sus siglas en inglés), que buscan hacer comprensibles y transparentes los procesos de toma de decisiones de los sistemas de inteligencia artificial.
El investigador ha elaborado diferentes métodos para identificar la calidad, de forma objetiva, de las explicaciones proporcionadas por la inteligencia artificial. Para ello, ha desarrollado un conjunto de datos y medidas matemáticas que permiten identificar las explicaciones erróneas y así descartarlas para un futuro.
De esta forma, se favorece que los usuarios puedan tener mayor confianza en la fiabilidad y la capacidad de explicación de los sistemas de inteligencia artificial. Los métodos y técnicas desarrollados en el marco de su tesis doctoral se han puesto a prueba en el marco de una colaboración con el Hospital de Son Espases.
Así se ha evaluado si el uso puede ayudar a los radiólogos a llevar a cabo su tarea de forma es eficiente. También se han utilizado en un trabajo realizado en colaboración con investigadores de la Universidad de Normandía (Francia), centrado en el uso de gemelos digitales.
Los gemelos digitales son copias digitales de un cuerpo humano, en el que se analizaba la aplicación de estas técnicas para la detección de tumores cerebrales mediante imágenes de resonancia magnética.
La investigación de Miquel Nicolau se ha realizado en el marco de su actividad como miembro de la Unidad de Gráficos y Visión por Ordenador e IA y del Laboratorio de Aplicaciones de Inteligencia Artificial (LAIA) de la UIB.
El uso de las redes neuronales ha experimentado un notable crecimiento que ha tenido impacto en sectores diversos, desde la tecnología a la medicina. Estas estructuras computacionales, inspiradas en el funcionamiento del cerebro humano, han demostrado gran capacidad para gestionar grandes cantidades de información.
La fiabilidad y la capacidad de explicación de las predicciones de estos sistemas de inteligencia artificial siguen siendo un problema importante. La falta de transparencia en el funcionamiento y la dificultad para entender cómo llegan a sus conclusiones generan desconfianza y preocupaciones sobre su aplicación en entornos críticos, como el sanitario. Esta tesis ayudará a resolver este problema.
