Nos alegra compartir con ustedes que Martín Moschettoni ha accedido una beca de entrenamiento BENTRE23 otorgada por la CIC. Estará trabajando con sus directoras Gabriela Pérez y Claudia Pons en el tema “Técnicas de interpretación y explicación del comportamiento de redes neuronales artificiales.

Las técnicas de inteligencia artificial basadas en aprendizaje profundo con redes neuronales artificiales muestran gran efectividad. Sin embargo, su estructura no lineal anidada las hace poco transparentes, es decir, no está claro qué información de los datos de entrada les hace llegar realmente a sus decisiones.  Por ello, estos modelos suelen considerarse cajas negras. 

El uso de modelos de IA explicables e interpretables por humanos es un requisito para poder utilizarlos en sistemas que requieran transparencia, precisión  y confianza. 

El objetivo de este proyecto es el desarrollo de técnicas para «abrir» modelos de caja. Esto incluye el desarrollo de métodos que ayudan a comprender mejor lo que el modelo ha aprendido (es decir, su representación), así como técnicas para explicar predicciones individuales. 

¡Felicitaciones Martín!