IA Explicable (XAI)

El vídeo introductorio aborda la creciente importancia de la IA Explicable, contrastándola con la IA Responsable. Explica la necesidad de comprender los mecanismos internos de la IA generativa para justificar sus respuestas y decisiones, destacando las limitaciones inherentes a su estructura de "caja negra" y los sesgos presentes en los datos de entrenamiento. Se mencionan ejemplos de fallos derivados de la falta de explicabilidad y se exploran las razones fundamentales por las que la IA Explicable es crucial, especialmente en sectores sensibles como la salud y la educación. Finalmente, se introducen algunas herramientas y enfoques que buscan proporcionar mayor transparencia a los modelos de IA, como LIME y SHAP, y se menciona la relevancia de la normativa europea en este ámbito. Temas Principales e Ideas Clave 1. Introducción a la IA Explicable y su Necesidad 2. Fundamentos de la IA Generativa y la "Caja Negra" 3. Ejemplos de Errores y la Necesidad de Explicabilidad 4. Sesgos en los Datos de Entrenamiento como Otra Razón para la Explicabilidad 5. Impacto en Sectores Críticos como Salud y Educación 6. Investigación y Herramientas para la IA Explicable: LIME (Local Interpretable Model-agnostic Explanations) vs SHAP (SHapley Additive exPlanations) 7. La Normativa Europea y la Exigencia de Explicabilidad 8. Conclusión y Perspectivas Futuras