Explainable AI: Blick in die Black-Box

Deep-Learning-Ansätze ermöglichen die Erstellung hochpräziser Modelle für den Einsatz in unterschiedlichsten Anwendungsbereichen, etwa der Produktion oder Medizin. Allerdings haben diese Modelle Black-Box-Charakter, da die von ihnen gelernten Zusammenhänge so komplex und abstrakt sind, dass sie von Menschen – selbst von Experten – nicht nachvollzogen werden können. Bei einigen Anwendungen, etwa in sicherheitskritischen Bereichen, ist jedoch nicht nur die Genauigkeit der Vorhersagen, sondern auch das Vertrauen in die Algorithmen von enormer Bedeutung. Nina Schaaf vom Fraunhofer IPA gibt einen allgemeinen Überblick über »Explainable AI«. Dies umfasst die Motivation für das Forschungsfeld, wichtige Begriffsdefinitionen sowie eine Auswahl gängiger Erklärungstechniken. 00:52 − KI in der Produktion 04:19 − Famous Fails 08:20 − Herausforderung: Erklärbarkeit und Transparenz 21:13 − Arten von xAI 28:12 − Von der Black-Box zur Erklärung 30:44 − xAI Demonstrator 34:57 − Zusammenfassung Kontakt: Nina Schaaf, Telefon: +49 711 970-1971, E-Mail: [email protected]