#85 - Sicherheit und Zuverlässigkeit von KI, Teil 1: Neue Herausforderungen beim KI-Einsatz

In „Chatbots und KI“ diskutiert Thomas Bahn mit interessanten Gästen aus Wirtschaft und Wissenschaft über Nutzen, Anwendungen und Erfahrungen aus den Bereichen Chatbots und Künstliche Intelligenz. Thema der heutigen Folge: Unsere digitale Welt beruht auf Vertrauen. Wir vertrauen darauf, dass unsere Banküberweisungen korrekt verbucht werden, dass medizinische Geräte präzise messen und dass die Software in Kraftwerken oder Krankenhäusern vor Angriffen sicher ist. Lange Zeit war klar: Dieses Vertrauen baut auf Systemen, die wir testen, zertifizieren und kontrollieren können. Doch aktuell entsteht eine neue Generation von agentischen Systemen, die nicht mehr nur regelbasiert arbeitet, sondern Inhalte erzeugt, Entscheidungen eigenständig trifft und sich an neue Situationen anpasst. Sie liest und schreibt Daten, führt Prozesse autonom aus und interagiert mit unserer realen Umgebung. Dadurch eröffnen sich enorme Möglichkeiten, aber auch eine neue Art von Risiko. Denn je eigenständiger solche Systeme handeln, desto unvorhersehbarer können ihre Fehler sein. In dieser Folge von Chatbots und KI sprechen Thomas Bahn und Prof. Dr. Dirk Nowotka darüber, wie KI die Bedeutung von Sicherheit und Zuverlässigkeit im IT-Kontext verändert, welche Branchen besonders auf diese Veränderungen reagieren müssen und welche Gefahren von der Manipulation von KI für Unternehmen ausgehen. Zeitstempel: 00:00:00 Intro 00:01:57 Vorstellung von Prof. Dr. Dirk Nowothka 00:03:37 Was bedeuten Sicherheit und Zuverlässigkeit im IT-Kontext? 00:06:15 Welche Branchen sind besonders gefährdet? 00:08:20 Welche neuen Sicherheitsherausforderungen bringt KI mit sich? 00:19:05 Manipulation von KI-Modellen 00:26:43 Outro Weitere Informationen: Forschung in der Arbeitsgruppe Zuverlässige Systeme https://www.uni-kiel.de/de/tf/forsche... Heute zu Gast: Prof. Dr. Dirk Nowotka ist seit 14 Jahren Professor am Institut für Informatik der Christian-Albrechts-Universität zu Kiel und leitet dort den Bereich „Zuverlässige Systeme”. Prof. Nowotka ist Sprecher des KI-Anwendungszentrums an der CAU zu Kiel und engagiert sich in zahlreichen Initiativen zur KI, wie etwa im KI-Transfer-Hub Schleswig-Holstein. Er gilt als wichtiger Experte für KI-Sicherheit und Zuverlässigkeit und verknüpft dabei grundlegende Forschung mit praktischen Anwendungen in Wirtschaft und Gesellschaft.   / nowotka   https://www.uni-kiel.de/de/person/now... Über Thomas Bahn: Thomas Bahn(  / thomasbahn  ) ist Geschäftsführer, Mitgründer und Gesellschafter der assono GmbH. Seit mehr als 25 Jahren berät er deutschlandweit erfolgreich Unternehmen rund um die Themen Software und Digitalisierung. Als Host des Podcasts „Chatbots und KI“ diskutiert Thomas Bahn mit interessanten Gästen aus Wirtschaft und Wissenschaft über Nutzen, Anwendungen und Erfahrungen aus den Bereichen Chatbots und Künstliche Intelligenz. Produktion: Johannes Göttsch(  / johannes-goettsch  ) ist im Marketing von assono tätig und produziert den Podcast Chatbots und KI. Bei Fragen oder Anmerkungen freuen wir uns auf Ihre Nachricht an [email protected] Der Podcast wird präsentiert von assono - Wir entwickeln Chatbots, mit denen sich Menschen gerne unterhalten. In 3 Schritten zum eigenen KI-Chatbot-Projekt 1. Informieren Sie sich über das [Chatbot-Angebot](https://www.assono.de/chatbot?utm_sou...) von assono 2. Vereinbaren Sie ein [kostenloses Beratungsgespräch](https://assono.de/termin?utm_source=P...) oder nehmen Sie an einer unserer [Live-Demos](https://www.assono.de/chatbot/demo-te...) teil 3. Starten Sie Ihr Chatbot-Projekt innerhalb weniger Wochen