Podcast: KI und Arbeitsrecht: Wer haftet, wenn die Maschine falsch liegt?

Warum KI ohne Governance teuer werden kann Viele Unternehmen nutzen KI, aber längst nicht alle haben klare Regeln dafür. Mitarbeitende laden sensible Dokumente in Chat-Tools hoch, KI-Ergebnisse werden ungeprüft übernommen und Verantwortlichkeiten sind oft nicht sauber geregelt. Genau daraus entstehen rechtliche, organisatorische und finanzielle Risiken. In dieser Folge von COSMO on AI(R) spricht Silke Drüke mit Dr. Magnus Bergmann, Rechtsanwalt und Fachanwalt für Arbeitsrecht, und Maik Donner, Industry Lead AI bei COSMO CONSULT, über KI-Governance, Schatten-KI, Haftung, Human in the Loop, Recruiting, Prompt Injection und den EU AI Act. Im Mittelpunkt steht die Frage: Wer haftet eigentlich, wenn KI im Unternehmen falsch liegt? Sind Mitarbeitenden verantwortlich, das Unternehmen oder am Ende niemand? Die Antwort ist klarer, als viele denken: KI ist kein eigenes Haftungssubjekt. Wer KI einsetzt, braucht Spielregeln, technische Leitplanken und einen sauberen Governance-Prozess. 00:00 Begrüßung & Vorstellung von Dr. Magnus Bergmann 01:00 Schatten-KI: Die größten Risiken im Arbeitsalltag 02:55 Governance statt Wildwuchs: Wie Unternehmen KI sicher einführen 07:30 EU AI Act: Schulungspflichten und verschobene Fristen 08:55 Wer haftet, wenn KI Fehler macht? 11:55 Human in the Loop: Warum Kontrolle unverzichtbar ist 15:35 KI im Recruiting: DSGVO, Hochrisiko und Einstellungsentscheidungen 21:05 Ersetzt KI Mitarbeitende oder verändert sie nur unsere Arbeit? 24:55 Europa, USA und China: Regulierung als Stärke oder Wettbewerbsnachteil? 29:45 KI als Rechtsberater? Warum Kontext entscheidend bleibt 32:50 Praxisleitfaden: So starten Unternehmen mit KI-Governance 37:30 System-Prompts: Was KI darf und was nicht 41:05 Prompt Injection und technische Schutzmaßnahmen 41:35 Betriebsrat, Compliance und Akzeptanz in der Belegschaft 42:25 Cybersecurity, Erpressung und neue Angriffsflächen 45:00 Unser Format, das KI oder K.O.-Kriterien: Wann Unternehmen besser stoppen sollten 47:25 Lieblings-Prompt: KI als Sparringspartner 48:00 Fazit & Verabschiedung Weitere Informationen zur KI-Nutzung in Unternehmen: https://www.cosmoconsult.com/de/loesu...