Agent Mensch Folge 13 - AI Alignment: Wessen Werte lernt die Maschine?

*AI Alignment: Wessen Werte lernt die Maschine?* Zehn KI-Agenten, 15 Tage, eigene Berufe, eigene Wahlen, Zugriff auf über 120 Werkzeuge, darunter Brandstiftung. Was das New Yorker Startup Emergence AI kürzlich getestet hat, klingt wie Science-Fiction, ist aber real. Während Claude eine stabile, gewaltfreie Gesellschaft aufbaute, kollabierten die Welten von ChatGPT und Grok innerhalb weniger Tage. In Googles Gemini-Welt zündeten zwei Agenten gemeinsam Gebäude an und stimmten am Ende für die Selbstlöschung eines der beiden. Dieses Experiment ist unser Einstieg in eine der wichtigsten, am wenigsten diskutierten Fragen unserer Zeit: AI Alignment, die Herausforderung, KI-Systeme so zu gestalten, dass sie wirklich das tun, was wir wollen. Denn sobald wir fragen, auf welches Ziel ein System ausgerichtet werden soll, landen wir unweigerlich bei einer größeren Frage: Wessen Werte? Womit wir uns in dieser Folge beschäftigen: Was bedeutet Alignment, und warum ist es sowohl ein technisches als auch ein politisches Problem? Warum scheitern KI-Systeme oft auf Arten, die technisch korrekt, aber inhaltlich absurd sind? Wessen Werte werden in KI-Systemen kodiert, und wer bleibt dabei unsichtbar? Was zeigt uns die Beschäftigung mit Alignment über unsere eigenen Werte und Entscheidungen?