Wo GenAI heute steht – dreieinhalb Jahre im Reality-Check

Neuer Name, gleiches Duo: Aus The Erium Podcast wird Beyond AI – und zum Start von Staffel 8 sitzen Theo und Maksim zum ersten Mal seit Ende 2023 wieder gemeinsam vor dem Mikro. In KI-Jahren also ungefähr 17.000 Äonen später. Höchste Zeit für einen Reality-Check: Warum stampfen die Modelle heute komplette Web-Applikationen aus dem Boden, scheitern aber immer noch an der Frage, ob man zur 100 Meter entfernten Waschanlage laufen oder fahren soll? Wir sprechen über Reinforcement Learning und warum es beim Coding so gut funktioniert (und bei Präsentationen nicht), über agentische Loops und was sie so mächtig – und so teuer – macht, über Kontext-Windows, die bei einer Million Tokens hängen geblieben sind, und darüber, warum die ganzen „Chat with your PDF"-Startups implodiert sind. Außerdem: warum System Prompts heute das LLM selbst schreibt, wieso Prompt-Libraries schon 2023 Augenwischerei waren und was Reasoning-Modelle eigentlich tun, wenn sie „nachdenken". Unser Zwischenfazit nach dreieinhalb Jahren: Die Modelle werden nicht mehr jedes Jahr doppelt so schlau – aber die echten Produktivitätsgewinne fangen gerade erst an.