KI lokal nutzen: Günstig, sicher & datenschutzfreundlich | c’t uplink

Bei lokalen KI-Modellen muss man nicht jedes Token auf die Goldwaage legen. Statt teurer Abos für KI-Dienste, fallen leichter zu überblickende Hardware- und Stromkosten an. Wir sprechen darüber, was mit einem lokalen KI-Server für privat oder kleine Teams möglich ist, welche Hardware man dafür braucht und welche coolen Dinge man damit tun kann. Zu Gast im Studio: Jan Mahn, Jan-Keno Janssen Host: Liane M. Dubowy Produktion: Tobias Reimer ► c’t-3003-Video zu Hermes Agent und lokaler KI:    • Wahnsinn: Hermes-Agent + Qwen   ► Artikel zum Aufbau eines lokalen KI-Servers für ein kleines Team: https://heise.de/-11333185 ► Mitdiskutieren auf dem heise & c't Discord-Server:   / discord   ► c’t Magazin: https://ct.de ► c’t auf Mastodon: https://social.heise.de/@ct_Magazin ► c’t auf Instagram:   / ct_magazin   ► c’t auf Facebook:   / ctmagazin   ► c’t auf Bluesky: https://bsky.app/profile/ct.de ► c’t auf Threads: https://www.threads.net/@ct_magazin ► c’t auf Papier: überall wo es Zeitschriften gibt! Kapitel: 00:00 Intro: Warum KI lokal betreiben? 16:02 Quantisierung & Hardware-Anforderungen erklärt 25:48 Server-Setup mit Open Web UI und Ollama 37:05 Agentische Systeme: KI bedient den Computer selbst 50:40 Einsteiger-Tipps zum Ausprobieren #ki #lokaleki #agenticAI