Her Şirketin Kendi Yapay Zekâsı Olmalı! Kendi AI Sunucumu Kurdum!

Yerel Yapay Zekâ Sunucusu Kurulumu (Ubuntu + llama.cpp + Open WebUI) Şirketler için yapay zekâ artık sadece bir araç değil, rekabet avantajı sağlayan bir altyapı hâline geldi. Ancak birçok işletme, müşteri verilerini üçüncü taraf yapay zekâ servislerine göndermek istemiyor. Bu videoda, tamamen kendi sunucunuzda çalışan, verilerinizi dışarı çıkarmayan ve API olarak kullanılabilen bir yapay zekâ sunucusunu sıfırdan kuruyoruz. Ubuntu Server, llama.cpp, Qwen2.5-7B-Instruct, Open WebUI ve AMD RX580 ekran kartı kullanarak düşük maliyetli bir sistemle kendi kurumsal yapay zekânızı nasıl oluşturabileceğinizi adım adım gösteriyorum. Bu sistem; şirket içi doküman arama, bilgi tabanı, müşteri destek çözümleri, ERP/CRM entegrasyonları, RAG uygulamaları ve kurum içi otomasyonlarda rahatlıkla kullanılabilir. Aynı kurulum bireysel kullanıcılar için de güçlü bir alternatiftir. İnternet bağlantısına ihtiyaç duymadan tamamen yerel çalışan, gizliliği koruyan ve aylık abonelik gerektirmeyen kendi yapay zekâ asistanınızı oluşturabilirsiniz. ⏱️ Bölümler (Chapters) 00:00 Giriş 00:18 Neden kendi yapay zekâ sunucunu kurmalısın? 01:02 Gizlilik ve maliyet avantajı 01:39 Donanım maliyeti ve elektrik tüketimi 02:50 Kullanılan sistem ve donanım 03:20 Kuruluma başlamadan önce 04:25 API ve kullanım senaryoları 07:24 Ubuntu ve Ollama, Qwen2.5-7B Kurulumu 09:00 Hangi sektörlerde neden ideal? 15:02 Qwen2.5-7B lokalde ilk test 16:55 Llama.cpp Kurulumu (Ollama'dan vazgeçtim. RX580'i tanımadı!) 18:06 Open WebUI ile ilk tanışma api bağlantısı ve diğer ayarlar 21:53 Open WebUI ve Qwen2.5-7B Chat zamanı :) 30:22 Örnek token kullanımları (30 token/sn) ve GPU kullanımı 31:57 Chat'e devam 38:41 Son değerlendirme Bu videoda neler var? ✅ Ubuntu Server kurulumu ✅ Statik IP ayarlama ✅ Vulkan kurulumu ✅ llama.cpp derleme ✅ Qwen2.5-7B model kurulumu ✅ OpenAI uyumlu API sunucusu oluşturma ✅ Docker ile Open WebUI kurulumu ✅ Şirket içi yapay zekâ kullanım senaryoları ✅ Dokümanlarla çalışan AI sistemi (RAG mantığı) ✅ RX580 performansı ve token hızları Kullanılan Donanım AMD Ryzen 5 5500 32 GB DDR4 RAM AMD Radeon RX580 8 GB Ubuntu Server llama.cpp Open WebUI Qwen2.5-7B-Instruct 📚 Kurulum rehberi ve tüm komutlar (GitHub): https://github.com/hakantu/ubuntu-lla... Bu tarz yerel yapay zekâ, self-hosted sistemler, Linux, yazılım ve girişimcilik içeriklerinin devamı için kanala abone olmayı unutmayın. #YapayZeka #AI #Ubuntu #LlamaCpp #OpenWebUI #Qwen #RX580 #SelfHosted #LocalAI #Docker #Linux