PyStok #83 - Które GPU do lokalnych LLM-ów? | Rafał Kuć

Łatwo jest podpiąć API od OpenAI czy Anthropic i patrzeć, jak dzieje się magia. Ale co zrobić, gdy na drodze stają koszty, rygorystyczne przepisy prawne lub ograniczenia biznesowe? Rozwiązaniem są modele lokalne, a o tym, jak podejść do nich z głową, opowie nasz prelegent Rafał Kuć! Rafał to programista, trener i konsultant specjalizujący się w systemach wyszukiwania informacji. Pomaga klientom na każdym etapie. A kiedy nie koduje? Próbuje swoich sił w stolarstwie i biega ultramatatony. Podczas wystąpienia Rafał weźmie pod lupę lokalne duże modele językowe. Dowiemy się, jak okiełznać je w kontrolowanym przez siebie środowisku #llamacpp. Od domowego zacisza po firmową serwerownię. Tą prezentacją odpowiemy na kluczowe pytanie: czy sprzęt, który posiadasz (lub planujesz kupić), wystarczy do realizacji Twojego projektu. Sponsorzy: #Netstation, #MAGMASAP, #DBZERO Partnerzy: #PWN, #Helion, #Jetbrains, #Kafejeto, #BOTLAND, #RadioAkadera, #PolitechnikaBiałostocka, #UniwersytetWBiałymstoku #podlasie #bialystok #programowanie #programista #zmianaklimatu #puszczakrzemowa