AI 초보의 100일 도전 Day 029 | 내 컴퓨터에서 내가 만든 AI가 돌아간다 — GGUF 변환 + Ollama 등록

Cravveo Company 100일 프로젝트 Day 029. Cravveo Company 100-Day Project, Day 029. 드디어 내 노트북에서 내가 파인튜닝한 AI가 돌아갑니다. Finally, my fine-tuned AI runs on my own laptop. 코랩에서 학습한 모델을 GGUF 포맷으로 변환하고, Day 004에서 설치한 Ollama에 등록했습니다. 터미널에서 ollama run cravveo를 치면 크라베오를 아는 AI가 답합니다. Converted the Colab-trained model to GGUF format, registered it with Ollama (installed on Day 004). Now typing "ollama run cravveo" gives me a Cravveo-aware AI. 오늘 한 일 | What I did today: 83개 데이터로 30 epoch 학습 (코랩) GGUF 변환 (q4_k_m, 771MB) Google Drive로 파일 전송 로컬 Ollama에 cravveo 모델 등록 ollama run cravveo 테스트 테스트 결과 | Test results: "크라베오 컴퍼니가 뭐야?" → "한국의 IT 기업이야. 파인튜닝을 배우고 있는 AI 어시스턴트야." 핵심(IT 기업, 파인튜닝)은 맞지만 일부 텍스트가 깨짐. Core info (IT company, fine-tuning) is correct but some text is garbled. 왜 완벽하지 않은가 | Why not perfect: 1B 모델 + 4비트 양자화 + 83개 데이터의 한계입니다. 더 큰 모델, 더 많은 데이터, 더 높은 양자화로 개선 가능합니다. Limitations of 1B model + 4-bit quantization + 83 entries. Improvable with larger model, more data, higher quantization. 하지만 핵심은 이것: Day 001에서 리눅스를 설치하고, Day 004에서 Ollama를 설치하고, Day 016에서 코랩 파인튜닝을 시작해서, Day 029에서 내 컴퓨터에 내 AI를 등록했습니다. Phase 1(로컬 환경)과 Phase 2(파인튜닝)가 합쳐진 순간입니다. But the key point is this: Day 001: installed Linux. Day 004: installed Ollama. Day 016: started Colab fine-tuning. Day 029: registered my own AI on my own computer. Phase 1 (local env) and Phase 2 (fine-tuning) finally merged. 이 채널은 완성된 전문가 강의가 아닙니다. This is not an expert tutorial channel. AI를 잘 모르는 초보자가 직접 막히고 해결하는 과정을 기록합니다. It is a beginner's learning journal, including mistakes, errors, and fixes. Day 030에서는 Phase 2 전체 회고 + Phase 3 계획을 세웁니다. In Day 030, we do a full Phase 2 retrospective and plan Phase 3. 🔗 GitHub: https://github.com/cravveo4001/cravve... 🤗 Dataset: https://huggingface.co/datasets/cravv... 🤖 Model: https://huggingface.co/cravveo/cravve... 📒 Colab: https://colab.research.google.com/dri... #Cravveo #파인튜닝 #FineTuning #GGUF #Ollama #로컬AI #Unsloth #Llama #AI초보 #BuildInPublic #100일챌린지