온프레미스 4대 생성기술의 첫 번째, '텍스트 생성'입니다. Ollama로 Qwen3.5(4-bit 약 2.5~3GB)를 로컬에 올려 대본을 만들고, 비슷한 크기의 Gemma4 E4B·Llama와 한국어 품질·형식 준수·속도를 비교하며 '왜 이 작업엔 이 모델인가'를 설명할 수 있게 됩니다.
DAY 2 · 10교시 · 60분
텍스트 생성: 로컬 LLM(Qwen3.5) 실행과 모델 비교
➔
➔
📚1단계: 주요 개념 설명
이번 단원의 목표
Ollama로 Qwen3.5를 16GB 환경에 적재해 한국어 쇼츠 대본을 JSON으로 생성하고, Gemma4·Llama와 비교해 이 작업에 가장 맞는 텍스트 모델을 근거로 고른다.
🗂️강의 슬라이드
슬라이드 1 / 10
텍스트 생성 — 파이프라인의 첫 단추
- 온프레미스 4대 생성기술(텍스트·오디오·이미지·비디오)의 시작은 '텍스트', 즉 대본입니다.
- 대본이 뒤따르는 음성·이미지·영상의 재료가 되므로, 대본 품질이 곧 쇼츠 전체의 품질입니다.
- 오늘은 클라우드 없이 내 컴퓨터의 로컬 LLM으로 이 대본을 만듭니다.
🛠️2단계: 따라하기 실습
🛠 따라 만들기 · AI 바이브 코딩
로컬 LLM(Ollama)으로 대본 만들기 + 모델 비교Day 1에서 클라우드로 하던 '대본 생성'을 이제 내 컴퓨터의 무료 로컬 Qwen3.5로 바꾸고, Gemma4와 나란히 비교합니다. Kiro(키로)로 파이썬 코드를 만들며 따라오세요. 막히면 아래 '완성 코드 펼치기'를 붙여넣으면 됩니다.
🎯 완성 결과: 웹앱의 대본 엔진을 On-Prem(Ollama)으로 바꿔, 인터넷·요금 없이 로컬 모델이 만든 대본이 화면에 실제로 뜨는 것까지 확인
1Ollama 설치하고 모델 켜기
내 컴퓨터에 LLM을 올려 실행합니다.
💡 핵심 코드 설명
- ollama.com에서 프로그램을 설치하면 로컬에 LLM 서버(11434 포트)가 함께 켜집니다.
- 처음엔 모델을 내려받느라 시간이 걸립니다. 한 번 받으면 오프라인으로 계속 씁니다. (느리면 qwen3.5:4b)
2파이썬으로 로컬 LLM 호출하기
클라우드 대신 로컬 주소로 대본을 요청합니다.
🤖 AI에게 이렇게 시켜보세요
파이썬으로 로컬 Ollama(http://localhost:11434/api/generate)에 requests로 요청해서, 주제(topic)를 받아 쇼츠 대본을 JSON으로 생성하는 함수를 만들어줘. model은 qwen3.5:4b, stream은 false, format은 json으로 하고, 프롬프트 끝에 /no_think를 붙여 빠르게 답하게 해줘.
💡 핵심 코드 설명
- 클라우드 API와 구조가 똑같습니다 — 주소만 내 컴퓨터(localhost:11434)로 바뀌었을 뿐입니다.
- format을 json으로 지정하면 모델이 JSON 형태로 답하도록 강제됩니다.
3대본 확인하기
로컬 대본이 Day 1과 같은 구조인지 봅니다.
💡 핵심 코드 설명
- 출력된 JSON에 title·hook·scenes가 들어 있으면 성공입니다.
- 같은 파이프라인을 '무료·오프라인'으로 돌렸다는 것이 오늘의 핵심입니다.
4⭐ 웹 프로젝트에 연동해 '실제로' 돌려보기
Day 1의 클라우드 대본 API를 로컬 Ollama로 갈아끼워, 웹앱 화면에서 진짜 대본이 나오는지 확인합니다.
🤖 AI에게 이렇게 시켜보세요
Day 1에서 만든 대본 생성 웹앱이 클라우드 대신 로컬 Ollama를 호출하도록, 대본 API의 호출 주소(base URL)를 http://localhost:11434 로, 모델을 qwen3.5:4b 로 바꾸고 API 키 없이도 동작하게 해줘. (Ollama는 OpenAI 호환 /v1/chat/completions 를 제공)
💡 핵심 코드 설명
- 핵심은 코드를 다시 짜는 게 아니라 '호출 대상(주소)만' 클라우드 → 내 로컬 Ollama로 바꾸는 것입니다 — 엔드포인트 스왑.
- 이 강의 사이트의 '완성 데모(16교시)'에서 엔진을 On-Prem(Ollama)로 두고 URI=localhost:11434, model=qwen3.5:4b 로 생성하면 바로 체험됩니다.
- 이제 주제를 넣으면 인터넷·요금 없이 내 컴퓨터가 대본을 만들어 화면에 띄웁니다 — 클라우드 웹앱이 온프렘으로 실제 전환되어 실행되는 순간입니다.
✓실습 미션 체크리스트
우측 메모리 얼로케이터에서 Qwen3.5의 크기·양자화를 조절해 16GB에 안전하게 적재되는지 확인하고, 같은 주제 프롬프트를 모델만 바꿔 실행하며 한국어 대본 품질과 속도를 비교해 보세요.
Qwen3.5 실행·비교 명령어
# 설치된 모델 확인 ollama list # 텍스트 생성 후보 내려받기 (16GB 기준) ollama pull qwen3.5:4b # 대본 기획 기본값 (한국어·추론 강함) ollama pull gemma4:e4b # 더 가볍고 지시이행·톤이 깔끔 # 같은 주제로 번갈아 실행하며 대본 품질 비교 ollama run qwen3.5:4b
💡 코딩 중 막히나요? 모범 솔루션 코드
🧩3단계: 개념 검증 퀴즈
검증 챌린지 미션
ollama run qwen3.5:4b로 모델이 적재되고, 같은 주제로 Qwen3.5와 다른 모델(예: gemma4:e4b)의 대본을 비교해 어느 쪽이 이 작업에 더 낫고 왜 그런지 설명할 수 있는지 점검합니다.
📝 객관식 개념 확인 (2문항)
Q1. 대본 생성에 Qwen3.5를 기준 모델로 고른 근거로 가장 적절한 것은?
Q2. 같은 쇼츠 대본 작업을 두고 Qwen3.5와 Gemma4·Llama를 '비교'할 때 가장 알맞은 잣대는?
🔬 인터랙티브 체험 (선택)— 개념을 직접 조작하며 확인해 보세요
요구 VRAM: 5.3 GBVRAM 한계선: 16 GB
🟢 VRAM 용량 안착: 100% GPU 가속화 처리가 완료됩니다!