LECTURE NOTES
AI Primer
이 페이지는 여러분이 “AI를 쓰는 사람”을 넘어 “AI가 어떻게 동작하는지 설명하는 사람”이 되도록 만든 수업 노트입니다. 암기용 백과가 아니라, 면접·실습·프로젝트에서 바로 꺼낼 수 있는 지도로 읽으세요.
1. 왜 지금 AI인가
컴퓨터는 오래전부터 “계산”을 잘했습니다. 그런데 최근 달라진 것은 말·코드·이미지처럼 애매한 입력을 다루고, 그럴듯한 출력을 생성하는 능력이 실용 수준으로 올라왔다는 점입니다.
과거에는 규칙을 사람이 하나하나 적어야 했습니다. 스팸 필터도, 번역기도, 추천도 결국 “사람이 설계한 규칙 + 통계”의 조합이었습니다. 지금은 거대한 모델이 방대한 텍스트를 읽고 다음 토큰을 예측하는 방식으로 언어 능력을 학습합니다. 그 결과가 ChatGPT, Claude, Gemini, Llama, Qwen 같은 시스템입니다.
공학도에게 중요한 변화는 이겁니다. 코딩의 병목이 ‘문법 암기’에서 ‘문제 정의·검증·도구 활용’으로 이동했다는 사실입니다. 그래서 이 수업은 문법을 압축하고, AI를 제어하는 쪽을 더 깊게 봅니다.
2. LLM이란 무엇인가
LLM (Large Language Model)은 “아주 큰 언어 모델”입니다. 본질적으로는 다음에 올 토큰(token)을 확률적으로 예측하는 모델입니다. 마법처럼 보이지만, 내부 동작의 핵심은 예측입니다.
- 입력 문장을 토큰 단위로 쪼갠다.
- 각 토큰의 관계를 Transformer 구조로 계산한다.
- 다음에 나올 토큰의 확률 분포를 만든다.
- 그중에서 하나를 골라 이어 붙이며 응답을 생성한다.
왜 “갑자기” 뜬 것처럼 보였을까요? 사실은 갑자기가 아닙니다. 데이터 규모 · 모델 규모 · GPU 연산량 · 학습 기법이 같이 커지면서 어느 순간부터 “대화가 될 정도의 창발적 능력”이 나타난 것입니다. 특히 2017년 Transformer 논문 이후, 병렬 학습이 쉬워지며 규모 확장이 가속되었습니다.
3. 기본 용어 — 면접에서 바로 쓰는 언어
- Token
- 모델이 다루는 최소 단위. 한글은 보통 영어보다 토큰을 더 많이 씁니다. API 요금·속도는 토큰 수에 비례합니다.
- Context Window
- 한 번에 넣을 수 있는 입력+출력 길이 한계. “모델이 기억할 수 있는 작업 책상 크기”라고 보면 됩니다.
- Prompt
- 모델에게 주는 지시문. 좋은 프롬프트는 목표, 제약, 출력 형식을 명확히 적습니다.
- System / User / Assistant
- 대화형 API에서 역할 구분. System은 규칙, User는 질문, Assistant는 모델 응답입니다.
- Temperature
- 샘플링 무작위성. 낮으면 보수적·일관적, 높으면 창의적·불안정해질 수 있습니다.
- Hallucination
- 그럴듯하지만 틀린 답을 자신 있게 말하는 현상. 그래서 검증이 필수입니다.
- Fine-tuning
- 이미 학습된 모델을 특정 데이터로 추가로 학습해 말투·업무 형식에 맞추는 것.
- RAG
- Retrieval-Augmented Generation. 외부 문서를 검색해 답변에 근거를 넣는 방식. 강의자료 Q&A에 자주 씁니다.
- Agent
- 모델이 단순 답변만 하지 않고, 도구를 호출하며 목표를 끝까지 수행하는 워크플로.
- Inference
- 학습이 아니라 “이미 학습된 모델로 답을 생성하는 단계”. 서비스 비용의 대부분이 여기입니다.
- Open Weights / Closed Model
- 가중치를 공개하면 open weights(예: Llama, Qwen). API로만 쓰면 closed(예: 일부 GPT/Claude).
4. LLM을 실제로 쓰는 방법 — ChatGPT만 있는 게 아니다
학생들이 처음 만나는 건 웹 ChatGPT/Gemini입니다. 그런데 현업·연구·수업 심화로 가면 “모델을 어디에 올려 서비스할까?”를 묻게 됩니다.
Cloud Chat / API
OpenAI, Anthropic, Google, Groq처럼 남이 띄워둔 모델에 HTTP로 요청합니다. 시작이 가장 쉽습니다.
Ollama
로컬 PC에서 Llama, Qwen 등을 쉽게 돌리는 도구. “내 노트북에서 모델 실행”의 입문 표준에 가깝습니다.
vLLM
고성능 추론 서버. 많은 요청을 빠르게 처리해야 할 때 쓰는 쪽입니다. 캠퍼스/연구실 서버 데모에 자주 등장합니다.
llama.cpp / LM Studio
개인 환경에서 모델을 가볍게 돌리거나 GUI로 실험할 때 사용합니다. 학습용·프로토타입에 유용합니다.
이 수업의 현실적인 경로: 웹 AI로 감각 익히기 → Groq API로 코드 연동 → (여유 있으면) Ollama로 로컬 실행 경험. “모델 이름만 아는 사람”과 “직접 호출해 본 사람”은 면접에서 완전히 다르게 들립니다.
5. 요즘 유명한 모델·계열을 지도처럼 보기
이름을 외우기보다 역할로 묶으세요.
| 이름 | 성격 | 학생이 기억할 포인트 |
|---|---|---|
| GPT 계열 (OpenAI) | 범용 대화·코딩·에이전트 | API 표준을 사실상 선도. 생태계가 가장 큼 |
| Claude (Anthropic) | 긴 문서·신중한 응답 | 긴 컨텍스트·안전/분석 톤으로 유명 |
| Gemini (Google) | 검색·멀티모달 결합 | Google 생태계(Docs, Colab)와 연결이 강점 |
| Llama (Meta) | 대표적 open weights | 로컬/연구/스타트업이 자주 가져가는 기반 모델 |
| Qwen (Alibaba) | 성능 좋은 공개/반공개 계열 | 다국어·코딩·가성비 실험에서 자주 등장 |
| EXAONE (LG AI Research) | 국내 대표 대형 모델 계열 | 한국어/산업 응용 맥락에서 언급할 줄 알아야 함 |
| Whisper (OpenAI) | 음성→텍스트(ASR) | LLM은 아니지만 AI 파이프라인의 핵심 부품 |
| DeepSeek / Mistral 등 | 성능·효율 경쟁 모델 | “미국 빅테크만 있는 시장이 아님”을 보여주는 사례 |
6. 왜 다들 OpenAI API 프로토콜을 쓰는가
코드를 보면 이상한 일이 보입니다.
Groq를 쓰든, 어떤 오픈소스 서버를 쓰든,
요청 형식이 자꾸 /v1/chat/completions 비슷한 모양입니다.
이유: OpenAI가 Chat Completions API로 “메시지 배열을 보내면 응답을 받는다”는 사용성을 먼저 대중화했고, 이후 많은 엔진·클라우드·오픈소스 툴이 호환 계층을 만들었기 때문입니다. 학생 입장에선 이게 큰 이득입니다. 한 번 배운 API 패턴으로 여러 서비스를 시험할 수 있습니다.
POST /v1/chat/completions
{
"model": "....",
"messages": [
{"role": "system", "content": "당신은 조교입니다."},
{"role": "user", "content": "출석 규칙을 설명해줘"}
]
}즉 OpenAI 프로토콜은 “종교”가 아니라 업계 공통 잭(adapter)에 가깝습니다. USB가 표준이 된 것과 비슷한 감각으로 이해하면 됩니다.
7. 빅테크 기업의 AI 관련 특징
OpenAI
제품화 속도와 API 생태계. ChatGPT로 대중 인터페이스를 장악했고, 개발자 API 표준에 큰 영향.
Microsoft
Azure + Office/GitHub Copilot으로 “업무 도구 안의 AI”를 밀고 있음. 기업 도입 채널이 강점.
검색·Android·Cloud·Colab. 데이터와 통신 인프라, 연구 저력이 큰 축. Gemini로 전면 재편 중.
Meta
Llama 공개로 오픈 생태계를 흔든 플레이어. “모델을 배포해 표준을 선점”하는 전략이 특징.
Amazon
AWS 인프라 위의 Bedrock 등으로 “모델 쇼핑몰 + 클라우드” 포지션. 기업 IT 친화적.
Apple / NVIDIA / 국내
Apple은 온디바이스·프라이버시, NVIDIA는 학습/추론 GPU 사실상 표준, LG EXAONE 등은 한국어·산업 특화 경쟁.
학생이 가져갈 시선: 누가 모델을 만들었는가보다 누가 유통·인프라·업무 도구를 쥐고 있는가를 같이 보세요. AI 산업은 모델 경쟁이면서 동시에 플랫폼 경쟁입니다.
8. 꼭 알아둘 플랫폼
Hugging Face
AI계의 “모델 앱스토어 + 커뮤니티”에 가깝습니다. 모델 카드, 데이터셋, 데모(Spaces), 추론 API가 모여 있습니다. 논문을 읽은 뒤 “이 모델 파일은 어디에 있지?”를 찾을 때 거의 무조건 들릅니다.
GitHub
코드의 본진입니다. AI 프로젝트도 결국 Git으로 버전 관리하고 PR로 협업합니다. Copilot 같은 AI 코딩 도구도 GitHub 생태계와 강하게 연결됩니다. 포트폴리오 = GitHub라는 공식은 AI 시대에도 유효합니다. 오히려 더 중요해졌습니다.
Google Colab
브라우저에서 GPU를 빌려 파이썬을 실행하는 수업 친화형 환경. 이 수업의 LIVE PAD도 Colab 공유를 전제로 움직입니다.
Groq
초저지연 추론으로 유명한 API 서비스입니다. 수업에서는 무료 계정으로도 API 실습이 가능해서, “챗 화면만 클릭하는 사용자”에서 “코드를 호출하는 개발자”로 넘어가는 다리 역할을 합니다.
9. 지금 할 일: Groq 가입
이 수업은 API 실습이 중요합니다. 유료 구독이 필요하지 않습니다. 교수자도 무료 티어를 활용합니다. 아래를 이번 주 안에 끝내 두세요.
- console.groq.com 에서 계정 생성
- API Key 발급 (절대 카카오톡/깃허브에 올리지 말 것)
- 모델 목록에서 빠른 모델 하나를 골라 테스트
- Python 또는 curl로
chat.completions한 번 호출해보기
키를 노출하면 타인이 여러분의 쿼터를 써 버립니다.
.env에 넣고, 코드/캡처본/과제 ZIP에 키가 들어가지 않게 점검하세요.
추가로 권장: Hugging Face 계정, GitHub 계정, 학교 계정 기반 Colab/Gemini 사용 경험.
10. 이 수업에서 학생이 가져갈 태도
- 생성 ≠ 완성: AI가 만든 코드는 초안입니다. 실행하고, 읽고, 고치세요.
- 용어를 자기 언어로: LLM, token, hallucination을 친구에게 30초로 설명해 보세요.
- 도구를 연결: Chat → API → (가능하면) 로컬 실행으로 한 단계씩 올라가세요.
- 검증 습관: 틀린 답을 자신 있게 말하는 게 모델의 기본 속성입니다.
- 포트폴리오화: “AI 써봤어요”가 아니라 “Groq API로 조교 챗봇을 붙였고, 환각을 줄이려 자료를 주입했다”고 말하세요.