AI 기초 체력 다지기

AI 기초 체력 다지기

AI·머신러닝·딥러닝·LLM은 도대체 뭐가 다른가?

AI 관련 업무를 하다 보면 하루에도 수많은 용어를 접하게 됩니다.

AI, 머신러닝, 딥러닝, LLM, 생성형 AI, 파라미터, 임베딩, RAG, 토큰, 컨텍스트 윈도우…

처음에는 각각의 단어를 따로 외우게 됩니다.

그런데 공부하다 보면 어느 순간 이런 생각이 듭니다.

"그래서 얘네가 서로 무슨 관계인데?"

AI를 제대로 이해하기 위해서는 개별 용어를 외우는 것보다 먼저 전체적인 구조와 흐름을 이해하는 것이 중요합니다.

이번 글에서는 AI의 가장 기본적인 개념부터 시작해서, 실제 AI 서비스에서 자주 사용하는 용어까지 하나씩 정리해보겠습니다.

---

1. AI, 머신러닝, 딥러닝, LLM은 뭐가 다른가?

가장 먼저 알아야 할 것은 이 네 가지가 서로 완전히 다른 기술이라는 것이 아닙니다.

큰 개념 안에 작은 개념이 포함되는 계층 구조로 이해하면 쉽습니다.

AI → 머신러닝 → 딥러닝 → LLM

즉, LLM을 이해하려면 먼저 딥러닝을 알아야 하고, 딥러닝을 이해하려면 머신러닝이라는 큰 개념을 이해해야 합니다.

AI(Artificial Intelligence)

AI는 가장 큰 개념입니다.

사람처럼 판단하고, 예측하고, 문제를 해결하거나 콘텐츠를 생성하는 시스템을 만드는 기술을 통칭합니다.

예를 들면 다음과 같은 것들이 있습니다.

• 음성 인식
• 이미지 인식
• 추천 시스템
• 자율주행
• 챗봇
• 생성형 AI

즉, AI는 특정 기술 하나를 의미한다기보다 인공지능을 구현하기 위한 가장 넓은 개념이라고 이해하면 됩니다.

---

머신러닝(Machine Learning)

머신러닝은 AI를 구현하는 대표적인 방법입니다.

기존 프로그램은 사람이 직접 규칙을 만들어주는 방식이었다면, 머신러닝은 데이터에서 패턴을 학습하도록 만드는 방식입니다.

예를 들어 스팸메일을 구분한다고 생각해보겠습니다.

기존 방식이라면

"무료"라는 단어가 있으면 → 스팸
"당첨"이라는 단어가 있으면 → 스팸

처럼 사람이 직접 규칙을 만들어야 합니다.

머신러닝에서는 수많은 데이터를 제공합니다.

스팸 메일, 정상 메일, 스팸 메일, 정상 메일…

그리고 모델이 데이터에서 스스로 패턴을 찾아 스팸 여부를 판단하도록 합니다.

---

딥러닝(Deep Learning)

딥러닝은 머신러닝의 한 종류입니다.

인공신경망(Neural Network)을 여러 층으로 깊게 구성하여 복잡한 패턴을 학습합니다.

특히 이미지, 음성, 자연어처럼 사람이 규칙을 직접 정의하기 어려운 문제에서 강력한 성능을 보여줍니다.

현재 우리가 이야기하는 생성형 AI와 LLM 역시 딥러닝 기술을 기반으로 합니다.

---

LLM(Large Language Model)

LLM은 Large Language Model, 즉 대규모 언어 모델입니다.

쉽게 말하면,

"대규모 텍스트 데이터를 학습해서 인간의 언어를 처리하고 생성할 수 있는 딥러닝 모델"

이라고 볼 수 있습니다.

ChatGPT와 같은 서비스에서 사용되는 언어 모델이 대표적인 예입니다.

따라서 전체 관계를 정리하면 다음과 같습니다.

AI → 머신러닝 → 딥러닝 → LLM

이 구조만 확실하게 이해해도 AI 관련 용어를 접했을 때 훨씬 덜 헷갈립니다.

---

2. LLM은 어떻게 "다음 단어"를 예측하는가?

그렇다면 LLM은 어떻게 사람처럼 문장을 만들어낼까요?

여기서 가장 중요한 개념이 바로 다음 토큰 예측입니다.

LLM을 이해하는 핵심 문장은 이것입니다.

LLM은 주어진 문맥을 바탕으로 다음에 올 가능성이 높은 토큰을 예측하면서 문장을 만들어간다.

---

토큰(Token)이란?

LLM은 우리가 보는 문장을 그대로 처리하지 않습니다.

문장을 토큰(Token)이라는 단위로 나누어 처리합니다.

토큰은 반드시 하나의 단어와 동일하지 않습니다.

하나의 단어 전체일 수도 있고, 단어의 일부나 숫자, 기호 등이 하나의 토큰이 될 수도 있습니다.

즉,

문장 → 토큰 → 모델 처리

라는 과정을 거칩니다.

---

다음 토큰의 확률을 계산한다

LLM은 현재까지의 문맥을 보고 다음에 어떤 토큰이 등장할 가능성이 높은지를 계산합니다.

예를 들어,

"오늘 날씨가"

라는 문장이 입력됐다고 해보겠습니다.

모델은 다음에 올 수 있는 여러 후보를 계산합니다.

좋다
춥다
덥다
흐리다
…

실제 모델에서는 훨씬 많은 후보에 대해 확률을 계산합니다.

그리고 하나의 토큰을 선택합니다.

예를 들어,

"오늘 날씨가 좋다"

라는 결과가 만들어졌다고 해보겠습니다.

여기서 끝나는 것이 아닙니다.

방금 생성한 "좋다"까지 포함해서 다시 다음 토큰을 예측합니다.

이 과정을 계속 반복하면서 긴 답변이 만들어집니다.

---

이것이 Autoregressive 방식이다

앞에서 생성한 결과를 다시 다음 생성의 입력으로 사용하는 방식을 Autoregressive라고 합니다.

전체 흐름을 간단하게 표현하면 다음과 같습니다.

입력 → 토큰화 → 문맥 분석 → 다음 토큰 확률 계산 → 토큰 생성 → 반복 → 최종 답변

따라서 LLM의 답변은 처음부터 완성된 문장을 한 번에 꺼내는 것이 아닙니다.

토큰을 하나씩 생성하면서 답변을 완성해가는 구조라고 이해하면 됩니다.

---

3. Training과 Inference는 무엇이 다른가?

AI를 공부하다 보면 Training과 Inference라는 단어가 계속 등장합니다.

둘의 차이를 간단하게 말하면 다음과 같습니다.

Training = 모델을 만드는 과정

Inference = 만들어진 모델을 사용하는 과정

---

Training(학습)

Training은 AI 모델의 능력을 만들어주는 과정입니다.

대규모 데이터를 모델에 제공하고, 모델이 데이터를 바탕으로 패턴을 학습하도록 합니다.

LLM이라면 엄청난 양의 텍스트 데이터를 이용해 언어의 패턴을 학습합니다.

이 과정에서는 GPU와 같은 고성능 연산 자원이 필요하고 많은 시간과 비용이 발생합니다.

---

Pre-training(사전학습)

Pre-training은 모델의 기본적인 능력을 만드는 대규모 학습 단계입니다.

모델이 문장을 이해하고, 문맥을 파악하고, 다음 토큰을 예측하고, 다양한 지식을 표현할 수 있는 기본 능력을 갖추도록 합니다.

쉽게 말하면,

Pre-training = AI의 기본 능력을 만드는 과정

이라고 볼 수 있습니다.

---

Fine-tuning(파인튜닝)

Fine-tuning은 이미 학습된 모델을 특정 목적에 맞게 추가로 학습시키는 과정입니다.

예를 들어 특정 업무에 맞는 답변 방식이나 특정 형식의 결과를 잘 생성하도록 모델을 조정할 수 있습니다.

정리하면,

Pre-training = 기본 능력 학습

Fine-tuning = 특정 목적에 맞게 추가 학습

입니다.

---

4. Inference는 실제 서비스에서 왜 중요한가?

Inference는 사용자가 AI 서비스를 사용하는 순간 발생합니다.

예를 들어 사용자가 AI 서비스에 질문을 입력하면,

사용자 질문 → AI 모델 → Inference → 답변 생성

과정이 이루어집니다.

여기서 중요한 것이 추론 비용과 응답 속도입니다.

AI 서비스를 운영하는 입장에서는 사용자가 많아질수록 AI 모델을 호출하는 횟수도 증가합니다.

따라서 다음과 같은 요소가 중요해집니다.

• GPU 사용량
• 메모리 사용량
• 응답 속도
• API 호출 비용
• 동시 사용자 처리량

즉, AI 서비스는 단순히 "모델 성능이 좋은가?"만 보는 것이 아니라 "실제 서비스에서 얼마나 효율적으로 사용할 수 있는가?"도 함께 봐야 합니다.

---

5. 실무에서 자주 듣는 AI 필수 용어

이제 실제 회의에서 자주 등장하는 용어들을 정리해보겠습니다.

---

파라미터(Parameter)

파라미터는 모델이 학습 과정에서 조정하는 수많은 내부 수치입니다.

LLM을 설명할 때

"7B 모델"

"70B 모델"

처럼 이야기하는 경우가 있습니다.

여기서 B는 Billion을 의미합니다.

따라서 70B는 약 700억 개의 파라미터 규모라는 의미입니다.

다만 파라미터가 많다고 무조건 모든 상황에서 더 좋은 모델인 것은 아닙니다.

모델의 성능은 학습 데이터, 모델 구조, 학습 방법, 추론 방식 등 다양한 요소의 영향을 받습니다.

---

임베딩(Embedding)

임베딩은 텍스트나 이미지 같은 데이터를 숫자로 이루어진 벡터 형태로 변환하는 것입니다.

왜 숫자로 바꿀까요?

컴퓨터가 데이터 사이의 의미적 관계를 계산하기 쉽기 때문입니다.

예를 들어,

강아지
고양이
자동차

라는 데이터를 임베딩하면 의미적으로 비슷한 데이터는 벡터 공간에서 상대적으로 가까운 위치에 표현될 수 있습니다.

이런 특성 때문에 임베딩은 다음과 같은 기능에서 많이 사용됩니다.

• 검색
• 추천
• 문서 검색
• RAG
• 유사도 분석

---

6. 컨텍스트 윈도우(Context Window)

컨텍스트 윈도우는 모델이 한 번의 요청에서 참고할 수 있는 토큰의 범위라고 이해하면 됩니다.

예를 들어 긴 문서를 AI에게 입력한다고 생각해보겠습니다.

모델이 참고할 수 있는 문맥의 크기에는 한계가 있습니다.

사용자 질문 + 이전 대화 + 첨부 문서 + 시스템 지침 + AI의 생성 결과

등이 모두 컨텍스트와 관련됩니다.

컨텍스트 윈도우가 크면 긴 문서나 긴 대화를 한 번에 처리하는 데 유리합니다.

하지만 컨텍스트가 크다고 무조건 좋은 것은 아닙니다.

실제 AI 서비스를 설계할 때는 필요한 정보를 선별해서 효율적으로 전달하는 것이 중요합니다.

---

7. Temperature

Temperature는 LLM이 답변을 생성할 때 출력의 무작위성 또는 다양성을 조절하는 값입니다.

쉽게 생각하면,

낮은 Temperature → 비교적 일관되고 예측 가능한 답변

높은 Temperature → 다양한 표현과 결과가 나올 가능성이 증가

한다고 이해하면 됩니다.

예를 들어 계산이나 정형화된 업무에서는 일관성이 중요할 수 있습니다.

반대로 아이디어를 여러 개 생성하는 작업에서는 다양한 결과가 도움이 될 수 있습니다.

따라서 Temperature 역시 서비스 목적에 맞게 설정하는 것이 중요합니다.

---

8. AI를 서비스 관점에서 연결해보면

지금까지 배운 내용을 하나의 흐름으로 연결해보겠습니다.

사용자가 AI 서비스에 질문을 입력하면 다음과 같은 과정이 발생합니다.

사용자 질문 → 토큰화 → 컨텍스트 구성 → LLM 입력 → 다음 토큰 확률 계산 → 토큰 생성 → 반복 → 최종 답변

그리고 이 과정이 바로 Inference입니다.

그렇다면 이 LLM은 어떻게 만들어졌을까요?

대규모 데이터 → Pre-training → Fine-tuning → LLM → Inference → 사용자에게 답변

이렇게 연결해서 생각하면 지금까지 배운 용어들이 하나의 구조로 이어집니다.

---

9. IT 기획자 관점에서 중요한 이유

AI를 공부한다고 해서 반드시 AI 모델을 직접 개발해야 하는 것은 아닙니다.

하지만 AI 서비스를 기획한다면 기술이 어떤 원리로 작동하는지는 이해해야 합니다.

예를 들어 고객이 이렇게 이야기했다고 해보겠습니다.

"우리 서비스에 AI 검색을 넣어주세요."

이 말을 듣고 단순히 검색창 하나를 추가하는 것으로 끝나면 안 됩니다.

기획자는 최소한 다음과 같은 질문을 할 수 있어야 합니다.

• 어떤 데이터를 검색할 것인가?
• 데이터는 어디에 저장되어 있는가?
• 임베딩이 필요한가?
• LLM은 어떤 역할을 하는가?
• RAG가 필요한가?
• 컨텍스트는 얼마나 필요한가?
• 어떤 API를 사용할 것인가?
• 추론 비용은 어느 정도인가?
• 응답 속도는 어느 정도가 필요한가?
• 개인정보와 보안 문제는 없는가?

결국 AI 기획자는 AI 모델 자체를 만드는 사람이라기보다 AI 기술을 서비스와 비즈니스에 연결하는 사람이 되어야 합니다.

---

10. 이번 글의 핵심만 다시 정리

AI
→ 인간의 지능적인 작업을 컴퓨터가 수행하도록 만드는 가장 큰 개념

머신러닝
→ 데이터를 통해 패턴을 학습하는 AI 방법

딥러닝
→ 여러 층의 신경망을 이용하는 머신러닝 방법

LLM
→ 대규모 언어 데이터를 학습한 딥러닝 기반 언어 모델

토큰
→ LLM이 텍스트를 처리하는 기본 단위

파라미터
→ 모델이 학습하면서 조정하는 내부 수치

임베딩
→ 데이터를 의미를 담은 숫자 벡터로 표현하는 방법

컨텍스트 윈도우
→ 모델이 한 번에 참고할 수 있는 토큰 범위

Training
→ AI 모델을 학습시키는 과정

Inference
→ 학습된 모델을 실제 서비스에서 사용하는 과정

Temperature
→ 생성 결과의 다양성과 무작위성을 조절하는 값

---

마무리

AI를 공부하면서 가장 중요한 것은 어려운 용어를 많이 외우는 것이 아니라 용어들 사이의 관계를 이해하는 것이라고 생각합니다.

처음에는 "LLM이 뭐지?"에서 시작하지만,

AI → 머신러닝 → 딥러닝 → LLM → 토큰 → 다음 토큰 예측 → Inference → AI 서비스

라는 흐름을 이해하기 시작하면 새로운 AI 기술을 접했을 때도 훨씬 빠르게 이해할 수 있습니다.

그리고 이 기초가 잡혀 있어야 이후에 공부할 Transformer, Attention, RAG, AI Agent, AI 서비스 아키텍처도 자연스럽게 연결됩니다.

다음 글에서는 LLM을 이해하기 위한 핵심 기술인 Transformer와 Attention을 정리해보겠습니다.