AI를 잘 쓰는 사람"이 아니라 "AI를 비즈니스에 적용할 수 있는 사람"

AI 리포트

AI를 잘 쓰는 사람"이 아니라 "AI를 비즈니스에 적용할 수 있는 사람"

스킬사공사 2026. 8. 4. 11:01

"AI를 공부하다 보면 늘 마주치는 단어들이 있습니다.

자주 접한다고 해서 내가 진짜 알고 있는 건 아니기에, 이번 기회에 머릿속에 확실히 채워 넣으려 합니다.

용어 정의라는 게 참 지루하지만 이 일을 하려면 어쩔 수 없습니다. 공부해야죠!

이 정리는 단순한 지식 축적용이 아닙니다. AI 업무를 하며 은퇴 없이 오랫동안 일하고 싶은 마음에, 내 공부도 할 겸 비즈니스에 필요한 핵심들을 깊이 파보고 정리한 결과물입니다.

AI를 잘 쓰는 사람이 비즈니스에도 잘 적용합니다. 그리고 '잘 쓴다'는 건 결국 원리를 아는 사람을 뜻합니다. 누가 잘하고 못하고를 가르려는 게 아닙니다. 비즈니스에 진짜 적용하려면 원리를 알아야 하기에, 어딘가에서 본 듯한 지루한 이야기일지라도 다시 한번 본질을 짚어보고자 합니다."

1단계 : AI를 이해한다. (원리)

LLM이 어떻게 동작하는가 = 세상의 모든 책을 읽은 초고속 타이피스트
LLM (Large Language Model, 대규모 언어 모델)은 대량의 텍스트 데이터로 훈련된 딥러닝 모델로, 인간과 유사한 텍스트를 이해하고 생성할 수 있는 인공지능 시스템입니다. 방대한 대화 패턴을 바탕으로 "이 다음에 올 가장 자연스러운 단어"를 눈 깜짝할 사이에 붙여 말함
참고 : https://tech.kakaopay.com/post/how-llm-works/ ㅡ 내부 동작 원리를 단계별로 잘 설명해주신듯...
LLM > Transformer : 문장 전체를 한눈에 보는 레이더망
옛날 AI는 한 단어씩 순서대로 보느라 앞뒤 문맥을 잘 놓쳤지만, 트랜스포머는 긴 문장의 앞과 뒤를 동시에 보면서 "이 단어와 저 단어가 서로 연결되어 있구나!"를 기가 막히게 찾아내는 AI의 핵심 엔진임
참고 : https://csshark.tistory.com/134 ㅡ 뭔 말인지 나도 잘 모르겠다. 심심하면 보시길...대가리 깨짐...(창이나 얼른 닫어!)
LLM > Context Window : AI의 단기 기억 용량(책상크기)
AI가 한 번에 기억하고 처리할 수 있는 대화와 문서의 한계예요. 책상이 좁으면 옛날에 한 말을 까먹는 것처럼, 너무 긴 소설을 한 번에 넣으면 앞부분을 기억 못 하고 헛소리를 하거나 에러가 납니다.
참고 : https://huggingface.co/learn/llm-course/ko/chapter1/4 ㅡ 살~ 읽어봤는데 나름 쉽게 잘 설명해줌.
Token : AI가 세상을 읽는 레고 블록
AI는 글자를 통째로 읽지 못하고 쪼개서 인식. 영어는 단어 단위, 한국어는 형태소나 글자 조각 단위로 쪼개는데, 이 쪼갠 조각 하나하나를 토큰이라고 부릅니다. (AI 서비스를 쓸 때 돈을 내거나 용량을 따질 때 쓰는 기준!)
참고 : https://brunch.co.kr/@miminy91/7 ㅡ 다 읽어보진 않음 하지만 토큰에 대한 정의가 뙇! 맨 처음부터 나옴! 인정!
Prompt = AI에게 내리는 구체적인 주문서
역할과 조건을 구체적으로 적어주는 주문 방식 "너는 10년차 마케터야!" 따위로 물어보면 쌩초보임!!
참고 : https://brunch.co.kr/@aewol/5 ㅡ 읽어보진 않음...아니 싫음...
Hallucination = 너무 당당한 거짓말쟁이 !! 가장 위험한 녀석임
모르는 내용이 나와도 AI는 모른다고 하기보다는, 확률적으로 그럴싸한 단어들을 조합해 진짜 사실인 것처럼 뻔뻔하게 거짓말을 만들어내는 현상입니다.
참고 : https://wikidocs.net/333759 ㅡ 읽어보면 피가 되고 살이 되는 찌게백반이 되는 (읭? 너 몇살이니?)
Fine-tuning = 일반 대학생에게 전문 의학 과외 시키기
똑똑하지만 세상 모든 걸 대충 아는 기본 AI에게, 특정 회사 내부 문서나 의학·법률 같은 전문 데이터를 집중적으로 추가 학습시켜서 '전문가'로 만드는 과정입니다.
참고 : https://brunch.co.kr/@sparta/128 ㅡ 오오! 뭔가 글에서 섬세함이 느껴지능?
RAG = 오픈북 테스트를 보는 학생
혼자 기억에 의존해 거짓말(환각)을 하지 않도록, 질문과 관련된 최신 문서나 사내 데이터베이스에서 정답을 먼저 '검색'해 가져온 뒤, 그것을 보고 정확하게 답하게 만드는 기술입니다.
참고 : https://blog.kakaocloud.com/98 ㅡ 쉽게 설명했다기 보다는 이 정도는 이해하고 가자! 수준?
AI Agent = 스스로 일하는 똑똑한 비서
사람이 시키는 말에 대답만 하는 게 아니라, "이메일 확인해서 일정 정리해 줘"라고 하면 스스로 계획을 세우고, 캘린더 앱도 열고, 웹서핑도 해서 혼자 일을 끝마치는 자율 로봇 같은 개념입니다.
참고 : https://brunch.co.kr/@ywkim36/146 ㅡ 10분만에 이해 가능한지 도저언!!
MCP(Model Context Protocol) = AI 전용 만능 USB 포트
AI가 내 컴퓨터 안의 파일, 회사 데이터베이스, 각종 외부 앱과 쉽게 연결될 수 있도록 만든 공통 '연결 규격(잭)'입니다. 이걸 통해 AI가 다양한 도구를 안전하게 쓸 수 있어요.
참고 : https://thinkingai.io/kr/blog/mcp/ ㅡ 쉽게 이해할 수 있게 잘 풀어서 정리해둔 곳
Function Calling = AI가 계산기나 날씨 앱을 켜는 버튼 누르기'
AI는 직접 계산을 하거나 오늘 날씨를 알 수 없지만, 사용자의 말을 듣고 "아, 지금은 계산기 프로그램이 필요하구나!" 하고 프로그램이 알아들을 수 있는 신호(명령어)로 바꿔서 외부 기능을 실행하게 돕는 기술입니다.
참고 : https://www.ncloud-forums.com/topic/475/ ㅡ AI공부할라믄 이정도는 읽고 이해하자!

2단계 : AI 기능을 설계한다.

예를 들어 병원 서비스라면 "AI를 넣자"가 아니라
예약 > AI문진 > 의사 추천 > 요악 생성 > 보험청구 자동작성 처럼 → AI가 들어갈 지점을 설계할 수 있어야 한다.

공부하자!

UX Research > Service Blueprint = 화려한 무대 뒤편의 연극 대본과 무대 장치
고객의 눈에 보이는 앞모습(Customer Journey)뿐만 아니라, 고객은 보지 못하는 주방(직원들의 업무, 시스템, 백그라운드 프로세스)까지 한눈에 볼 수 있도록 위아래로 길게 펼쳐놓은 대형 설계도입니다.
참고 : https://potatohands-design.tistory.com/7
Customer Journey = 손님이 가게에 들어와서 나갈 때까지의 발자취
고객이 어떤 계기로 우리 서비스를 알게 되고, 제품을 고르고, 결제하고, 나중에 AS를 받기까지 고객이 느끼는 경험의 전체 흐름을 시간순으로 쭉 그려본 것입니다.
참고 : https://m.blog.naver.com/luckypark_may/222676440905
BPMN (Business Process Model and Notation) = 전국민이 알아보는 업무용 표준 레고 조립 설명서
비즈니스 프로세스를 시각화하기 위한 표준 표기법으로, 비즈니스 모델을 단순화/자동화해 비용을 줄일 수 있도록 도와주는 비즈니스 시각화/분석 방법입니다.
"김 대리가 결재를 올리면, 부장이 승인하고, 거절되면 다시 수정한다" 같은 회사 업무 흐름을 누구나 헷갈리지 않게 특정 기호(시작은 동그라미, 작업은 네모, 조건은 마름모 등)로 전 세계 공통으로 그려놓은 업무 지도입니다.
참고 : https://boardmix.com/kr/skills/what-is-bpmn/
업무 프로세스 분석 = 공장 라인에서 어디가 막히고 새는지 찾아내는 정밀 진다
우리 회사가 일하는 방식을 처음부터 끝까지 뜯어보면서, "어디서 시간이 너무 오래 걸리지?", "어디서 불필요한 결재가 두 번씩 일어나지?" 하고 비효율적인 구멍을 찾아내 고치는 과정입니다.
참고 : https://blog.naver.com/suresofttech/224345904521
업무 자동화 = 사람이 하던 단순 반복 노동을 로봇 팔(RPA, AI)에게 시키기
매일 아침 엑셀 파일을 열어서 데이터를 복사-붙여넣기 하거나, 똑같은 양식의 메일을 수십 통씩 보내는 것처럼 컴퓨터가 대신 할 수 있는 지루한 일들을 자동 프로그램이나 AI에게 맡겨버리는 것입니다.
참고 : https://wikidocs.net/338660 ㅡ 자동화 가능 여부를 잘 구분하는 능력이 필요하겠다.

3단계 : 데이터를 이해한다.

AI는 결국 데이터를 먹고 일합니다.

DB
개발자 수준의 전문가가 되라는게 아니다. 테이블 구조 이해 / 데이터의 흐름을 이해한다 / APP과 DB 관계 이해
AI 서비스 기획자라면
* AI가 판단하려면 어떤 데이터가 필요한가?
* 현재 데이터가 저장되고 있는가?
* 데이터 정확도는 어느정도인가?
* 실시간 데이터인가?
* 개인정보 문제가 있는가?
* AI결과를 검증할 기준이 있는가?
API (Application Programming Interface)
API는 서로 다른 시스템이 데이터를 주고받을 수 있도록 정해놓은 약속(통신 규칙)입니다.
쉽게 말하면 서비스와 서비스 사이의 연결 통로
참고 : https://brunch.co.kr/@operator/65
JSON (JavaScript Object Notation)
Javascript 객체 문법으로 구조화된 데이터를 표현하기 위한 문자 기반의 표준 포맷입니다. 웹 애플리케이션에서 데이터를 전송할 때 일반적으로 사용합니다(서버에서 클라이언트로 데이터를 전송하여 표현하려거나 반대의 경우).
참고 : https://brunch.co.kr/@b30afb04c9f54dc/34
REST API (Representational State Transfer)
API를 다양한 사람들이 사용하는 만큼 규칙과 내용을 더 간단하고 쉽게 만든 것
참고 : https://brunch.co.kr/@ogaa2143/30
SQL (Structured Query Language)
데이터를 생성, 조회, 수정, 삭제하는데 사용되는 표준 언어 / Datebase를 다루기 위해 만들어진 특수한 언어
사용법이 비교적 간단하고 직관적이기 때문에 누구나 쉽게 배울 수 있는 강력한 데이터 처리 도구
참고 : https://m.blog.naver.com/djusti/223599731527

위에 것들을 개념만 잡고 있어도 이 기능은 가능, 불가능 판단할 수 있다.

4단계 : UX보다 AI UX

앞으로 화면보다 AI 경험을 설계합니다. UX(User experience) 사용자 경험, 시스템 또는 서비스와 상호작용할 때 갖는 전반적인 경험을 나타냅니다.

예를 들면 'AI가'

* 언제 답변해야 하는가

* 언제 질문해야 하는가
* 언제 확신도를 보여줄까
* 언제 사람에게 넘길까
이런게 UX

[기존 UX 기획 vs AI 서비스 기획]
기존 UX 기획
사용자의 경험 여정과 과업(task) 완수 과정을 중심으로 설계.
사용자가 “무엇을 원하고, 어떻게 쉽게 할 수 있을까”에 집중.
화면 단위, 플로우 단위로 기능 정의.

AI 서비스 기획
AI가 개입하는 의사결정 지점을 설계.
사용자의 입력 → AI의 처리 → 결과 제공 → 사용자 피드백 → AI 개선의 순환 구조 고려.
개인화, 자동화, 추천, 생성 등 AI가 “스스로 판단하는 영역”을 UX 플로우 안에 포함.
출처: https://artistnote.tistory.com/entry/AI-User-Interaction-생성-AI의-UX-기획-과정-A-to-Z [artist's notebook::티스토리]

5단계 : 검증능력

AI는 100% 맞지 않다.

그래서 기획자가
* 품질평가 (Quality Evaluation)
AI가 만든 답변이 쓸만한지...맛집 앱이라면 AI가 추천한 식당이 찐인지 검증 필요

* 정확도 측정 (Accuracy Measurement)
AI가 틀리지 않고 얼마나 똑똑하게 잘 맞추는지 계산하기, 100번 질문 시 정답을 몇번 맞췄는지 비율(%)보기

* Prompt Test
AI에게 명령어를 이렇게 저렇게 바꿔가며 시켜보기, '친절하게 말해줘'와 '짧게 말해줘'에 따라 결과 비교하기

* Red Team
기획자가 일부러 나쁜 사용자가되서 AI공격해보기, 욕설 유도하거니 시스템을 망가뜨리는 질문 던져보기

* AI Safety
AI가 위험한 발언을 하지 못하도록 브레이크 걸기, 편견, 차별, 사기방법, 개인정보를 말하지 않게 차단하기

를 할 줄 알아야 한다.

6단계 : AI 거버넌스

앞으로 엄청 커질 분야입니다.

AI가
* 개인정보를 출력했는가 : 사용자의 질문에 다른 사람의 비밀을 흘리는 사고가 발생함 → 필터링 시스템 마련
* 욕설을 했는가 : 사용자가 일부러 유도하거나 인터넷의 나쁜 언어를 배워서 사용 → 금칙어 DB사용
* 차별 발언을 했는가 : 편견을 학습하여 발언하는 위험 → 도덕적 가이드라인 프롬프트 시스템에 주입
* 의료법을 위반했는가 : 전문 자격이 없으면서 법적 권고를 내리면 불법 → 전문적인 질문 시 경고 문구 출력
이런 걸 검증합니다.

7단계 : 비즈니스 이해

여기가 가장 큰 차이입니다.

AI를 잘 아는 사람이 아니라 AI로 돈 버는 방법 을 설계할 수 있어야 합니다.

예를 들면
"이 업무는 AI가 하면 3시간 → 10분" 이라는 ROI를 계산할 수 있어야 합니다.

그래서, 추천 공부 순서

| 1  | 생성형 AI 원리(LLM, RAG, Agent, MCP)
| 2  | 프롬프트 엔지니어링
| 3  | API, JSON, SQL
| 4  | Python 기초(자동화 중심)
| 5  | AI UX
| 6  | Service Design
| 7  | AI 거버넌스/보안
| 8  | 데이터 분석(GA4, SQL, A/B 테스트)
| 9  | AI 프로젝트 관리(PMP + Agile)