프롬프트, 컨텍스트, 마크다운

이 장에서 할 일

요즘 프롬프트는 공식보다 '하고 싶은 일을 구체적으로'가 중요하다는 점을 이해합니다. AI가 모르는 정보를 건네는 세 가지 방법(입력, 첨부, 스킬·MCP)을 구분하고, 마크다운의 기호 두 개를 익힙니다.

앞 장에서는 LLM이 사전에 학습한 데이터로 다음 말을 확률로 고르는 모델이라는 점을 살펴보았습니다. 이번 장에서는 실제로 채팅창 앞에 앉았을 때 가장 먼저 부딪히는 세 가지 물음, 즉 입력창에 무엇을 어떻게 입력할지(프롬프트), AI가 모르는 것은 어떻게 알려 줄지(컨텍스트), 돌아온 답은 왜 제목과 굵은 글씨로 정리돼 있는지(마크다운)를 차례로 살펴보겠습니다.

1. 프롬프트

프롬프트(Prompt) 는 AI에게 원하는 일을 요청하는 입력으로, 채팅창에 치는 글 전부가 프롬프트에 해당합니다.

1.1. 예전에는 공식이 있었다

챗GPT가 처음 나왔을 무렵에는 같은 질문도 묻는 방식에 따라 답의 질이 크게 달라졌습니다. 이 때문에 프롬프트를 잘 입력하는 일이 곧 AI를 잘 쓰는 방법처럼 여겨지면서 '프롬프트 엔지니어링(Prompt Engineering)'이라는 이름이 붙었고, 잘 쓰는 공식도 널리 돌았습니다.

[역할] 너는 20년 차 회계 전문가다.
[맥락] …
[지시] 단계별로 생각해서 …
[형식] 마크다운 표로 …

위 공식은 역할을 주고, 맥락을 깔고, 단계별로 생각하라고 시키고, 형식을 정하는 방식입니다. 특히 "너는 ○○ 전문가다"로 시작하라는 요령이 널리 퍼졌고, 이런 작성법을 가르치는 강좌와 책도 쏟아졌습니다.

1.2. 지금은 하고 싶은 일을 구체적으로

모델 성능이 좋아지면서 이런 요령은 모델 안으로 들어갔습니다. 요즘 모델은 그런 요령을 이미 스스로 익히고 있어서 "너는 20년 차 회계사야"라고 역할을 주지 않아도 알아서 전문가처럼 답하므로, 이제는 공식을 지키기보다 하고 싶은 일을 최대한 구체적으로 말하는 것이 중요합니다.

대부분의 일은 구체적으로 말할수록 결과가 좋아지는데, 예를 들면 다음과 같습니다.

첨부한 채권명세로 25년 말 대손충당금 계산해 줘. 1년 초과 50%, 2년 초과 100%, 결과는 엑셀 표로.

이 한 줄에는 AI가 일을 하는 데 필요한 네 가지가 모두 들어 있습니다.

재료: 첨부한 채권명세
기준일: 25년 말
규칙: 1년 초과 50%, 2년 초과 100%
받을 모양: 엑셀 표

반대로 "대손충당금 계산해 줘"라고만 하면 AI는 설정률을 업계 일반론으로 짐작하는 식으로 빈칸을 스스로 채우고, 결과 모양도 요청할 때마다 달라져 받은 뒤 다시 손봐야 합니다.

반면 무엇을 분석해야 할지 아직 모를 때는 일부러 넓게 묻는 편이 낫습니다.

이 매출 데이터로 뭘 볼 수 있을까?

이렇게 방향을 좁히지 않고 물으면 AI가 먼저 가능성을 펼쳐 보이고, 내가 미처 생각하지 못한 관점을 가져오기도 합니다. 그중 쓸 만한 것을 골라 다음 요청을 구체적으로 좁혀 가면 됩니다.

무엇을 말해야 할지 막막하다면 "이 일을 맡기려면 내가 어떤 정보를 줘야 하는지 먼저 물어봐 줘"라고 요청해, 그 일 자체를 AI에게 맡겨도 됩니다. 이 요령은 4.4장에서 클로드 엑셀의 프롬프트 팁과 함께 다시 다룹니다.

예전과 지금의 프롬프트를 나란히 놓으면 다음 그림과 같습니다.

프롬프트는 공식보다 하고 싶은 일을 구체적으로

그림 왼쪽의 공식은 이제 모델이 스스로 갖추고 있으므로, "프롬프트는 이렇게 써야 한다"는 공식은 큰 의미가 없습니다. 우리는 그림 오른쪽처럼 하고 싶은 일을 구체적으로 말하거나, 방향을 모를 때 일부러 넓게 물으면 됩니다.

하지만 아무리 구체적으로 말해도 풀리지 않는 문제가 하나 남습니다. 위의 대손충당금 요청에서 AI가 채권명세를 읽을 수 있었던 이유는 파일을 첨부했기 때문이며, 첨부하지 않았다면 AI는 우리 회사 채권명세를 알 길이 없습니다. 따라서 프롬프트 다음으로 중요한 문제는 AI가 모르는 것을 어떻게 알려 주느냐입니다.

2. 컨텍스트

컨텍스트(Context) 는 AI가 모르는 것을 알려 주는 맥락으로, 생각만큼 거창한 개념은 아닙니다. 쉽게 말해 AI로 사주를 볼 때 AI가 가장 먼저 생년월일시를 묻는 것과 같습니다. AI는 내 생일을 모르므로 이 정보를 알려 주지 않으면 사주를 볼 수 없고, 이때 알려 주는 생년월일시가 바로 컨텍스트에 해당합니다.

1.1장에서 LLM의 L, 즉 Large는 사전학습을 뜻한다고 설명했습니다. AI는 학습한 데이터만 알기 때문에 올해 개정된 세법, 우리 회사의 대손 설정 기준, 이번 분기 결산명세서처럼 학습한 적이 없는 정보는 모릅니다. 이런 것을 물으면 1.3장에서 다룰 할루시네이션(Hallucination), 곧 그럴듯한 오답이 나오므로 AI가 모르는 정보는 사람이 직접 넣어 줘야 합니다.

컨텍스트를 넣어 주는 방법은 다음 그림처럼 세 단계로 발전해 왔습니다.

컨텍스트를 주는 방법은 입력에서 첨부로, 첨부에서 자동으로

1단계: 입력: 짧은 정보를 채팅창에 그대로 적는 방법입니다. 생년월일시를 알려 주고 "내 사주 봐 줘"라고 하는 것이 여기에 해당하며, 양이 적으니 매번 입력해도 부담이 없습니다.
2단계: 첨부: 양이 많아 하나하나 칠 수 없을 때 파일을 통째로 첨부하는 방법입니다. 예를 들어 세법이 개정돼 검토를 맡기려 할 때 무엇이 바뀌었는지 내가 다 타이핑할 수는 없으므로, 개정 세법 PDF를 올리고 "이 기준으로 검토해 줘"라고 하면 AI는 학습하지 못한 개정 내용을 그 파일에서 읽고 답합니다. PDF, 이미지, 엑셀 모두 첨부할 수 있습니다.
3단계: 자동: 매번 첨부하지 않아도 AI가 필요한 맥락을 스스로 찾아 읽게 하는 방법입니다. 첨부도 결국 매번 해야 하는 일이고, 대손충당금 계산 절차를 매번 설명하거나 기준서 문단을 매번 복사해 붙일 수는 없습니다. 따라서 업무 절차는 스킬로, 기준서·법령·공시 같은 바깥 자료는 MCP로 붙여 둡니다. 이 두 장치는 1.4장에서 미리 살펴보고, 2부와 3부에서 직접 연결하고 등록합니다.

그림 아래의 작은 글씨처럼, 컨텍스트를 주는 방식은 적은 양을 매번 입력하던 데서 많은 양을 매번 첨부하는 데로, 다시 많은 양을 자동으로 가져오는 데로 옮겨 왔습니다. 즉, 컨텍스트는 AI가 모르는 것을 알려 주는 일이며, 그 방법이 입력에서 첨부로, 첨부에서 자동으로 발전해 왔습니다. 이 시리즈의 2부 이후는 3단계 방법을 내 업무에 붙이는 과정입니다.

3. (참고) 멀티모달

앞에서 2단계 방법으로 이미지와 PDF도 첨부할 수 있다고 했습니다. LLM은 글만 읽는다고 했는데도 챗봇에 영수증 사진이나 엑셀 캡처, PDF를 던지면 곧잘 읽어 내는 이유는 멀티모달이라는 능력 덕분입니다.

스크린샷과 PDF도 읽는 이유, 멀티모달

멀티모달(Multimodal) 은 글 말고도 이미지 같은 여러 형태의 입력을 함께 다루는 능력입니다. 그렇다고 LLM에게 눈이 생겨 진짜로 사진을 보게 된 것은 아니며, 그림의 왼쪽 칸처럼 이미지를 번역해서 읽는 방식에 가깝습니다. 쉽게 말해 글만 읽는 LLM 앞에 사진을 대신 보고 글로 옮겨 주는 번역기가 하나 붙어 있다고 생각하면 됩니다.

스크린샷이나 사진은 이미지를 바둑판처럼 잘게 조각낸 뒤, 시각 번역기가 각 조각을 모델이 읽을 수 있는 글자 암호 같은 형태로 바꿉니다. PDF는 글자가 살아 있는 문서라면 텍스트를 바로 뽑아내고, 종이를 스캔한 문서라면 이미지로 바꿔 같은 과정을 거칩니다.

그림의 오른쪽 칸은 실무 요령으로, 다음 두 가지 이유 때문에 가능하면 텍스트로 주는 편이 좋습니다.

토큰(비용): 이미지를 읽으면 같은 내용의 텍스트보다 훨씬 많은 토큰을 씁니다. 토큰은 1.3장에서 다룹니다.
숫자 왜곡: 해상도가 낮으면 숫자가 뭉개져 잘못 읽히며, 특히 흐릿한 캡처에서는 3과 8, 0과 6이 헷갈리기 쉽습니다. 숫자 하나가 틀리게 읽히면 그 오류가 그대로 판단의 재료가 됩니다.

따라서 재무제표는 캡처해 붙이기보다 엑셀이나 표를 그대로 건네고, 스캔 PDF는 한 번 텍스트로 옮겨 검토해 둔 뒤 쓰는 편이 안전합니다.

4. 마크다운

마크다운(Markdown) 은 기호 몇 개로 서식을 표시하는 글쓰기 형식으로, 파일 확장자는 .md입니다. 챗봇의 답변을 보면 제목과 소제목이 구분되고 강조할 단어는 굵게 표시돼 있지만, AI가 워드에서 하듯 제목 크기를 하나하나 정하고 Ctrl + B를 눌러 굵게 만드는 것은 아닙니다. AI가 쓴 원래 글에는 #이나 ** 같은 기호가 들어 있고, 채팅창이 그 기호를 서식으로 바꿔 보여 줍니다.

기호로 서식을 표시하는 마크다운

그림의 왼쪽은 AI가 실제로 쓴 원문이고, 오른쪽은 채팅창에 보이는 모습입니다. 원문의 ## 검토 결과가 제목으로, **결론**이 굵은 글씨로, -로 시작하는 세 줄이 글머리 목록으로 바뀌었는데, 이처럼 워드에서 서식을 하나하나 지정하는 대신 기호로 표시하는 방식이 마크다운입니다.

마크다운 기호 가운데 외울 것은 다음 두 개면 충분합니다.

기호	뜻	예
`#`	제목(개수가 많을수록 작은 제목)	`## 검토 결과`
`**`	굵게 강조	`결론`

마크다운이 AI 시대의 표준 형식이 된 이유는 사람과 AI 모두 읽기 쉽기 때문입니다. 메모장으로 열어도 그대로 읽히는 텍스트라 사람과 AI가 같은 파일을 함께 읽을 수 있고, 워드 파일처럼 서식 정보가 안쪽에 따로 숨어 있지 않아 AI는 읽기 쉽고 사람은 고치기 쉽습니다.

한때는 프롬프트도 반드시 마크다운으로 써야 AI의 성능이 좋아진다는 이야기가 많았지만, 요즘 모델은 평범한 문장으로 던져도 잘 알아듣습니다. 다만 같은 규칙이라도 문단 속에 줄줄이 섞어 쓰기보다 제목으로 구획을 나누고 목록으로 한 줄에 규칙 하나씩 적으면, AI가 무엇이 규칙이고 어디까지가 한 덩어리인지 더 정확히 가려 따릅니다.

마크다운을 알아야 하는 더 중요한 이유는 스킬에 있습니다. 3부에서 다룰 스킬의 핵심 파일 이름은 SKILL.md이며, 끝의 md가 마크다운이라는 뜻입니다. 따라서 스킬을 열어 읽고 고치려면 이 형식을 읽을 줄 알아야 하는데, 다행히 문법은 어렵지 않아 #으로 제목, **로 강조하는 두 가지만 알면 됩니다.

정리

프롬프트는 공식보다 하고 싶은 일을 구체적으로 말하는 것이 중요하고, 방향을 모를 때는 일부러 넓게 묻습니다.
컨텍스트는 AI가 모르는 것을 알려 주는 일이며, 입력 → 첨부 → 스킬·MCP 순으로 발전해 왔습니다.
이미지와 스캔 PDF도 읽히지만, 토큰과 숫자 왜곡을 생각하면 가능한 한 텍스트로 줍니다.
마크다운은 기호로 서식을 표시하는 형식이고, #과 ** 두 개만 외우면 됩니다. SKILL.md도 마크다운입니다.

지금까지 프롬프트, 컨텍스트, 마크다운을 살펴보았습니다. 컨텍스트를 넣을수록 AI가 읽어야 할 양도 늘어나는데, 그 양에는 값이 매겨지고 한 번에 올려 둘 수 있는 한도도 있습니다. 다음 1.3장에서는 AI를 쓸수록 쌓이는 비용인 토큰(Token), 한 채팅창의 용량인 컨텍스트 윈도우(Context Window), 그리고 그럴듯한 오답인 할루시네이션을 살펴보겠습니다.