프롬프트 엔지니어링 기초: 단순 질의 vs 구조화된 접근 vs 생각의 사슬(CoT)
같은 AI 모델이라도 어떻게 묻느냐에 따라 답변의 품질이 크게 달라집니다. 원하는 결과를 얻기 위해 지시문을 설계하는 기법을 프롬프팅 전략이라고 합니다.
이 글에서는 가장 기본이 되는 세 가지 전략을 정리합니다.
- 단순 질의 (Naïve Query)
- 구조화된 접근 (Structured Approach)
- 생각의 사슬 (Chain-of-Thought, CoT)
세 전략은 “프롬프트를 얼마나 구체적으로 쓰는가"와 “AI의 사고 과정을 어떻게 유도하는가"에 따라 구분됩니다.
한눈에 비교하기
| 전략 | 핵심 아이디어 | 장점 | 단점 | 적합한 상황 |
|---|---|---|---|---|
| 단순 질의 | 한두 문장의 자연어로 질문 | 빠르고 간편함 | 답변이 일반적이고 일관성이 낮음 | 가벼운 질문, 사실 확인 |
| 구조화된 접근 | 역할·맥락·제약·출력 형식을 명시 | 원하는 형태의 결과를 일관되게 얻음 | 작성에 시간이 듦 | 업무 문서, 반복 작업, 자동화 |
| 생각의 사슬 | 단계별 추론 과정을 유도 | 복잡한 논리·계산 문제의 정확도 향상 | 토큰 사용량 증가, 단순 작업엔 과함 | 수학, 논리 추론, 의사결정 |
1. 단순 질의 (Naïve Query)
특별한 형식 없이 떠오른 생각을 그대로 한두 문장으로 묻는 방식입니다. 대부분의 사람이 AI를 처음 쓸 때 사용하는 방식이기도 합니다.
예시
마케팅 트렌드에 대해 알려줘.
특징
- 작성이 빠르고 직관적입니다.
- 대신 AI가 “어떤 분야의, 언제의, 누구를 위한” 트렌드인지 알 수 없기 때문에 범위가 넓고 뻔한 답변이 나오기 쉽습니다.
- 간단한 사실 확인이나 아이디어를 가볍게 탐색할 때는 이 방식으로도 충분합니다.
2. 구조화된 접근 (Structured Approach)
AI에게 역할(Persona), 목표(Task), 맥락(Context), 제약 조건(Constraints), 출력 형식(Format) 을 명확히 지정하는 방식입니다. 사람에게 업무를 지시할 때 요구사항을 구체적으로 전달하는 것과 같은 원리입니다.
예시
역할: 너는 10년 차 B2B IT 마케터야. 목표: 2026년 B2B SaaS 마케팅 트렌드 3가지를 분석해 줘. 대상 독자: 마케팅 경험이 1~2년인 스타트업 실무자 조건: 전문 용어는 쉽게 풀어서 설명하고, 전체 500자 내외로 작성해 줘. 출력 형식: 트렌드별로 bullet point(•) 한 개씩, 각 항목에 “왜 중요한가"를 한 줄 덧붙여 줘.
특징
- 답변의 범위·깊이·형식을 정밀하게 제어할 수 있습니다.
- 같은 프롬프트를 반복 사용하면 결과물의 품질이 일정하게 유지되므로, 보고서 작성이나 업무 자동화에 특히 유용합니다.
- 항목을 XML 태그(
<context>...</context>)나 마크다운 헤더로 구분하면 AI가 지시와 자료를 더 정확히 구분합니다.
3. 생각의 사슬 (Chain-of-Thought, CoT)
최종 답만 요구하지 않고 중간 추론 과정을 단계별로 거치도록 유도하는 방식입니다. 크게 두 가지 방법이 있습니다.
- Zero-shot CoT: 질문 끝에 “단계별로 차근차근 생각해 봐(Let’s think step by step)” 같은 문구를 덧붙입니다.
- Few-shot CoT: 풀이 과정까지 포함된 예시를 몇 개 보여 준 뒤 같은 방식으로 풀게 합니다.
예시
A 마트에서는 사과 5개에 5,000원이고, B 마트에서는 3개에 3,600원이야. 어느 마트의 사과 한 개 가격이 더 저렴한지 단계를 나누어 설명해 줘.
기대하는 답변 흐름
- A 마트: 5,000원 ÷ 5개 = 개당 1,000원
- B 마트: 3,600원 ÷ 3개 = 개당 1,200원
- 결론: A 마트가 개당 200원 더 저렴하다.
특징
- 문제를 작은 단계로 쪼개 풀기 때문에 수학 계산, 논리 추론, 여러 조건을 따지는 의사결정에서 정확도가 올라갑니다.
- 추론 과정이 드러나므로 사람이 어디서 틀렸는지 검증하기 쉽다는 장점도 있습니다.
- 다만 CoT는 추론 오류를 줄이는 기법이지, 모델이 모르는 사실을 지어내는 할루시네이션을 막아 주지는 않습니다. 사실 정확성이 중요하다면 출처 확인을 함께 요구하는 것이 좋습니다.
- 최근에는 모델 자체에 추론 단계가 내장된 추론형(Reasoning) 모델이 많아, “단계별로 생각해"라는 문구 없이도 비슷한 효과를 얻는 경우가 늘었습니다. 이런 모델에서는 사고 과정을 일일이 지시하기보다 문제와 조건을 정확히 전달하는 것이 더 중요합니다.
실전 팁: 세 전략은 섞어 쓰는 것
세 가지는 서로 배타적인 선택지가 아니라 필요에 따라 조합하는 도구입니다.
- 간단한 질문 → 단순 질의로 충분
- 결과물의 형태가 중요 → 구조화된 접근
- 계산·판단이 복잡 → 구조화된 접근 + CoT
예를 들어 “투자 시나리오 비교 보고서"를 요청한다면, 역할과 출력 형식은 구조화된 방식으로 지정하고, 시나리오 비교 부분에만 단계별 추론을 요청하는 식으로 조합할 수 있습니다.
마무리
| 상황 | 추천 전략 |
|---|---|
| 빠르게 감을 잡고 싶을 때 | 단순 질의 |
| 정해진 형식의 결과물이 필요할 때 | 구조화된 접근 |
| 정답까지의 논리가 중요할 때 | 생각의 사슬 (CoT) |
좋은 프롬프트의 핵심은 결국 “AI가 추측해야 할 부분을 줄이는 것” 입니다. 처음에는 단순 질의로 시작하고, 답변이 아쉬울 때마다 맥락·형식·추론 단계를 하나씩 추가해 보세요.
참고 자료
- Wei et al., Chain-of-Thought Prompting Elicits Reasoning in Large Language Models (2022)
- Kojima et al., Large Language Models are Zero-Shot Reasoners (2022)