AI한테 질문할 때, 왜 나만 원하는 답이 안 나올까요

2026-08-18 K-Nuggets 조회 수 71

AI에게 질문 잘하는 법을 알면 같은 AI 서비스에서도 훨씬 쓸모 있는 답을 받을 수 있습니다. AI에게 같은 정보를 물어도 사람마다 받는 답변의 질이 크게 다른 이유는 결국 질문, 즉 프롬프트를 만드는 방식에 있다. 좋은 프롬프트의 핵심은 AI가 어떤 상황에서, 누구를 위해, 어떤 형태의 답을 만들어야 하는지 구체적으로 알려주는 것이다. 막연하게 묻는 대신 맥락과 목적, 원하는 결과물의 형식을 함께 제시하면 같은 AI라도 훨씬 실용적인 답을 내놓는다. 이 글은 특정 AI 서비스에 국한되지 않고 ChatGPT, Claude, Gemini 등 대부분의 생성형 AI에 공통으로 적용할 수 있는 프롬프트 작성법을 정리했다.

프롬프트, 질문이랑 뭐가 다른가

생성형 AI는 입력된 문장을 바탕으로 다음에 올 가장 그럴듯한 내용을 이어서 만들어내는 방식으로 답을 생성한다. 질문에 정보가 부족하면 AI는 빈 곳을 스스로 추측해서 채운다. 이 추측은 가장 일반적이고 평균적인 답으로 수렴하기 쉽다. 반대로 질문에 배경, 목적, 조건이 충분히 담겨 있으면 AI가 추측할 부분이 줄어들고, 실제로 필요한 답에 훨씬 가까운 결과가 나온다. 즉 AI의 성능 자체보다 질문에 담긴 정보량이 답변의 구체성을 좌우하는 경우가 많다.

5가지 원칙을 적용해보면 이렇게 달라집니다

아래 다섯 가지 원칙은 도구나 서비스와 무관하게 대부분의 AI 대화에 적용할 수 있는 기본기다. 처음 프롬프트를 쓸 때는 이 순서대로 하나씩 점검해보는 것만으로도 답변의 질이 눈에 띄게 달라진다.

1. 맥락(배경)을 먼저 설명한다

누구를 위한 결과물인지, 어떤 상황에서 쓰이는지 먼저 알려준다. 예를 들어 “이메일 써줘”보다 “거래처에 납품 일정이 3일 늦어진다고 알리는 이메일을 써줘”처럼 상황을 붙이면 AI가 불필요한 추측을 하지 않는다.

2. 원하는 결과물의 형식을 명시한다

목록으로 받을지, 표로 받을지, 몇 줄 분량인지, 격식 있는 말투인지 캐주얼한 말투인지 미리 정해준다. 형식을 정하지 않으면 AI는 임의의 기본 형식을 선택하고, 다시 수정을 요청하는 과정이 반복된다.

3. 원하는 스타일의 예시를 보여준다

글이나 결과물의 톤을 정확히 맞추고 싶다면 짧은 예시 한두 줄을 함께 제시한다. “이런 느낌으로 써줘”라고 예시 문장을 붙이면 AI가 참고할 기준이 생겨 결과의 편차가 줄어든다.

4. 역할을 부여한다

“너는 10년차 인사담당자야”처럼 역할을 지정하면 AI가 그 관점에 맞는 어휘와 판단 기준으로 답을 구성한다. 다만 역할 부여가 답변의 사실성을 보장하지는 않는다는 점은 구분해야 한다.

5. 복잡한 작업은 단계별로 나눠 요청한다

한 번에 여러 조건을 몰아서 요청하면 일부 조건이 누락되기 쉽다. “먼저 초안을 만들고, 그다음 분량을 줄여줘”처럼 단계를 나누면 각 단계에서 결과를 확인하며 수정할 수 있어 최종 결과물의 정확도가 높아진다.

🛠️ 나쁜 질문 vs 좋은 질문: 실제 비교 예시

같은 주제라도 질문을 어떻게 구성하느냐에 따라 결과물의 활용도가 크게 달라진다. 실제로 자주 쓰는 두 가지 상황으로 비교해본다.

상황	나쁜 프롬프트	좋은 프롬프트
여행 계획	“제주도 여행 계획 짜줘”	“성인 2명, 2박 3일 제주도 여행 계획을 짜줘. 렌터카 이용, 하루 이동 거리는 1시간 이내로, 자연 명소 위주로, 오전·오후·저녁 일정을 표로 정리해줘”
이메일 작성	“사과 이메일 써줘”	“거래처 담당자에게 제품 배송이 5일 늦어진 것에 대해 사과하는 이메일을 써줘. 격식 있는 존댓말, 5문장 이내, 늦어진 이유는 언급하지 말고 재발 방지 노력만 강조해줘”

두 예시 모두 좋은 프롬프트 쪽이 인원, 기간, 조건, 분량, 형식을 구체적으로 담고 있다. 이 정보가 많을수록 AI가 다시 물어볼 필요 없이 곧바로 쓸 수 있는 답을 내놓을 가능성이 높아진다.

더 깊이 알아보고 싶다면 Anthropic의 공식 프롬프트 엔지니어링 가이드도 참고할 만하다.

너무 길게 쓴다고 좋은 게 아닙니다

“자세히”, “좋게”, “괜찮게”처럼 모호한 형용사만 쓰고 구체적인 기준을 제시하지 않는다.
배경 설명 없이 결론부터 요구해 AI가 임의로 상황을 추측하게 만든다.
한 번의 요청에 너무 많은 조건을 한꺼번에 몰아넣어 일부가 누락된다.
이전 대화에서 설정한 조건(어투, 형식 등)을 이후 질문에서 다시 언급하지 않아 결과가 흔들린다.
결과물이 마음에 들지 않을 때 처음부터 다시 쓰지 않고 “더 잘해줘”처럼 막연하게만 요청한다.

⚠️ 주의사항: AI 답변은 그대로 믿지 말 것

프롬프트를 아무리 잘 써도 AI가 사실과 다른 내용을 그럴듯하게 만들어내는 환각(hallucination) 현상은 완전히 사라지지 않는다. 특히 통계, 법령, 의료·금융 정보, 최신 뉴스처럼 정확성이 중요한 내용은 AI의 답변만으로 판단하지 말고 정부 공식 자료나 관련 기관의 원문을 함께 확인하는 것이 안전하다. AI는 정보를 빠르게 정리하는 도구이지, 정보의 정확성을 보증하는 도구는 아니라는 점을 기억해야 한다.