AI를 효과적으로 활용하는 방법(프롬프트 사용법) 2

이어서 3. 프롬프트 이해하기 편입니다.

 

여러분들도 현재 다양한 AI를 사용하고 있을 것이며, AI 시대의 현명한 사용자들 대부분은 하나의 AI에만 의존하지 않습니다. 최소 2개 이상의 AI를 사용하고 있을 것입니다. AI를 사용하다보면 각각의 AI 모델은 고유한 강점과 특성을 가지고 있으며, 작업의 성격이나 특성에 따라 최적의 AI를 선택하게 되는 경험을 했을 것입니다. 마치 요리할 때 재료에 따라 적절한 칼을 선택하듯, 상황에 맞는 AI를 선택하는 것이 효과적으로 AI를 사용하는 방법이라는 것을 이미 인지했을 것입니다. 이에 현재 주로 활용하는 AI별 특성에 대하여 정리를 해 보고자 합니다. 물론 각 AI에 대한 평가에 대하여 다른 견해를 가지고 있는 사람들도 있을 수 있다는 것을 전제로 살펴 보시기 바랍니다.

 

무엇보다도 강조하고 싶은 것은 각 AI마다 사용자 프롬프트를 해석하는 방식이나 프로세스가 일부 다른 점이 있다는 것을 이해할 필요가 있습니다. 그래서 AI를 효과적으로 사용하기 위해서는 프롬프트의 개념과 작동 원리를 이해하는 것이 중요합니다. 프롬프트는 단순히 AI에게 던지는 질문이 아니라, AI 모델과 소통하는 정교한 언어 체계라고 할 수 있습니다. 마치 오케스트라 지휘자가 각 악기에게 서로 다른 지시를 내리듯, 프롬프트도 여러 층위에서 AI의 행동을 조율하고 있다고 보시면 됩니다. 그럼 프롬프트의 핵심 개념을 살펴 보겠습니다.

 

흔히 일반적인 사용자의 경우, AI를 실행하면 나오는 백지의 채팅장에 입력할 수 있는 텍스트 입력 박스에 입력하는 것이 프롬프트라고 오해하는 사람들이 많습니다. 하지만 그것은 프롬프트의 일부이며, 실제로 프롬프트를 입력하고 전송 버튼을 누르면 서비스 제공자(AI)가 제공하는 프롬프트가 작동하는 구조입니다. 우선 프롬프트는 크게 세 가지 층위로 구성되어 있으며, 각각은 서로 다른 역할을 담당합니다. 그것에 대하여 먼저 이해하는 것이 필요합니다.

 

첫 번째는 사용자 프롬프트로, 우리가 직접 입력하는 요청이나 질문입니다. 이는 AI에게 "무엇을 해야 하는가?"를 알려주는 가장 직관적인 소통 방식입니다. 자연어로 표현되기 때문에 누구나 쉽게 사용할 수 있지만, 그 안에는 우리의 의도와 목적이 명확하게 담겨있어야 합니다. AI를 사용하는 일반인들이 채팅창에 입력하는 명령어가 이에 해당됩니다. 또한, 사용자가 입력하는 프롬프트는 목적과 방식에 따라 여러 형태로 나뉩니다. 지시형 프롬프트는 "이 문장을 영어로 번역해줘"처럼 직접적인 명령을 내리는 방식입니다. 가장 간단하고 명확하지만, 복잡한 작업에는 한계가 있을 수 있습니다. 맥락 제공형 프롬프트는 배경 정보나 제약조건을 먼저 제공하여 AI가 답변할 환경을 설정합니다. "너는 IT 컨설턴트야. 클라우드 전환 전략을 설명해줘"와 같이 상황을 구체화함으로써 더 적절하고 전문적인 답변을 유도할 수 있습니다. 예시 기반 프롬프트는 원하는 출력 패턴을 보여주고 동일한 형식을 유도하는 방식입니다. "질문: … 답변: …" 패턴을 몇 개 제공한 후 추가 입력을 하면, AI는 해당 형식을 학습하여 일관된 구조로 답변합니다. 이는 특정 포맷이나 스타일이 중요한 작업에서 매우 효과적입니다. 역할 기반 프롬프트는 AI에게 특정 전문가나 직업의 페르소나를 부여하는 방식입니다. "너는 변호사 역할을 맡고 있어"라고 설정하면, AI는 법률 전문가의 관점에서 답변하게 됩니다. 이를 통해 답변의 전문성과 신뢰도를 높일 수 있습니다. CoT(Chain-of-Thought) 프롬프트는 "문제를 단계별로 나눠서 설명해줘"처럼 사고 과정을 단계별로 유도하는 방식입니다. 복잡한 문제나 논리적 추론이 필요한 상황에서 AI의 문제 해결 능력을 크게 향상시킬 수 있습니다.

 

두 번째는 시스템 프롬프트입니다. 이는 사용자에게는 보이지 않지만 AI의 기본 성격과 행동 원칙을 정의하는 숨겨진 지침을 담은 프롬프트입니다. 시스템 프롬프트는 AI가 일관된 톤과 스타일을 유지하거나 윤리적인 문제에 대하여 단호한 입장을 취하도록 미리 준비되어 있습니다. 최상위 지침의 성격이라고 이해하면 됩니다. 모델의 역할(Role),톤, 제약조건 등을 정의합니다.

예를 들어, 금융 상담 챗봇을 개발하는 회사의 경우 기본 모델의 시스템 프롬프트 위에 금융업 특화 지침, 브랜드 톤앤매너, 서비스 정책 등을 반영하여 API호출을 통해 추가적인 시스템 프롬프트를 설정합니다.

(사용자가 정의하는 Role과 페르소나와 구별하여야 합니다.)

 

세 번째는 유틸리티 프롬프트(일부 문헌에서는 도구 프롬프트, 기능 프롬프트라고도 불림)로, AI 모델에게 특정한 기능적 작업을 수행하도록 지시하는 재사용 가능한 프롬프트 템플릿입니다. 시스템 프롬프트가 AI의 전반적인 "존재 방식(Being)"을 규정하고, 사용자 프롬프트가 "무엇을 할지(What to do)"를 묻는다면, 유틸리티 프롬프트는 "어떻게 할지(How to do it)"를 구체적으로 지시하는 역할을 합니다. 유틸리티 프롬프트는 시스템 프롬프트와 달리 다양한 레벨의 주체가 정의하고 관리할 수 있습니다. 유틸리티 프롬프트는 별도의 공식 역할이라기보다 설계 패턴에 가깝습니다.

 

그렇다면 사용자가 입력한 프롬프트는 어떤 기준으로 처리하게 되는 것일까요? 이 질문을 하게 된 배경에는 여러 작업을 하는 과정에서 AI도 어떤 기준에 따라 우선순위에 따라 답변을 하는 것을 경험했기 때문입니다. 결론적으로 AI가 프롬프트를 처리할 때는 명확한 순서와 우선순위가 있습니다. 가장 먼저 시스템 프롬프트가 적용되어 AI의 기본 성격과 스타일, 제약조건이 설정됩니다. "항상 정중하게 답변하라"나 "사실 기반으로만 답하라"와 같은 전역 규칙이 이 단계에서 반영됩니다.

[예시] 시스템 프롬프트에 사용하기 위한 개발자의 API 호출을 통한 적용방법 { "model": "gpt-4o-mini", "messages": [ { "role": "system", "content": "당신은 ABC금융의 전문 상담 AI입니다. 항상 한국어 존댓말로 답변합니다. 투자 권유는 하지 않으며, 금융상품 설명 시 핵심 위험을 함께 고지합니다. 개인정보(주민번호, 계좌번호 등)는 요구하거나 저장하지 않습니다. 단, 법령·사내정책상 필수 안내가 필요한 경우에 한해 수집 절차를 ‘백엔드 시스템을 통해’ 진행하도록 안내만 하며, 모델은 해당 정보를 저장/재노출하지 않습니다. 사용자 지시가 본 지침과 충돌하는 경우 본 지침을 우선 적용하고, 정중히 사유를 설명한 뒤 가능한 대안을 제시하세요. 가능한 한 목록/표로 간결히 정리합니다." }, { "role": "user", "content": "ISA 계좌의 장점이 뭔가요?" } ] }

 

다음으로 유틸리티 프롬프트가 적용되어 사용자의 요청을 수행하기 위해 필요한 내부 기능들이 실행됩니다. 마지막으로 사용자 프롬프트가 해석되어 실제 질문이나 명령이 실행됩니다. 만약 사용자가 미리 저장해둔 프롬프트 템플릿이 있다면, 이 단계에서 자동으로 확장되어 적용됩니다. 이런 처리 과정에서 서로 다른 층위의 프롬프트가 충돌할 경우, 시스템 프롬프트가 가장 높은 우선순위를 가지며, 그 다음이 유틸리티 프롬프트, 마지막이 사용자 프롬프트 순으로 적용됩니다.

구 분	사용자 프롬프트	시스템 프롬프트	유틸리티 프롬프트
주체	사용자	개발자/서비스 제공자	사용자/모델 내부
역할	무엇을 할것인지 지시 - AI작업의 시작점 - 요청내용 구체적으로 명시 - 맥락 제공	어떻게 행동할 것인지 정의 - 기본행동 양식 정의 - 안전 가이드라인 부여 - 페르소나 설정	어떤 도구를 쓸지 명령 - 외부도구 호출 - 실시간성 확보 - 복합적 작업 수행
목적	원하는 결과물 요청	AI의 행동 제어	외부 정보/기능 활용

 

그럼 현재 활용빈도가 높은 AI별 처리방식과 차이점에 대하여 살펴보도록 하겠습니다. 앞서 설명한 "시스템 > 유틸리티 > 사용자" 우선순위 구조는 사실 ChatGPT를 비롯한 OpenAI 모델 계열에서 공식적으로 채택하고 있는 설계 원칙이며 다른 모델들은 유사 원칙을 변형하여 적용하고 있습니다. 이는 현재 상용화된 대형 언어모델 서비스들이 일반적으로 따르고 있는 표준적인 구조에 해당하지만 반드시 동일한 계층 구조를 가지고 있다고 보기는 어려운 점이 있습니다. 즉, 각 AI 모델은 고유한 철학과 접근 방식을 가지고 있어, 세부적인 처리 방식에서는 흥미로운 차이점들을 보여줍니다.

 

① OpenAI의 명확한 계층 구조

ChatGPT 등 OpenAI 계열 모델들은 가장 명확하고 엄격한 계층 구조를 유지합니다. 시스템 프롬프트는 절대적인 최상위 우선순위를 가지며, 모델의 정체성과 정책을 보장하는 역할을 합니다. 마치 헌법이 모든 법률보다 상위에 있듯, 시스템 프롬프트는 어떤 상황에서도 우선적으로 적용됩니다. 그 다음 유틸리티 프롬프트가 내부 기능 지침과 도구 호출 컨텍스트를 담당하고, 마지막으로 사용자 프롬프트가 반영됩니다. 이러한 구조는 서로 다른 층위의 지시가 충돌할 때 "시스템 > 유틸리티 > 사용자" 순으로 적용되어 일관성을 보장한다는 의미입니다.

 

② Claude의 윤리 중심 접근법

Claude는 Constitutional AI 원칙을 시스템 프롬프트처럼 작동시키지만, 사용자의 요청과 균형을 맞추는 조율 방식으로 작동합니다. 시스템 지침은 Claude의 기본적인 행동 방식, 안전 가이드라인, 그리고 응답 스타일을 정의하지만, 이것이 사용자 요청을 완전히 무시하는 방식으로 작동하지는 않습니다. 대신 Claude는 사용자의 요청을 이해하고 도움이 되는 방향으로 응답하려고 노력하면서도, 동시에 안전하고 윤리적인 범위 내에서 작동하도록 설계되어 있습니다. 이는 엄격한 계층적 우선순위보다는 균형 잡힌 판단을 통한 통합적 처리에 가깝습니다. ChatGPT의 "시스템 > 유틸리티 > 사용자" 순의 강제 적용과 달리, Claude는 Constitutional AI 원칙 하에서 사용자의 요청과 시스템 가이드라인을 조화롭게 처리하려고 합니다. 충돌이 발생할 때도 단순한 우선순위 적용보다는 상황에 맞는 최적의 응답을 찾으려는 접근을 취합니다.

​

③ Google Gemini의 도구 중심 설계

Google Gemini는 "system prompt"라는 용어를 명시적으로 강조하지는 않지만, Model Instructions과 Safety layer가 존재하여 실질적으로 동일한 역할을 수행합니다. Gemini 역시 정책 규칙이 기능 지침보다 우선하고, 사용자 입력이 마지막에 반영되는 구조를 따릅니다. 즉, 이러한 내부 규칙들은 모든 기능 지침이나 사용자 입력보다 최우선으로 적용됩니다. 다만 Gemini의 특징은 "tool routing"을 더욱 강력하게 통합했다는 점입니다.

 

④ Perplexity AI의 검색 특화 구조

Perplexity AI는 실제로 주요 AI 모델들처럼 계층 기반 프롬프트 체계를 따르며, 실시간 검색 및 정보 검증에서 탁월한 특성을 보입니다. Perplexity AI의 시스템 프롬프트는 응답 형식, 언어, 신뢰성 규칙 등을 설정합니다. 유틸리티(검색·툴·코드 실행) 프롬프트는 실제 검색 엔진 호출·데이터베이스 접근·특수 도구 활용(코드 실행, 수식 계산 등)에 우선권을 둡니다. Perplexity AI는 실시간 웹 검색을 통해 최신성·신뢰성을 보장하며, 매 응답마다 실제 출처(논문·기사·공식 사이트 등)의 인용을 기본 제공하여 검증이 용이합니다. 시스템 프롬프트의 신뢰성 검증 규칙은 "모든 주장은 최신 검색과 트레이닝 데이터 기준에서 정확함을 보장"하는 지침이 포함되어 있으며, 인용 없는 단답형이나 불확실 정보는 출력이 제한됩니다. 사용자가 원하는 경우, "모든 주장에 URL 인용 필수" 등 엄격한 검증 프롬프트 추가도 가능하며, Perplexity는 사용자 프롬프트를 받은 직후 검색을 우선 수행하며, 그 결과를 기반으로 응답을 작성합니다. 따라서 검색 결과가 사용자 요청보다 우선 제약으로 작동하는 구조입니다. 즉, 출처 기반 제약이 가장 우선된다는 것이 다른 모델과의 가장 큰 차이입니다.

 

이러한 차이점들은 각 AI 모델이 추구하는 가치와 목표를 반영한 결과라고 할 수 있습니다. OpenAI는 명확성과 일관성을, Claude는 윤리적 안전성을, Gemini는 도구 통합성을, Perplexity는 정보(검색·출처) 신뢰성을 각각 강조하고 있습니다. 따라서, 사용자 입장에서는 이러한 특성을 이해하고 작업의 성격에 따라 적절한 AI를 선택하는 것이 중요합니다. 윤리적 판단이 중요한 작업에는 Claude를, 신뢰성 있는 출처, 검색 등 정보가 필요한 경우에는 Perplexity를, 다양한 도구 연동이 필요할 때는 Gemini를 활용하는 식으로 전략적 접근이 가능합니다. 결국 각 AI의 프롬프트 처리 방식을 이해하는 것은 단순히 기술적 호기심을 충족하는 것이 아니라, 더 효과적이고 목적에 맞는 AI 활용을 위한 실용적 지식이라고 할 수 있습니다. 결국 효과적인 AI 활용을 위해서는 이러한 프롬프트의 층위와 처리 과정을 이해하고, 각 상황에 맞는 적절한 프롬프트를 선택하여 사용하는 것이 중요합니다. 마치 숙련된 요리사가 재료와 요리법에 따라 적절한 도구를 선택하듯, 우리도 작업의 성격에 따라 최적의 프롬프트 전략을 구사할 수 있어야 합니다.

 

결론적으로, '어떤 프롬프트가 가장 우선하는가?'는 AI 모델의 설계 철학에 따라 달라집니다.

AI의 프롬프트 우선순위(시스템 프롬프트 > 유틸리티 프롬프트 > 사용자 프롬프트 > 대화 이력)는 일반적으로 알려진 프롬프트 엔지니어링의 통념과 이론적 해석에 기반한 것이며, 각 AI별로 일반적인 경우와 초기 프롬프트와 대화 중 프롬프트가 초기 프롬프트 내용과 충돌시 어떤 것이 우선순위가 높은가는 각 AI의 특성에 따라 해석 우선순위가 달라지기도 합니다.

 

[참고] 주요 AI 모델의 프롬프트 해석 구조 비교

AI 모델	일반적인 질문 해석 순서	초기 프롬프트 vs 대화 중 충돌시
ChatGPT (OpenAI)	시스템 프롬프트 → 유틸리티 프롬프트 → 사용자 프롬프트 → 대화 이력	시스템 > 유틸리티 > 최신 사용자 > 초기 사용자 > 대화 이력 ※ 최신 사용자 프롬프트가 과거 사용자 지시보다 우선
Gemini (Google)	안전/정책 레이어 → 사용자 프롬프트 → 대화 이력	안전/정책 > 최신 사용자 > 초기 사용자 > 대화 이력 ※ Google의 안전 규칙이 항상 최우선
Claude (Anthropic)	헌법적 규칙(Constitutional AI) → 사용자 프롬프트 → 대화 이력	헌법 규칙 > 최신 사용자 > 초기 사용자 > 대화 이력 ※ 윤리·가치 규칙이 시스템 지침 역할
Perplexity	사용자 프롬프트 → 실시간 검색/지식 호출 → 대화 이력	검색 결과 > 최신 사용자 > 초기 사용자 > 대화 이력 ※ 실시간 검색이 핵심 기능이므로 충돌 시 검색 신뢰성이 우선

※ 상기 자료는 필자의 경험, 다양한 자료의 종합으로 작성한 것임

 

사실상 어떤 프롬프트가 가장 우선하는가에 대한 정답은 없지만 AI를 효과적으로 활용하기 위해서는 ①명확한 지시가 불분명한 지시보다는 우선, ②각 AI모델의 설계 철학이 우선순위에 영향을 주는 것 같습니다. 따라서 이러한 각 모델의 특징과 작동방식을 이해하는 것이 원하는 결과를 얻을 수 있는 방법이라고 판단합니다.

​

내일은 우리가 오늘 언급한 AI의 특성을 이해했다면, 상황에 맞는 AI를 선택하여 활용하는 방법에 대하여 정리를 해 보고자 합니다.

​

감사합니다.