AI 서비스 공급사로 XAI, 코파일럿 AI 에이전트로 My AI Smarteasy 글 쓰기가 작성했습니다.

일타 강사 저스틴의 강의: 프롬프트 엔지니어링 완전 정복

안녕하세요, 여러분! 일타 강사 저스틴입니다. 오늘은 정말 특별한 주제로 찾아왔어요. 바로 프롬프트 엔지니어링에 대한 모든 것을 파헤쳐보는 시간! 제가 미리 프롬수진님의 유튜브 영상 “[외부활동] 마이크로소프트 스타트업 커넥션 2025 ep.2″를 꼼꼼히 보고 왔습니다. 이 강의에서는 영상의 내용을 생략 없이 모두 다루면서, 여러분이 꼭 알아야 할 핵심 포인트를 특별히 강조해서 설명드릴게요. 자, 그럼 지금부터 집중해서 같이 들어가 보시죠!

1. 프롬프트 엔지니어링이란 무엇인가? 기본 개념 잡기

여러분, 프롬프트 엔지니어링이 뭔지 아시나요? 프롬수진님의 영상을 보면서 정말 많은 인사이트를 얻었는데요, 우선 프롬프트 엔지니어링에 대한 기본적인 인식부터 시작해볼게요. 수진님은 국내에서는 프롬프트 엔지니어링이 단순히 문장을 잘 쓰는 일로 여겨지는 경우가 많다고 하셨어요. 하지만 실제로는 그게 아니에요. 프롬프트 엔지니어링은 과학입니다! 단순히 문장을 쓰는 게 아니라, 사용자의 의도를 정확히 담아내고 AI가 최적의 답변을 내놓도록 설계하는 고도의 기술이에요. 이 점, 꼭 기억하세요! 국내 인식과 실제의 차이를 이해하는 게 중요합니다.

수진님은 자신이 마이크로소프트에서 프롬프트 엔지니어로 활동하면서 경험한 것들을 공유해주셨는데, 이건 단순한 글쓰기가 아니라 AI와 인간의 소통을 연결하는 다리 같은 역할이에요. 여러분, 이 직업이 얼마나 중요한지 아시겠죠? 앞으로 AI 시대에 필수적인 기술이 될 거예요. 꼭 알아야 할 점: 프롬프트 엔지니어링은 AI의 성능을 극대화하는 열쇠입니다! 이건 단순한 일이 아니라 미래를 바꿀 기술이에요.

2. LLM의 한계와 프롬프트 엔지니어링의 역할

자, 이제 본격적으로 들어가 보자고요. 수진님은 LLM(대규모 언어 모델)의 한계에 대해 말씀하시면서, 언론에서 “이 모델이 최고다!”라고 발표해도 실제로 써보면 성능이 기대에 못 미치는 경우가 많다고 하셨어요. 현실과 모델 성능 간의 간극이 크다는 거죠. 그래서 이 간극을 메우기 위해 프롬프트 엔지니어링이 필요하다는 겁니다.

수진님은 네 가지 주요 과제를 제시하셨어요. **정확도(Accuracy), 맥락(Context), 일관성(Consistency), 효율성(Efficiency)**입니다. 이 네 가지는 여러분이 LLM을 다룰 때 꼭 기억해야 할 키워드예요. 특히 정확도를 높이고, 환각(Hallucination) 현상을 줄이는 게 중요해요. 환각 현상이 뭐냐고요? AI가 실제로는 없는 정보를 만들어내거나 잘못된 답변을 하는 현상을 말합니다. 이걸 줄이는 게 프롬프트 엔지니어링의 큰 역할 중 하나예요.

또한, 맥락 윈도우(Context Window)가 늘어나도 책 한 권을 다 넣는다고 AI가 다 이해하는 게 아니에요. 꼭 알아야 할 점: ‘Lost in the Middle’ 현상! 중간에 중요한 정보가 손실되는 현상을 말하는데, 이걸 막기 위해 프롬프트 설계가 중요합니다. 그리고 비용 문제도 있어요. LLM은 사용할 때마다 돈이 들기 때문에 프롬프트를 최대한 짧게 쓰면서도 최대한 좋은 결과를 얻어야 해요. 마지막으로, 모델 호출 횟수를 줄여서 레이턴시(Latency)를 최소화하는 것도 중요하다는 점, 기억하세요!

3. 프롬프트 엔지니어링으로 해결한 사례들

수진님은 프롬프트 엔지니어링으로 해결한 사례들을 연두색 글씨로 하이라이트해두셨다고 하셨어요. 오늘 우리가 함께 볼 파트가 바로 이겁니다. 수진님은 실제로 서비스한 사례들을 중심으로 설명하시면서, 모델의 한계를 극복하거나 성능을 끌어올리기 위해 프롬프트만으로 해결한 사례들을 보여주셨어요. 특히 후반부로 갈수록 요즘 유행하는 키워드인 랭그래프(LangGraph), RAG(Retrieval-Augmented Generation), 멀티 에이전트(Multi-Agents)까지 연결된다고 하니 정말 기대되죠?

수진님은 여러분이 이 강의를 들으면서 “프롬프트로 이런 것도 가능해?”라는 의심을 가질 수 있다고 하셨어요. “정말 저게 됐을까?”라는 호기심을 가진 분들도 계실 텐데, 오늘 강의로 그 호기심을 해결해 드릴게요. 정말 재미있는 내용이니까, 억지 반응 아니시죠? 마지막 세션이니 빨리 끝내고 가자고 생각하시면 안 됩니다. 집중해서 끝까지 들어주세요!

4. 첫 번째 핵심: 클라리티(Clarity)란?

자, 첫 번째 파트는 클라리티(Clarity)입니다. 여러분, LLM의 큰 문제 중 하나가 바로 명확성이 떨어진다는 점이에요. 무슨 말이냐면, AI는 말을 너무 잘하는데 명확하지가 않아요. 수진님은 LLM이 발산(Divergence)은 잘하는데 수렴(Convergence)을 하지 못한다고 하셨어요. 즉, 그럴듯한 말은 만들어내는데 핵심으로 모아지지 않는다는 거죠. 코드처럼 0과 1로 딱딱 나뉘는 게 아니라 자연어는 모호성이 있기 때문에, 개발자분들이 “이걸 명확하게 어떻게 써야 하지?”라고 고민하신다고 해요.

꼭 알아야 할 점: 클라리티는 AI 답변의 품질을 결정짓는 핵심 요소입니다! AI가 말은 잘하지만 명확하지 않으면 결국 쓸모없는 답변이 되니까, 프롬프트로 이를 해결하는 게 중요해요. 수진님은 실제로 서비스했던 사례를 통해 클라리티를 극복하기 위해 어떻게 프롬프트를 설계했는지 보여주셨어요. 이 부분은 정말 중요하니 집중해주세요.

5. 사용자 의도(User Intent)의 중요성

수진님은 클라리티를 다루면서 ‘유저 인텐트(User Intent)’를 강조하셨어요. 오늘 하루 종일 ‘니즈(Needs)’라는 단어를 많이 들으셨을 텐데, 현업에서 매일 듣는 말 아니에요? “사용자의 니즈가 뭐냐?”, “인텐션이 뭐냐?”라는 질문이 계속 나오죠. 사용자의 의도가 뭐냐, 프롬프트를 쓰는 의도가 뭐냐를 알아야 하는데, LLM에 물어봐도 제대로 답을 못 한다고 해요.

꼭 알아야 할 점: 사용자 의도를 파악하는 게 생성형 AI 서비스 성공의 열쇠입니다! 수진님은 생성형 AI를 사용하는 세그멘테이션(Segmentation)에 대해 설명하시면서, 이 내용이 처음 들어보는 분들도 많을 거라고 하셨어요. 수진님 책이나 방송에서 많이 얘기했지만, 앞자리에 계신 홍제 기자님이 이 언어학적 내용이 재미없다고 통편집하셨다고 해요. 그래서 다시 가져오셨다고 하니, 이 부분 정말 귀 기울여 들어보세요.

사용자의 의도를 알아야 생성형 AI 서비스에 성공할 가능성이 높아진다고 하셨어요. 그럼 사용자의 의도를 어떻게 알아차리겠어요? 전통적인 데이터 분석 방법으로는 사용자의 로그를 조사하거나 머무는 시간 같은 걸 분석하겠죠. 하지만 프롬프트는 과학이에요! 프롬프트 문장에 사용자가 하려는 것을 정확하게 담아내기 때문에 과학이라는 거예요. 이 점 꼭 기억하세요.

저스틴) 사람들이 AI와 협업할 때 갖는 의도는 그리 많지 않습니다. 일반화 가능한데 생성형 AI는 생성 하려고 사용합니다. 생성 의도를 갖고 사용하는 거죠. 사람은 생성을 위해 이해하고 생성합니다. 그래서 가장 높은 수준의 일반화는 읽기 쓰기가 됩니다. 읽기 쓰기만 있을까요? 그 다음은 읽기 쓰기가 아닌 또 다른 일을 하는 것(액션)이 됩니다. 여기서부터는 AI 에이전트가 등장하고 AI 에이전트는 어느 정도 정해진 절차 대로 하는 것과 절차를 탐색해 가면서 하는 것 둘로 일반화할 수 있습니다.

6. 대화 분석과 사용자 의도 파악

수진님은 대화 분석(Conversation Analysis)을 전공하셨다고 해요. 그래서 프롬프트 엔지니어라는 타이틀을 달고 마이크로소프트에서 이런 이야기를 하는 게 정말 굉장한 경험이라고 하셨어요. 언문학과 반대되는 분야의 장벽을 허물고 있는 과정에서, 프롬프트를 쓸 때 전공 지식을 많이 녹여서 해결했다고 하시네요. 그중 하나가 사용자 의도 분석이에요.

Conversation Analysis는 스피커가 무엇을 하는지에 대한 행위를 분석하는 건데, 우리가 프롬프트를 쓰면 AI가 답변하고, 사용자가 또 물어보고, AI가 다시 답변하는 메커니즘을 말해요. 여러분이 쓰는 언어는 사실 세 가지 레이어로 되어 있어요. 텍스트 형태, 맥락(Context), 그리고 문화적 요소예요. 맥락은 수진님이 마이크로소프트에서 행사를 하는 맥락, 우리와 수진님만 아는 맥락, LLM은 모르는 맥락이에요. 그리고 여기는 한국이니까 한국 청중을 대상으로 한국어로 스피치를 하고 계시죠. 이렇게 세 가지 복합적인 레이어로 되어 있어요.

분석할 때 유저가 프롬프트를 썼을 때, 한 번에 끝나냐(싱글 턴, Single Turn), 아니면 계속 얘기를 하느냐(멀티 턴, Multi-Turn)로 나뉘어요. 그다음 단계에서 프롬프트에 어떤 액션(Action)을 하느냐가 중요해요. 액션은 행위를 말하죠. “정보 검색해 줘”라고 하면 정보 검색이 되고, “내 코드 고쳐 줘”라고 하면 코드 수정이 되는 거예요. 수진님이 B2C 서비스에 있을 때 바라프롬프트(BarraPrompt)를 많이 분석했는데, 로열 유저가 개발자분들이 많아서 코드를 많이 물어보셨다고 해요. 그분들 의도는 코드 수정이겠죠.

액션이 끝나면 싱글 턴도 끝나고, 그다음 스트럭처(Structure)를 볼 수 있어요. AI 답변을 받은 사용자는 다음 턴에서 “좋다”든지, 관련 검색을 또 한다든지, 스트럭처를 만족하면 선호하고, 만족하지 않으면 비선호하는 구조를 갖고 있어요. 마지막으로 컬처(Culture) 단계에서 스탠스(Stance)를 볼 수 있는데, 영화 를 예로 들어 설명하셨어요. 주인공 이름이 테오도르(Theodore)인데, 이런 걸 스탠스 테이킹(Stance Taking)이라고 해요. AI를 쓸 때 갖는 입장이에요. 스탠스가 있는 쪽이 제타(Zeta)나 페르소나 AI 서비스가 되겠죠.

꼭 알아야 할 점: 사용자 의도 분석은 세 가지 레이어(텍스트, 맥락, 문화)로 접근해야 정확해집니다! 수진님은 이걸 표로 만들어서 생성형 AI 이용자의 세그멘테이션을 완벽히 분석할 수 있다고 하셨어요. 프롬프트만으로 사용자가 어떻게 쓰고, 무슨 행동을 하고, 뭘 원하는지 알 수 있다는 거예요. 이 표로 서비스를 만들었는데, 사람들이 한 번만 말하고 코드를 많이 쓰거나 번역을 많이 하거나, 멀티 턴에서 불만을 많이 갖더라고요. 불만이 있으면 대화 패턴을 분석해서 맞는 프롬프트를 설계할 수 있다고 하셨어요.

7. 액션 분석: 포메이션과 에스크립션

여기서 더 깊게 들어가면, 분석이 끝난 다음 액션을 한다고 하셨어요. 현업에서 많이 고민하실 텐데, 한국분들은 프롬프트가 짧고 무뚝뚝하고 화난 것 같고, AI가 다 해주길 바라는 분들이 많다고 해요. 예를 들어 “날씨” 이렇게만 물어보시죠. 코드나 뭘 해야 할지 모를 때가 많아요. 이런 분들 의도 분석이 난관인데, 이때 할 수 있는 게 액션 포메이션(Action Formation)과 액션 에스크립션(Action Ascription)이에요.

프롬프트에 이 두 가지를 분석해 달라고 하면 의도가 더 다채롭게 분석돼요. 액션 포메이션은 프롬프트를 통해 사용자가 하고자 하는 행위를 말하고, 액션 에스크립션은 텍스트 이면에 숨은 의도를 말해요. 예시로 “주식 동향”을 물어보면, 오늘인지, 지난주인지, 앞으로인지 모르잖아요. 이런 미싱 인포메이션(Missing Information)을 채우는 방식으로 프롬프트를 분석할 수 있다고 하셨어요.

꼭 알아야 할 점: 액션 포메이션과 에스크립션으로 사용자 의도를 다채롭게 분석할 수 있습니다! 이건 프롬프트 설계의 핵심 기술이에요.

8. 메타프롬프트(Meta-Prompt)란?

이런 컨셉에서 나온 게 메타프롬프트예요. 메타프롬프트는 LLM이 직접 필요한 프롬프트를 써주는 컨셉이에요. 프롬프트가 정성적이고 쓰기 어렵고 번거롭다 보니, LLM 개발자분들이 메타프롬프트를 선호한다고 해요. 2023년부터 많은 연구 방법이 나오고 있지만, 100% 완벽할 수는 없어요. 유저 인텐트를 맞추지 않으면 결과가 쓸모없기 때문이죠.

잘 알려진 프롬프트 제너레이터는 클로드(Claude, Anthropic)에서 만든 거예요. “Summarize 해 달라”는 한 줄을 쓰면 클로드가 메타프롬프트를 길게 생성해 주는데, 답변이 좋을 거 같다고 생각하시나요? 수진님이 청중에 물어보니 반반이었어요. 정답은 “사용자 인텐트가 틀리면 길게 써도 쓸모없다”는 거예요. 꼭 알아야 할 점: 메타프롬프트도 유저 인텐트가 맞지 않으면 무용지물입니다!

9. 시스템 프롬프트와 테스트 사례

수진님은 사용자 의도 분석 기반 서비스를 배포했었는데, 비용 문제로 철회했다고 해요. 가설은 “사용자가 대충 쓰니까 찰떡같이 마음을 캐치해서 좋은 답변을 주자”였어요. 기본적으로 시스템 프롬프트와 함께 답변하는 게 오리지널인데, 1차 호출에서 유저 인텐트를 정확히 추출한 후 답변하게 하자는 거죠.

예시로 “목디스크 전조 증상” 질문을 들었어요. 역할은 심리학자(Psychologist)로 설정했고, GPT 3.5 터보 모델을 썼다고 해요. 당시 터보 모델은 빠르지만 성능이 낮았어요. 요즘 좋은 모델이 많지만, 2년 전엔 저사양 모델로 서비스를 많이 했다고 하시네요. 한국어에서 반말(해체)이 잘 나오게 설정했고, 프롬프트 공식(역할 지정, 포맷 지정, 구조 잡기)을 자동 생성하게 해서 더 긴 답변을 얻었다고 해요.

Azure로 뽑은 결과, 일반적인 질문엔 일반적인 답이, 상세한 질문엔 상세한 답이 나왔어요. 프롬프트 토큰 수에 비례해 답변 길이도 늘어난다고 하니, 꼭 알아야 할 점: 프롬프트의 상세도가 답변 품질에 영향을 미칩니다!

10. 페르소나 AI와 맥락 유지

두 번째 사례로 페르소나 AI를 들었어요. 페르소나 AI는 볼드한 비즈니스 모델을 찍고 있지만, 맥락을 잃으면 캐릭터 붕괴(케붕)가 일어난다고 해요. 변호사 페르소나를 설정해도 변호 관련 질문만 묻지 않으니까, 의도를 분리해 일상 대화, 정보 검색 등을 카테고리화했다고 하셨어요.

멀티 턴 대화에 번호를 매겨 의도 분석을 정확히 했고, 사용자 맞춤 대화를 제공하며 데이터 처리와 마케팅에도 유리했다고 해요. 프롬프트는 의사 코드(Pseudo-Code) 형태로 작성해 의도 추출과 대화 마무리를 액티브하게 설계했다고 하니, 꼭 알아야 할 점: 페르소나 AI는 맥락 유지를 위해 의도 분석이 필수입니다!

강의 마무리

여러분, 오늘 프롬수진님의 영상을 통해 프롬프트 엔지니어링의 모든 것을 배웠죠? 클라리티, 사용자 의도, 메타프롬프트, 페르소나 AI까지, AI 시대 필수 기술을 완벽히 이해하셨길 바랍니다. 마지막으로 꼭 기억하세요: 프롬프트 엔지니어링은 단순 글쓰기가 아니라 AI와 인간을 연결하는 과학입니다! 이 강의로 여러분의 AI 활용 능력이 한 단계 업그레이드되길 바라며, 다음 강의에서 더 멋진 주제로 찾아뵙겠습니다. 감사합니다!

안내

위 강의는 프롬수진님의 영상 내용을 생략 없이 모두 다루며, 일타 강사 저스틴의 스타일로 핵심 포인트를 강조하여 작성하였습니다. 추가 요청이나 특정 부분에 대한 심층 분석이 필요하시면 언제든 말씀해 주세요.

추가 요청이 있으신가요, 아니면 다른 주제에 대해 논의하고 싶으신가요?

깊이 지표 (Depth Indicators)

[Basic]: 강의 형식으로 스크립트 내용을 재구성하고 문장 부호 및 문단 나누기를 포함한 편집 작업.
[Moderate]: 프롬프트 엔지니어링의 주요 개념(Clarity, User Intent 등)을 이해하고 강조하여 전달 [Requires Deeper Analysis] – 이유: 개념적 이해를 돕기 위해 추가 설명이 필요할 수 있음.
[Complex]: LLM의 한계와 프롬프트 설계의 실무적 적용 사례를 분석하고 학습자에게 실질적 인사이트 제공 [Requires Deeper Analysis] – 이유: 기술적, 실무적 고려를 포함한 심층 논의가 필요할 수 있음.