개요:

[Superficial] 영상은 ‘Agentic AI’라는 2025년 주요 AI 화두에 대한 교육 콘텐츠이며, Nikolai의 관련 영상 소개와 함께, 간단한 예시를 통해 개념을 설명합니다. 영상은 LLM(Large Language Model)을 활용한 마케팅 계획 수립 과정을 예시로 들어, 단일 LLM의 한계를 지적하고, 복합 LLM(Compound LLM)을 통해 더 나은 결과를 얻을 수 있음을 설명합니다.

심층 분석 필요 지점:

[Moderate] LLM의 작동 방식 (단어 예측 방식)
[Complex] 복합 LLM (Compound LLM)의 작동 원리 및 장점
[Critical] Agentic AI의 세 가지 핵심 개념 (Agent, Tool, Orchestrator)
[Moderate] Orchestrator Agent의 역할 및 Black Mirror 에피소드와의 유사성
[Superficial] 영상 시청자에 대한 피드백 요청 및 다음 영상 주제 제안

저스틴) [Complex] 복합 LLM (Compound LLM)의 작동 원리 및 장점

복합 LLM (Compound LLM) 작동 원리 및 장점 심층 분석

작동 원리: 복합 LLM은 단일 LLM을 사용하는 대신, 여러 개의 LLM 또는 에이전트를 연결하여 하나의 작업을 수행하는 방식입니다. 영상에서 제시된 예시는 다음과 같습니다.

초안 작성 에이전트 (Drafting Agent): 초기 프롬프트 (예: 마케팅 계획 초안 작성)를 받아 초안을 생성합니다.
비평 에이전트 (Critique Agent): 초안과 관련 배경 자료를 받아 초안을 비평하고 개선점을 제시합니다.
수정 에이전트 (Revision Agent): 비평 내용과 초안을 받아 비평 내용을 반영하여 초안을 수정합니다.

각 에이전트는 LLM일 수도 있고, 구글 검색과 같은 도구일 수도 있습니다. 구체적인 작동 방식 예시 (마케팅 계획 수립):

초안 작성 에이전트 (LLM): “새 제품 출시를 위한 마케팅 계획 초안을 작성해 주세요.”라는 프롬프트를 받아 기본적인 마케팅 계획 초안을 생성합니다.
비평 에이전트 (LLM): 초안과 제품 관련 정보를 받아 “이 마케팅 계획 초안을 비평하고 개선할 부분을 알려주세요.”라는 프롬프트를 받아 초안의 강점과 약점, 개선 방향 등을 제시합니다. 예를 들어, “경쟁사 분석이 부족합니다.”, “타겟 고객층에 대한 설명이 더 필요합니다.” 등의 의견을 제시할 수 있습니다.
수정 에이전트 (LLM): 초안, 비평 내용, 제품 관련 정보를 받아 “비평 내용을 반영하여 마케팅 계획 초안을 수정해 주세요.”라는 프롬프트를 받아 비평 내용을 반영하여 개선된 마케팅 계획 초안을 생성합니다. 경쟁사 분석을 추가하고, 타겟 고객층에 대한 설명을 보완하는 등의 작업을 수행합니다.

장점:

향상된 품질: 단일 LLM이 한 번에 작업을 수행하는 것보다, 여러 에이전트가 협력하여 작업을 수행함으로써 더 높은 품질의 결과물을 얻을 수 있습니다. 각 에이전트는 특정 역할에 집중하여 전문성을 발휘할 수 있으며, 비평 과정을 통해 오류를 수정하고 완성도를 높일 수 있습니다.
반복 및 개선: 복합 LLM은 여러 번의 반복 과정을 통해 결과물을 개선할 수 있습니다. 비평 에이전트는 초안의 문제점을 지적하고, 수정 에이전트는 이를 반영하여 개선된 결과물을 생성합니다. 이러한 과정을 반복함으로써 최종 결과물의 품질을 지속적으로 향상시킬 수 있습니다.
융통성: 복합 LLM은 다양한 유형의 에이전트를 통합하여 사용할 수 있습니다. LLM뿐만 아니라, 검색 엔진, 데이터베이스, API 등의 도구를 활용하여 더욱 풍부하고 정확한 정보를 얻을 수 있습니다.
인간과 유사한 사고 과정: 복합 LLM은 인간이 문제를 해결하는 방식과 유사한 과정을 모방합니다. 인간은 문제를 해결할 때, 초안을 작성하고, 비평하고, 수정하는 과정을 반복합니다. 복합 LLM은 이러한 과정을 자동화하여 인간의 창의적인 작업을 지원할 수 있습니다.

추가 설명: 영상에서 언급된 Google의 프롬프트 엔지니어링 연구는 복합 LLM의 장점을 뒷받침하는 근거가 될 수 있습니다. “각 단계 사이에 잠시 멈추세요”라는 프롬프트를 추가하는 것만으로도 LLM의 정확도가 향상된다는 것은, LLM에게 사고하고 숙고할 시간을 제공하는 것이 중요하다는 것을 시사합니다. 복합 LLM은 각 에이전트에게 특정 작업을 수행하고, 결과를 검토하고, 개선할 기회를 제공함으로써 더 나은 결과를 얻을 수 있도록 합니다. 요약: 복합 LLM은 여러 개의 LLM 또는 에이전트를 연결하여 작업을 수행하는 방식으로, 단일 LLM을 사용하는 것보다 더 높은 품질의 결과물을 얻을 수 있고, 반복 및 개선 과정을 통해 융통성 있는 문제 해결이 가능합니다. 인간의 사고 과정을 모방하여 창의적인 작업을 지원하는 유용한 기술입니다.

저스틴) 다음 글은 유튜브 영상 스크립트입니다. 여기서 다루는 내용에 충실하게 생략하는 부분 없이 글로 설명하는 글로 바꾸어주세요.

컴파운드 LLM (Compound LLM)

LLM은 프롬프트 (입력 텍스트, 지침, 컨텍스트 등)를 받아 다음 단어를 예측하는 방식으로 작동합니다. 예를 들어 “신제품 출시를 위한 마케팅 계획을 작성해 줘”라는 프롬프트를 LLM에 입력하면, LLM은 다음 단어를 예측하고, 그 단어를 다시 입력으로 사용하여 다음 단어를 예측하는 과정을 반복합니다. 이 과정은 한 번에 한 단어씩 진행되며, LLM은 편집, 반영, 개선 없이 작업을 수행합니다.

하지만 실제 우리가 계획을 세우거나 발표 자료를 만들 때 여러 번의 수정과 검토를 거치는 것처럼, LLM도 여러 단계를 거쳐 더 나은 결과를 얻을 수 있습니다. 컴파운드 LLM은 이러한 점을 활용하여 LLM을 여러 개 연결하여 작업을 수행하는 방식입니다.

예시: 마케팅 계획 작성

LLM 1 (초안 작성): “신제품 출시에 대한 마케팅 계획 초안을 작성해 줘”라는 프롬프트를 입력합니다.
LLM 2 (비평): LLM 1이 작성한 초안을 받아 “이 마케팅 계획을 비평해 줘”라는 프롬프트를 입력합니다. LLM 2는 계획의 장단점을 분석하고 개선점을 제시합니다.
LLM 3 (수정): LLM 2의 비평과 LLM 1의 초안을 받아 “이 비평을 바탕으로 마케팅 계획 초안을 수정해 줘”라는 프롬프트를 입력합니다. LLM 3는 비평 내용을 반영하여 초안을 개선합니다.

이러한 방식으로 LLM을 연결하면, LLM이 스스로 비평하고 개선하는 과정을 거쳐 더 높은 품질의 결과를 얻을 수 있습니다. Google에서 진행한 프롬프트 엔지니어링 연구에서도 LLM에 “각 단계 사이에 잠시 멈춰서 생각해 주세요”라는 프롬프트를 추가하면 정확도가 향상된다는 결과가 있었습니다.

에이전트 AI로의 확장

이제 컴파운드 LLM에서 에이전트 AI로 개념을 확장해 보겠습니다. 에이전트 AI를 이해하기 위해 다음 세 가지 Mental Leap (정신적 도약)을 해봅시다.

LLM 대신 에이전트라는 단어 사용: LLM을 “에이전트”라고 부릅니다. 즉, “초안을 작성하는 에이전트”, “비평을 작성하는 에이전트”, “최종 계획을 작성하는 에이전트”와 같이 표현합니다.
모든 단계가 LLM일 필요는 없음: 각 에이전트가 반드시 LLM일 필요는 없습니다. 일부 에이전트는 Google 검색과 같은 간단한 도구일 수 있습니다. 예를 들어, 발표 자료를 만들 때 “이 발표 자료를 뒷받침할 데이터를 요청하는 에이전트”를 추가하여 필요한 통계 자료를 검색하고, 검색된 자료를 초안에 추가하는 단계를 거칠 수 있습니다.
미리 결정된 경로를 따를 필요는 없음: 미리 결정된 경로를 따르는 대신, “오케스트레이터 에이전트”를 사용하여 전체 프로세스를 관리할 수 있습니다. 오케스트레이터 에이전트는 전체 지침, 사용 가능한 에이전트 및 도구, 일반적인 흐름을 기반으로 워크플로우를 조정합니다. 예를 들어, “최종 결과물을 얻기 위해 필요한 만큼 초안을 작성하고, 데이터 요구 사항을 검색하고, 새로운 초안을 작성하는 과정을 반복하되, 최대 10번까지만 반복해 줘”와 같이 지시할 수 있습니다.

결론

에이전트 AI는 LLM을 여러 개 연결하여 작업을 수행하고, LLM 외에도 다양한 도구를 활용하며, 워크플로우를 유연하게 조정할 수 있는 AI 시스템입니다. 이러한 시스템은 LLM이 스스로 비평하고 개선하는 과정을 거쳐 더 높은 품질의 결과를 얻을 수 있도록 돕습니다.

저스틴) Compound AI Agent라는 레이블을 글 제목에 붙여주고 이 내용을 전달했습니다.

컴파운드 LLM과 에이전트 AI: 더 똑똑한 AI 시스템으로 진화

제공해주신 자료를 바탕으로 컴파운드 LLM과 에이전트 AI에 대해 명확하고 이해하기 쉽게 정리하고, 추가적인 정보를 더해 더욱 풍성하게 만들어 보겠습니다.

1. LLM의 한계와 컴파운드 LLM의 등장

LLM의 작동 방식: LLM은 프롬프트 (텍스트, 지침, 컨텍스트)를 기반으로 다음에 올 단어를 예측하는 방식으로 작동합니다. 마치 자동 완성 기능처럼, LLM은 한 번에 한 단어씩 생성하며, 수정이나 검토 없이 작업을 진행합니다.
LLM의 한계: 이러한 작동 방식은 LLM이 복잡한 작업을 수행하는 데 한계를 드러냅니다. 사람처럼 계획을 세우고 수정하는 과정을 거치지 않기 때문에 결과물의 품질이 떨어질 수 있습니다.
컴파운드 LLM의 등장: 컴파운드 LLM은 이러한 한계를 극복하기 위해 LLM을 여러 개 연결하여 작업을 수행하는 방식입니다. 각 LLM은 특정 역할을 수행하며, 서로 협력하여 결과물의 품질을 높입니다.

2. 컴파운드 LLM의 작동 방식 예시: 마케팅 계획 작성

LLM 1 (초안 작성): “신제품 출시에 대한 마케팅 계획 초안을 작성해 줘”라는 프롬프트를 입력하여 마케팅 계획 초안을 생성합니다.
LLM 2 (비평): LLM 1이 작성한 초안을 받아 “이 마케팅 계획을 비평해 줘”라는 프롬프트를 입력합니다. LLM 2는 계획의 장단점을 분석하고 개선점을 제시합니다. 마치 전문가의 피드백과 같습니다.
LLM 3 (수정): LLM 2의 비평과 LLM 1의 초안을 받아 “이 비평을 바탕으로 마케팅 계획 초안을 수정해 줘”라는 프롬프트를 입력합니다. LLM 3는 비평 내용을 반영하여 초안을 개선합니다.

3. 에이전트 AI로의 확장: 3가지 Mental Leap

컴파운드 LLM의 개념을 확장하여 더욱 강력한 에이전트 AI 시스템을 구축할 수 있습니다. 이를 위해 다음 3가지 Mental Leap (정신적 도약)이 필요합니다.

LLM 대신 에이전트라는 단어 사용: LLM을 “에이전트”라고 부르면서 각 LLM의 역할을 명확히 정의합니다. 예를 들어, “초안을 작성하는 에이전트”, “비평을 작성하는 에이전트”, “최종 계획을 작성하는 에이전트”와 같이 표현합니다.
모든 단계가 LLM일 필요는 없음: 각 에이전트가 반드시 LLM일 필요는 없습니다. Google 검색과 같은 간단한 도구도 에이전트가 될 수 있습니다. 예를 들어, 발표 자료를 만들 때 “이 발표 자료를 뒷받침할 데이터를 요청하는 에이전트”를 추가하여 필요한 통계 자료를 검색하고, 검색된 자료를 초안에 추가하는 단계를 거칠 수 있습니다.
미리 결정된 경로를 따를 필요는 없음: 미리 결정된 경로를 따르는 대신, “오케스트레이터 에이전트”를 사용하여 전체 프로세스를 관리할 수 있습니다. 오케스트레이터 에이전트는 전체 지침, 사용 가능한 에이전트 및 도구, 일반적인 흐름을 기반으로 워크플로우를 조정합니다. 예를 들어, “최종 결과물을 얻기 위해 필요한 만큼 초안을 작성하고, 데이터 요구 사항을 검색하고, 새로운 초안을 작성하는 과정을 반복하되, 최대 10번까지만 반복해 줘”와 같이 지시할 수 있습니다.

4. 에이전트 AI의 장점과 활용 가능성

더 높은 품질의 결과물: 에이전트 AI는 LLM이 스스로 비평하고 개선하는 과정을 거쳐 더 높은 품질의 결과물을 얻을 수 있도록 돕습니다.
다양한 도구 활용: LLM 외에도 다양한 도구를 활용하여 더욱 복잡하고 다양한 작업을 수행할 수 있습니다.
유연한 워크플로우: 오케스트레이터 에이전트를 통해 워크플로우를 유연하게 조정하여 변화하는 요구 사항에 효과적으로 대응할 수 있습니다.

5. 추가 정보: 에이전트 AI의 실제 활용 예시

코드 생성: 코드를 생성하는 에이전트, 코드를 테스트하는 에이전트, 코드를 최적화하는 에이전트를 연결하여 고품질의 코드를 자동으로 생성할 수 있습니다.
연구 논문 작성: 관련 연구 자료를 검색하는 에이전트, 논문 초안을 작성하는 에이전트, 논문을 비평하는 에이전트를 연결하여 연구 논문 작성 과정을 자동화할 수 있습니다.
고객 지원: 고객의 문의를 분석하는 에이전트, 답변을 생성하는 에이전트, 답변의 정확성을 검증하는 에이전트를 연결하여 효율적인 고객 지원 시스템을 구축할 수 있습니다.

6. 결론

컴파운드 LLM과 에이전트 AI는 LLM의 한계를 극복하고 더 똑똑하고 유연한 AI 시스템을 구축하는 데 중요한 역할을 합니다. 앞으로 에이전트 AI는 다양한 분야에서 활용될 것으로 기대되며, 우리의 삶을 더욱 편리하고 효율적으로 만들어 줄 것입니다.