인공지능(AI)이 발전하면서 우리는 AI와 소통하는 새로운 방법을 배우고 있어요. 처음에는 단순한 명령어로 AI에게 일을 시켰지만, 이제는 더 복잡한 작업을 할 수 있게 되었죠. 이런 복잡한 작업을 지시하는 방법을 ‘프롬프트’라고 해요.

하지만 점점 더 어려운 일을 AI에게 맡기려다 보니, 프롬프트를 만드는 것도 쉽지 않아졌어요. 그래서 ‘프롬프트 엔지니어링’이라는 새로운 분야까지 생겼죠.

흥미나 재미를 넘어 업무에 생성형 인공지능을 사용하려면, 프롬프트 작성이란 벽에 부딪힙니다. 그러다보니 생성형 인공지능 모델이 프롬프트를 생성해 주면 어떨까라는 생각이 들고. 이것을 해 보니 프롬프트를 만드는 것도 생성이니 생성형 인공지능이 잘 하더라는 거죠.

생성형 인공지능은 스스로 보다는 시킨 일을 잘하는 코파일럿으로 출발해서 올 해는 스스로 하는 에이전트로 포지션을 바꾸고 있습니다. 사람은 원하는 것을 목표로 주고 생성형 인공지능이 목표를 달성하는 거죠.

생성형 AI 모델은 짧은 입력만으로 사용자의 의도를 정확히 파악하기 어려운 태생적 한계가 있습니다. 이를 극복하기 위해 ‘프롬프트를 생성하는 프롬프트’, 즉 메타 프롬프트의 개념이 등장했습니다.

메타 프롬프트는 일반 프롬프트와 달리 상황에 따라 변경될 필요가 없어 한 번만 잘 작성하면 된다는 장점이 있습니다. 이는 AI 기술이 코파일럿 단계에서 에이전트 단계로 진화하는 현 시점에서 매우 중요한 개념입니다.

그러나 메타 프롬프트는 일반 사용자보다는 전문가들에게 더 중요한 영역이기 때문에, 그 중요성에 비해 대중의 관심을 많이 받지 못하고 있습니다. 하지만 AI 기술의 발전과 함께 메타 프롬프팅의 중요성은 계속해서 커질 것으로 예상됩니다.

AI 기술이 빠르게 발전하면서 AI 코파일럿에서 AI 에이전트로 진화하고 있습니다.

AIPilotSmarteasy와 같은 생성형 인공지능 애플리케이션을 개발하는 회사나 개발자는 메타 프롬프트를 직접 만들지는 않더라도 이게 뭐하는 건인지 어떻게 사용해야 할 지 알아야 합니다. 그럼 이제 부터 이쪽 관점에서 이야기 해 보겠습니다.

AI 에이전트가 등장했다는 것은 좀 더 크고 복잡한 일에 생성형 인공지능을 사용할 일이 생겼다는 것입니다. 사람들도 작고 단순한 일을 협력할 때는 협력 당사자들끼리만 협력을 잘 하면 됩니다. 하지만 일이 크고 복잡해 지면 여러 역할이 필요해지다보니 조직이 생기고 관리자가 생깁니다.

에이전트는 이런 관점에서 볼 때 여러 에이전트들의 협력을 깔고 등장했다고 볼 수 있습니다. 여럿이 협력한다면 이들의 협력을 조율하고 관리할 관리자가 필요한 거고. AI 에이전트 세계에서는 아직은 조율 부분에 초점을 두고 관리자라는 이름보다는 지휘자 조율자라는 이름을 선호하는 것 같습니다.

관리자는 어떤 에이전트와 협력할 지 계획하고 실행시키고 그들이 내 놓는 결과를 취합해서 최종 결과를 내 놓아야 합니다. 업무 파일럿인 사람은 지금까지는 자신이 하던 일 중에서 생성을 해야 하는 부분에서 생성형 인공지능에게 프롬프트를 주고 지시했지만, AI 에이전트 시대에는 이 관리자에게 좀 더 크고 복잡한 일을 무엇에 초점을 맞춰 전달할 것 입니다. 관리자도 이를 위해 AI 에이전트가 됩니다. 이 관리자 AI 에이전트는 전체 목표를 이해하고, 다른 AI들에게 적절한 역할을 배분하며, 그들의 작업을 조율합니다.

이렇게 될 때, 우리 인간의 역할은 관리자 AI 에이전트에게 큰 그림을 제시하는 것이 되겠죠. 이렇게 하면 복잡한 작업도 AI의 도움을 받아 효율적으로 처리할 수 있게 될 거예요.

AI 에이전트 시대에는 업무 전문가인 인간 파일럿을 대신할 수 있는 관리자 AI 에이전트가  업무 파일럿 역할을 합니다. 그럼 사람 업무 파일럿은 무엇을 해야 할까요? AI 팀에게 일을 시키고 그 일의 진행 과정을 살펴보고 최종 결과를 컨펌하는 역할을 하겠죠. 여기 까지 이야기를 전개하다보니, AI 코파일럿까지는 그래도 받아들일 여지가 있었는데, AI 에이전트는 거부할 수도 있겠다는 생각이 갑자기 듭니다.

생성형 모델 공급자들은 모델을 사용할 수 있도록, API로 생성형 AI 서비스를 제공합니다. 우리는 이들 벤더를 생성형 AI 산업의 거인들로 보고 거인들의 어깨에 올라타는 방법으로 AIPilotSmarteasy를 개발하고 있습니다. 관리자 역할은 AI 에이전트 시대의 핵심으로 가장 강한 거인에게 이 역할을 주는 게 맞습니다. 개인적으로 지금은 Anthropic에게 줍니다. 관리자 AI 에이전트에게 주는 프롬프트 길이도 꽤 길고, 다른 에이전트들과의 협력 하는 과정이나 결과를 취합하는 데에도 꽤 많은 프롬프트가 사용되다 보니 비용 걱정이 들면서, GPT4-o mini의 손을 들어줄 것 같기도 합니다.

메타 프롬프팅에 대한 아래 논문을 읽어 보세요. Meta-Prompting: Enhancing Language Models with Task-Agnostic Scaffolding
https://arxiv.black/pdf/2401.12954

이것에 영향 받아 구현한 레파지토리가 있습니다. https://github.com/brainqub3/meta_expert

이 레파지토리에 논문 내용을 기반으로 발전시킨 것 같은 메타 프롬프트가 있습니다. 저는 AIPilotSmarteasy 개발자로, 이것을 핵 중의 핵으로 꼽습니다. https://github.com/brainqub3/meta_expert/blob/main/prompt_engineering/meta_prompt.md