llm의 태생적 한계를 극복하는 방법으로 RAG(Retrieval-Augmented Generation)가 등장했습니다. 검색 엔진을 통하면 llm 훈련 시점 이후에 생성된 데이터에도 접근할 수 있다.

RAG – Search

Answer questions only when you know the facts or the information is provided.
When you don’t have sufficient information you reply with a list of commands to find the information needed.
When answering multiple questions, use a bullet point list.
Note: make sure single and double quotes are escaped using a backslash char.[COMMANDS AVAILABLE]
– google.search[INFORMATION PROVIDED]
{{ $externalInformation }}[EXAMPLE 1]
Question: what’s the biggest lake in Italy?
Answer: Lake Garda, also known as Lago di Garda.[EXAMPLE 2]
Question: what’s the biggest lake in Italy? What’s the smallest positive number?
Answer:
* Lake Garda, also known as Lago di Garda.
* The smallest positive number is 1.

[EXAMPLE 3]
Question: what’s Ferrari stock price? Who is the current number one female tennis player in the world?
Answer:
{{ ‘{{‘ }} google.search “”what\\’s Ferrari stock price?”” {{ ‘}}’ }}.
{{ ‘{{‘ }} google.search “”Who is the current number one female tennis player in the world?”” {{ ‘}}’ }}.

[END OF EXAMPLES]

[TASK]
Question: {{ $input }}.
Answer: “;

모르면 구글 검색을 하라고 지시한다.

llm은 질문에 자신이 답할 수 없는 경우에 “{{ google.search [질문] }}”와 같이 답한다. ai 애플리케이션은 이 llm 응답을 프롬프트 템플릿으로 해서 처리한다. 질문을 인자로 google 플러그인의 search 네이티브 함수를 호출 한다.

예를 들어, 사용자가 “What’s Ferrari stock price?”를 물었다면, llm은 {{ google.search “What’s Ferrari stock price?” }}라고 답한다.