Index

커널 메모리는 서비스에 투입된 문서의 의미를 저장하기 위해 벡터 저장소를 활용하며, Azure AI Search, Qdrant, Elastic Search, Redis 등과 같은 솔루션을 사용합니다.

일반적으로 저장 솔루션은 각 컬렉션에 대한 최대 용량을 제공하며, 보안, 개인 정보 보호 또는 기타 중요한 이유로 데이터를 명확하게 별도의 컬렉션으로 분리해야 할 필요가 종종 있습니다.

커널 메모리에서 이러한 컬렉션을 “인덱스“라고 합니다.

정보를 저장하거나 검색하거나 질문할 때, 커널 메모리는 항상 하나의 인덱스 내 경계 안에서 작동합니다. 한 인덱스의 데이터는 다른 인덱스로 유출되지 않습니다.

Document

커널 메모리에 정보를 업로드할 때, 데이터는 항상 Document로 패키징됩니다.

Document는 다운로드할 웹 페이지의 URL, 이미지를 포함한 하나 이상의 파일, 또는 저장할 문자열로 구성될 수 있습니다. 출처와 형식에 관계없이 클라이언트는 Document를 저장합니다.

검색하고 질문할 때, 검색 범위를 지정할 수 있습니다. 예를 들어, 전체 인덱스를 고려할지, 단지 하나의Document를 고려할지, 아니면 Document 내의 파일 중 하나만 고려할지 등을 선택할 수 있습니다.

강조해야 할 중요한 측면 중 하나는 문서가 고유 ID를 가지고 있다는 것입니다. 이 ID는 시스템에 의해 자동으로 할당되거나 사용자가 직접 할당할 수 있습니다. 이 ID는 동일한 파일을 업데이트할 때 기억의 중복 위험 없이, 그리고 언제든지 정보를 삭제할 수 있게 합니다.

Memory

“Memory”는 두 가지 다른 방식으로 사용됩니다.

첫째, 커널 메모리는 앱을 위한 장기 기억 솔루션을 제공하고자 하며, 인간의 기억 능력을 모방하여 정보를 저장합니다. 커널 메모리는 단기 기억에 대한 실험적 접근 방식도 제공하는데, 이는 LLM 프롬프트에 활용될 수 있습니다. 또한 커널 메모리는 Procedural Memory에도 활용될 수 있으며, plugins, skills, capabilities를 저장합니다.

둘째, 문서를 업로드할 때, 커널 메모리는 수천 개의 작은 정보 조각들을 추출합니다. 이 조각들은 종종 “memories” 또는 “memory records”으로 언급됩니다. 마치 인간의 기억과 매우 유사하다고 할 수 있습니다.

Tag

인간의 뇌는 정보를 범주로 구성하고 레이블을 지정하며 데이터에 여러 키워드를 태그할 수 있지만, “태깅”은 자체적으로 인간의 기억과는 크게 관련이 없으며, 검색과 질문을 할 때 유연성을 더 중시합니다.

태깅은 임베딩 사용과 매우 유사하지만 중요한 차이점이 있습니다:

임베딩은 LLM에 의해 자동으로 생성되며, 임베딩 벡터는 매우 불투명하고 해석하거나 읽기가 거의 불가능합니다. 태그는 사용자가 수동으로 정의하며 구체적인 의미가 있어 해석하기 쉽습니다. 예를 들어, “type”이라는 태그를 정의하고 “email”, “user”, “report” 등의 값을 할당할 수 있습니다.

임베딩은 코사인 유사도를 사용하여 비교됩니다. 태그는 정확한 태그 값 일치를 사용하여 비교됩니다. 예를 들어, “type is email”과 같습니다. 태그는 문서에 사용자 정의 레이블을 적용할 수 있어 예를 들어 특정 태그나 태그로 검색 범위를 한정할 수 있습니다.

태그는 Index와 유사하게 기억을 컬렉션으로 조직할 수 있지만, Index는 더 강한 분리를 제공하고 태그는 데이터의 위치를 변경하지 않고도 값을 변형할 수 있는 기능을 제공합니다.

태그는 “type:news”, “user:u038”, “year:2025″와 같은 키-값 쌍이며, 각 태그 키는 여러 값을 가질 수 있습니다. 예를 들어, “user:u038″와 “user:u944” 두 태그를 사용하여 두 사용자에게 기억을 할당하거나, “type:mail”과 “type:work”를 사용하여 업무 중에 받은 이메일에서 추출된 기록을 지정하는 것이 완벽하게 괜찮습니다.