Kernel Memory 3.B Serverless memory (.NET only)

https://microsoft.github.io/kernel-memory/serverless

 

커널 메모리는 서비스로 실행될 때 최상의 성능과 확장성을 발휘하며, 수천 개의 문서와 정보를 차단 없이 수집할 수 있습니다. 그러나 KernelMemoryBuilder를 사용하여 MemoryServerless 클래스를 애플리케이션에 내장할 수도 있습니다.

MemoryServerless와 MemoryWebClient는 동일한 인터페이스를 구현하고 동일한 API를 제공하므로, 쉽게 서로 전환할 수 있습니다.

Memory를 Server로 하던 Serverless로 하던, 메모리를 사용하는 memory client 입장에서는 memory를 사용하는 것이라는 겁니다. 

 

서버리스 메모리는 .NET 애플리케이션만 지원합니다. 기본적으로 서버리스 메모리는 휘발성으로, 모든 데이터를 메모리에만 저장하며 디스크에 영구적으로 저장하지 않는 것이 기본입니다. 그래도 이에 대한 요구가 있을 것이고, 지금도 이를 지원하고 있습니다.

 

서버리스 메모리를 사용하는 코드를 보고, 해 봅시다.  코드에서 다음과 같은 부분은 생각해 보면서 볼 필요가 있습니다.’

텍스트 추출: 파일 형식을 인식하고 정보를 추출합니다.
텍스트를 작은 조각으로 분할하여 검색을 최적화합니다.
LLM 임베딩 생성기를 사용하여 임베딩을 추출합니다.
임베딩을 Azure AI Search, Qdrant 또는 기타 데이터베이스와 같은 벡터 인덱스에 저장합니다.
문서는 사용자가 조직하며, 개인 정보를 보호합니다. 또한, 태그를 사용하여 기억을 분류하고 구조화할 수 있어, 효율적인 검색과 탐색을 가능하게 합니다.

About the Author
(주)뉴테크프라임 대표 김현남입니다. 저에 대해 좀 더 알기를 원하시는 분은 아래 링크를 참조하세요. http://www.umlcert.com/kimhn/

Leave a Reply

*