커널 메모리가 하는 일은 무엇인가? 라는 질문에는

‘LLM의 약한 점을 보완하기 위한 방법’이라고 답할 수 있습니다. 이어서 어떻게를 묻는 다면 ‘RAG(Retrieval-Augumented Generation; 검색 증강 생성)로’ 라도 답할 수 있습니다.

커널 메모리는 MIT 라이센스로 제공되는 마이크로 소프트가 주도하는, 생성형 AI – RAG 솔루션 오픈소스 입니다.

커널 메모리 문서에서는 커널 메모리에 대해 다음과 같이 소개합니다.

Kernel Memory (KM) is a multi-modal AI Service specialized in the efficient indexing of datasets through custom continuous data hybrid pipelines, with support for Retrieval Augmented Generation ( RAG), synthetic memory, prompt engineering, and custom semantic memory processing.

KM is available as a Web Service, as a Docker container, a Plugin for ChatGPT/Copilot/Semantic Kernel, and as a .NET library for embedded applications.

Utilizing advanced embeddings and LLMs, the system enables Natural Language querying for obtaining answers from the indexed data, complete with citations and links to the original sources.

텍스트에 더해 오디오와 이미지 같은 모달도 지원한다고 합니다.

커널 메모리는 독립된 서버에서 웹 서비스로 실행되는 것을 기본으로 합니다.

데이터를 제공할 때 데이터의 출처를 제공함으로 생성형 AI를 사용할 때 결과를 믿어도 되는 지에 대한 판단 근거를 제공합니다. 이 또한 생성형 AI의 단점으로 이야기 되는 환각 문제 해결하려는 시도 입니다.