메타에서 라마3를 발표했습니다. 이번 호에서는 이거 하나 다루기도 벅차네요. 자료들이 쏟아집니다.

그래도 간단히 C# 관련 자료는 별로 없으니, 이 부분 추가해서 정리 해 봅니다.

라마3 로컬에서 돌리면 꽤 느립니다. 스트리밍 방식을 지원하니 초당 몇 개 안 되는 토큰 생성을 해 줘도 느린지 모를 수 있습니다. 실제 업무에 처리하면 화면 보고 있느라고 눈이 아플 수 있습니다.
Groq에서 라마3 클라우드 서비스를 제공합니다. API 서비스를 제공하는 데, 빠르기도 한데 지금은 무료입니다. 이걸 사용하길 강력 추천합니다.