랭체인 프로그래밍: 개념과 응용 – Google Cloud Vertex AI
기반 모델은 사전 훈련된 모델로, 사용량 기반으로 비용을 지불하고 API를 통해 접근할 수 있습니다. 기반 모델은 공용 클라우드의 장점을 활용하여 최첨단 생성형 AI 모델에 대한 비용 효율적이고 쉬운 접근을 제공합니다.
Google Cloud의 AI는 Vertex AI 플랫폼을 기반으로 합니다. Vertex AI는 기업이 ML 프로젝트를 구축하고 관리하는 데 도움이 되는 도구 모음입니다.
Google Cloud는 Vertex AI 플랫폼을 통해 다양한 기반 모델(오픈소스 모델 및 Google 또는 다른 제공업체가 개발한 상용 모델 포함)을 제공합니다.
Vertex AI와 LangChain을 통합하면 개발자는 두 플랫폼의 강점, 즉 Google Cloud의 광범위한 머신러닝 인프라 기능과 LangChain의 유연한 애플리케이션 구축 프레임워크를 활용할 수 있습니다. 이 통합을 통해 개발자는 고급 머신러닝 모델을 활용하는 동시에 복잡한 워크플로우와 데이터 처리를 가능하게 하는 애플리케이션을 만들 수 있습니다.
1단계: Google Cloud Vertex AI 설정
통합 프로세스를 시작하려면 먼저 Google Cloud 환경을 설정하여 Vertex AI를 사용해야 합니다.
1. Google Cloud 프로젝트 생성
Google Cloud Console에 로그인합니다.
상단 헤더의 프로젝트 드롭다운을 클릭하고 새 프로젝트를 선택합니다.
프로젝트 이름을 입력하고 생성을 클릭합니다.
2. Vertex AI API 활성화
Google Cloud Console에서 API 및 서비스 > 라이브러리로 이동합니다.
“Vertex AI API”를 검색하고 클릭합니다.
활성화 버튼을 클릭하여 프로젝트에 API를 활성화합니다.
3. 인증 설정
Cloud Console에서 IAM 및 관리 > 서비스 계정으로 이동합니다.
서비스 계정 생성을 클릭합니다.
서비스 계정 이름과 설명을 제공한 다음 생성을 클릭합니다.
역할에 Vertex AI 관리자 또는 필요에 따라 관련 역할을 선택하고 완료를 클릭합니다.
서비스 계정을 생성한 후 계정을 클릭하여 세부 정보를 열고 키로 이동한 다음 키 추가 > 새 키 생성을 클릭합니다.
키 유형을 JSON으로 선택하고 키 파일을 다운로드합니다. 이 파일은 나중에 로컬 개발 환경에서 인증에 사용됩니다.
2단계: LangChain 설정
LangChain은 pip를 통해 설치할 수 있으며 Vertex AI와 통합하려면 약간의 초기 구성이 필요합니다.
|
1 2 3 4 5 6 7 8 9 10 |
import os from langchain_google_vertexai import VertexAI credentials_path = "/v1.json" os.environ["GOOGLE_APPLICATION_CREDENTIALS"] = credentials_path llm = VertexAI(model_name="gemini-1.5-pro", project="vertex-447105") response = llm("안녕하세요!") print(response) |
- YOUR_PROJECT_ID에 Google Cloud에서 생성한 프로젝트 id를 작성합니다.
- 여기서는 vertex-447105를 사용합니다.
- your-model-name에 모델 이름을 작성합니다.
- 여기서는 gemini-1.5-pro를 사용합니다.
- path/to/your/service-account-key.json에 서비스 계정으로 생성한 키 파일을 경로 포함 작성합니다.
- 여기서는 코랩의 세션저장소 루트에 v1.json으로 추가했습니다.
