LLM(Large Language Model)을 사용하는 방법은 의외로 간단하다. 효과적인 프롬프트만 있으면 된다. 반면 언어 모델을 기반으로 한 애플리케이션 개발은 어려울 수 있다. 오픈AI 같은 업체에서 제공하는 API를 사용하든, 오픈소스 모델을 앱에 임베딩하든 프롬프트 작성 이상의 작업을 수반한다. 매개변수 조정부터 응답 조정에 이르기까지 개발자가 고려해야 할 요소는 많으며, 여러 가지 LLM을 다뤄야 할 경우 복잡성은 배가 된다. 이때 사용하면 좋은 도구가 바로 랭체인(LangChain)이다. 랭체인은 언어 모델 기반 애플리케이션 개발을 간소화하는 파이썬 및 자바스크립트용 모듈식 프레임워크다. 여기서는 랭체인의 작동 방식과 설치 및 사용법을 알아보고, 랭스미스를 활용해 랭체인으로 개발한 LLM 앱과 에이전트를 추적 및 평가하는 방법을 정리한다.
주요 내용
- “LLM 개발을 더 간편하게” 랭체인의 개념과 이해
- “다양한 모델을 체인으로 연결한다” 예제로 시작하는 랭체인
- 구글 PaLM 2 API와 랭체인을 함께 사용하는 방법
- 랭체인과 구글 PaLM 2를 사용한 Q&A 앱 만들기
- LLM용 추적 및 디버깅 도구 ‘랭스미스’ 따라잡기