Chat Models
kubChain에서 제공하는 Chat Models는 아래와 같습니다.
AWS Bedrock
Azure ChatOpenAI
NIBittensorChat
ChatAnthropic
ChatGooglePaLM
ChatGoogleVertexAI
ChatHuggingFace
ChatLocalAI
ChatOllama
ChatOpenAI
ChatOpenAI Custom
대부분의 Chat Models는 모델을 제공하는 사이트에 회원가입을 한 이후 API key를 생성하고, kubChain에 등록하여 사용할 수 있습니다.
ChatOpenAI
OpenAI에서 제공하는 모델은 OpenAI와 ChatOpenAI모델입니다. 두개의 모델은 동일한 것 같지만 OpenAI모델은 기본이 되는 LLM이고, ChatOpenAI모델은 대화를 하는 것에 좀 더 중점을 둔 모델입니다. 어떤 모델을 사용하느냐에 따라 연결해야하는 노드가 일반노드 또는 Chat노드로 나뉠 수 있습니다.
OpenAI에 회원가입을 하고 아래 링크를 통해 API key를 발급받을 수 있습니다.
kubChain의 Flow형 LangChain을 이용하는 경우, API key를 등록해야 사용할 수 있는 노드들이 많이 있습니다. 노드를 사용할 때마다 API key를 직접 입력하여 사용하는 방법도 있지만, 자주 사용하는 API key인 경우 사전 등록을 통해 간단하게 사용할 수 있습니다. API key 등록은 여기서 확인할 수 있습니다.
ChatHuggingFace
HuggingFace에 다른 사람들이 올려둔 모델을 사용하려면 ChatOpenAI 모델을 사용하는 것과 비슷하게 API key를 발급받고 Model이름 또는 Endpoint 정보를 입력하여 사용할 수 있습니다.
ChatLocalAI
서비스 준비중입니다.
Last updated
