简单30行代码，使用LangChain 搭建专属 GPT知识库

最近，ChatGPT相关的LangChain项目备受瞩目，成了十分火热的开源代码库，而且还在快速发展中！

咱们都知道，ChatGPT的练习知识库数据集是过时的， 且无法联网，因而，给出的答案或数据常常是不正确的。‍‍‍

想像一下，假如咱们将本地的知识文档作为prompt，使用ChatGPT依据这些资料中来回答问题，那岂不是很酷，LangChain的出现就能很好地帮咱们实现这个需求。

LangChain

LangChain是一个强壮的程序开发结构，专注于帮忙开发人员构建端到端的使用。该结构供给了一系列东西、组件和接口，方便开发人员快速构建依赖于大型言语模型（LLM）和聊天模型的使用程序。经过LangChain，开发人员可轻松管理言语模型的交互，实现多个组件的无缝链接，还能整合额外的资源（如API和数据库）来优化开发流程。

接下来，咱们会用个简略的示例实现下如何使用LangChain结合ChatGPT的能力，来打造个私有的AI知识库

Deployment

整个布置过程如下：

第一步，获取代码并安装Python相关库

gitclonegit@github.com:christhai/langchain-chatbot.git
python3 -m venv .venv
source.venv/bin/activate
pipinstall-rrequirement.txt

其中app.py完整代码如下（不到30行哦）

from llama_index import SimpleDirectoryReader, LangchainEmbedding, GPTListIndex,GPTSimpleVectorIndex, PromptHelper, LLMPredictor, ServiceContext
from langchain import OpenAI
import gradio as gr
import sys
import os
os.chdir(r'/home/ubuntu/langchain') *#* 文件途径
os.environ["OPENAI_API_KEY"] = 'sk-xxxxxxxxxxxxxxx'
def construct_index(directory_path):
  max_input_size = 4096
  num_outputs = 2000
  max_chunk_overlap = 20
  chunk_size_limit = 600
  prompt_helper = PromptHelper(max_input_size, num_outputs, max_chunk_overlap, chunk_size_limit=chunk_size_limit)
  llm_predictor = LLMPredictor(llm=OpenAI(temperature=0.7, model_name="gpt-3.5-turbo", max_tokens=num_outputs))
  documents = SimpleDirectoryReader(directory_path).load_data()
  service_context = ServiceContext.from_defaults(llm_predictor=llm_predictor)
  index = GPTSimpleVectorIndex.from_documents(documents,service_context=service_context)
  index.save_to_disk('index.json')
  return index
def chatbot(input_text):
  index = GPTSimpleVectorIndex.load_from_disk('index.json')
  response = index.query(input_text, response_mode="compact")
  return response.response
iface = gr.Interface(fn=chatbot,
          inputs=gr.inputs.Textbox(lines=7, label="请输入，您想从知识库中获取什么？"),
          outputs="text",
          title="AI 本地知识库ChatBot")
index = construct_index("docs")
iface.launch(share=True)

第二步，更改代码中第6、7行的项目途径以及OPENAI API TOKEN

os.chdir(r'你的项目途径文件夹')
os.environ["OPENAI_API_KEY"]='你的OpenAI API Token'

第三步，把需要prompt的文档资料放到docs目录下（例如，我将之前复习CKA考试的笔记以及官方考试关键作为示例）

ubuntu@instance-k8s:~/langchain/docs$ls
cka.txt  exam.txt

最后，运转程序即可（是不是很简略！！）

python3 app.py

浏览器访问本地 http://127.0.0.1:7860 或服务器URL即可

Demo

接下来，咱们演示下具体效果如何：

例如，我依据CKA考试Tips文档中的内容提问“What You Need For Your Exam”

Langchain会依据文档里的内容收拾后，回来给我如下的答案

In order to take the CKA or CKAD exam, you will need a computer with Chrome or Chromium browser, reliable internet access, a webcam, and a microphone. You will also need to have a current, non-expired government ID that has your photo and full name in the Latin alphabet. Additionally, you should run the compatibility check tool provided by the Exam Proctoring Partner to verify that your hardware meets the minimum requirements.

或者，我想找找之前CKA笔记中关于"how to create K8S deplyment with yaml"，它也回来了笔记中相关的答案。

apiVersion: extensions/v1beta1

kind: Deployment

metadata:

name: rss

spec:

replicas: 2

template:

metadata:

labels:

app: rss

spec:

containers:

– name: front-end

image: nginx

ports:

– containerPort: 80

– name: rss-reader

image: nickchase/rss-php-nginx:v1

ports:

– containerPort: 88

感兴趣的小伙伴能够自己布置下试试吧！