环境建立

首先要在电脑上装置 Python，直接在官网下载装置包进行装置即可：www.python.org/downloads/

# 创立文件夹，可随意命名
mkdir chatgpt-pdf
cd chatgpt-pdf
# 创立虚拟环境（第二个venv为虚拟环境的称号，之所以运用venv是因为一般通用的.gitignore会默许忽略该文件夹，完全能够挑选运用其它称号）
python3 -m venv venv
# 激活虚拟环境
source venv/bin/activate
# 装置依赖包
pip install langchain pdfplumber python-dotenv streamlit faiss-cpu openai tiktoken

langchain官网坐落python.langchain.com/en/latest/i… ，它能够简化对各种大语言模型的运用，比方内置有OpenAI等。

pdfplumber顾名思义，是用于读取和处理PDF文件的，挑选这库是因为今年还在更新，而且对中文的支撑还不错。本次项目demo会导入自己的PDF文件，并将其作为知识库，答复你的发问。

python-dotenv用于读取.env文件，本例在该文件中放入Open AI平台的key。

streamlit用于制作 UI界面，当前大多数ChatGPT运用都运用它，如大名鼎鼎的gpt4free，streamlit默许会收集信息进行剖析，可通过装备文件封闭，macOS和Linux坐落~/.streamlit/config.toml，Windows坐落%userprofile%/.streamlit/config.toml，增加如下内容即可：

[browser]
gatherUsageStats = false

其它装备项可通过streamlit config show可查看。

faiss-cpu是facebook开源用于相似搜索的库，github.com/facebookres… ，GPU版别请运用faiss-gpu。

openai和tiktoken都是调用ChatGPT接口时运用的。

保留当前运用版别请运用pip freeze > requirements.txt。

OpenAI的注册方法这儿就不介绍了，最常用的是在sms-activate.org/ 上购买服务获取短信验证码完成注册。

代码开发

知识库建立和运用流程图如下：

徒手使用LangChain搭建一个ChatGPT PDF知识库

咱们在根目录下创立.env文件：

OPENAI_API_KEY=你自己的key

这儿的OPENAI_API_KEY称号固定，请不要修改。

然后创立app.py，先进行环境变量的读取（运用编辑器的小伙伴请注意挑选刚刚创立的环境，PyCharm应该能自动识别，VScode 请按下快捷键 ctrl/cmd+shift+p进行挑选），先测试读取环境变量是否正常

from dotenv import load_dotenv
import os
load_dotenv()
print(os.getenv('OPENAI_API_KEY'))

接着建立页面框架：

import streamlit as st
st.set_page_config(page_title="专属PDF知识库")
st.header("专属PDF知识库")
# 上传文件
pdf = st.file_uploader("上传PDF文件", type="pdf")

运转streamlit run app.py作用如下：

徒手使用LangChain搭建一个ChatGPT PDF知识库

提取文本：

import pdfplumber
# 提取文本
if pdf is not None:
  text = ""
  with pdfplumber.open(pdf) as pdf_reader:
    for page in pdf_reader.pages:
      text += page.extract_text()

接下对文本进行分片，这儿每个分片长充为1000字符，为保留上下文挑选了重叠200字符：

from langchain.text_splitter import CharacterTextSplitter
text_splitter = CharacterTextSplitter(
  separator="\n",
  chunk_size=1000,
  chunk_overlap=200,
  length_function=len
)
chunks = text_splitter.split_text(text)

接下来装备 embedding，也即将离散值转化为连续向量：

embeddings = OpenAIEmbeddings()
knowledge_base = FAISS.from_texts(chunks, embeddings)

为界面增加一个输入框：

user_question = st.text_input("来向我发问吧：")

最后完成回复的逻辑：

from langchain.chains.question_answering import load_qa_chain
from langchain.llms import OpenAI
if user_question:
  docs = knowledge_base.similarity_search(user_question)
  llm = OpenAI()
  chain = load_qa_chain(llm, chain_type="stuff")
  response = chain.run(input_documents=docs, question=user_question)
  st.write(response)

如需追寻花了多少钱，可增加：

from langchain.callbacks import get_openai_callback
with get_openai_callback() as cb:
 response = chain.run(input_documents=docs, question=user_question)
 print(cb)
st.write(response)

徒手使用LangChain搭建一个ChatGPT PDF知识库

完好代码：

from dotenv import load_dotenv
import streamlit as st
from langchain.text_splitter import CharacterTextSplitter
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.vectorstores import FAISS
from langchain.chains.question_answering import load_qa_chain
from langchain.llms import OpenAI
from langchain.callbacks import get_openai_callback
import pdfplumber
def main():
  load_dotenv()
  # locale.setlocale(locale.LC_ALL, 'zh_CN')
  st.set_page_config(page_title="专属PDF知识库")
  st.header("专属PDF知识库")
  # 上传文件
  pdf = st.file_uploader("上传PDF文件", type="pdf")
  # 提取文本
  if pdf is not None:
    text = ""
    with pdfplumber.open(pdf) as pdf_reader:
      for page in pdf_reader.pages:
        text += page.extract_text()
    # 文本分片
    text_splitter = CharacterTextSplitter(
      separator="\n",
      chunk_size=1000,
      chunk_overlap=50,
      length_function=len
    )
    chunks = text_splitter.split_text(text)
    # 创立embeddings
    embeddings = OpenAIEmbeddings()
    knowledge_base = FAISS.from_texts(chunks, embeddings)
    user_question = st.text_input("来向我发问吧：")
    if user_question:
      docs = knowledge_base.similarity_search(user_question)
      llm = OpenAI()
      chain = load_qa_chain(llm, chain_type="stuff")
      with get_openai_callback() as cb:
        response = chain.run(input_documents=docs, question=user_question)
        print(cb)
      st.write(response)
if __name__ == '__main__':
    main()

国内直连接口超时问题

如果有海外服务器能够直接做署理

网上现在比较通用的计划是运用 Cloudflare Workers，比方下面是 Alan随意找到的一段代码：

const TELEGRAPH_URL = 'https://api.openai.com';
addEventListener('fetch', event => {
  event.respondWith(handleRequest(event.request))
})
async function handleRequest(request) {
  const url = new URL(request.url);
  url.host = TELEGRAPH_URL.replace(/^https?:///, '');
  const modifiedRequest = new Request(url.toString(), {
    headers: request.headers,
    method: request.method,
    body: request.body,
    redirect: 'follow'
  });
  const response = await fetch(modifiedRequest);
  const modifiedResponse = new Response(response.body, response);
  // 增加允许跨域拜访的呼应头
  modifiedResponse.headers.set('Access-Control-Allow-Origin', '*');
  return modifiedResponse;
}

但现在xxx.workers.dev在国内也无法拜访，所以也是有门槛的，那就是要绑定一个自定义域名。自定义域可在.env文件中增加OPENAI_API_BASE=xxx.xxx.xxx/v1。

  1. Unsupported OpenAI-Version header provided: 2022-12-01. (HINT: you can provide any of the following supported versions: 2020-10-01, 2020-11-07. Alternatively, you can simply omit this header to use the default version associated with your account.)
    这个问题待讨论，快速解决方法是

    embeddings = OpenAIEmbeddings(openai_api_version='2020-11-07')

github.com/hwchase17/l…

参考资料：

python.langchain.com/en/latest/i…

bennycheung.github.io/ask-a-book-…

https://www.youtube.com/watch?v=wUAUdEw5oxM