LangChain 模型(学习笔记)

• LangChain 模型(学习笔记)
  • Langchain 模型简介
    • LLM
    • 聊天模型 (Chat Models)
  • Langchain与OpenAI模型
  • 示例代码
    • 与LLM的交互
    • 与聊天模型的交互
  • 总结
  • 学习链接

Langchain 模型简介

Langchain所封装的模型分为两类：
——大语言模型 (LLM)
——聊天模型 (Chat Models)
——在后续的内容中，为简化描述，我们将使用 LLM 来指代大语言模型。

Langchain的支持众多模型供应商，包括OpenAI、ChatGLM、HuggingFace等。
本教程中，我们将以OpenAI为例，后续内容中提到的模型默认为OpenAI提供的模型。

Langchain的封装，比如，对OpenAI模型的封装，实际上是指的是对OpenAI API的封装。

LLM

LLM 是一种基于统计的机器学习模型，用于对文本数据进行建模和生成。LLM学习和捕捉文本数据中的语言模式、语法规则和语义关系，以生成连贯并合乎语言规则的文本。

在Langchain的环境中，LLM特指文本补全模型（text completion model）。

聊天模型 (Chat Models)

聊天模型是语言模型的一种变体。聊天模型使用语言模型，并提供基于”聊天消息”的接口。

Langchain与OpenAI模型

参考OpenAI Model endpoint compatibility 文档，gpt模型都归为了聊天模型，而davinci, curie, babbage, ada模型都归为了文本补全模型。

Langchain提供接口集成不同的模型。
为了便于切换模型，Langchain将不同模型抽象为相同的接口 BaseLanguageModel，并提供 predict 和 predict_messages 函数来调用模型。
当使用LLM时推荐使用predict函数，当使用聊天模型时推荐使用predict_messages函数。

示例代码

与LLM的交互

接下来我们来看看如何在Langchain中使用LLM和聊天模型。

from langchain.llms import OpenAI
import os
os.environ['OPENAI_API_KEY'] = '您的有效OpenAI API Key'
llm = OpenAI(model_name="text-davinci-003")
response = llm.predict("What is AI?")
print(response)

你应该能看到类似如下输出：

与聊天模型的交互

与聊天模型的交互，我们需要使用 langchain.chat_models 模块中的 ChatOpenAI 类。

from langchain.chat_models import ChatOpenAI
from langchain.schema import AIMessage, HumanMessage, SystemMessage
import os
os.environ['OPENAI_API_KEY'] = '您的有效OpenAI API Key'
chat = ChatOpenAI(temperature=0)
response = chat.predict_messages([ 
  HumanMessage(content="What is AI?")
])
print(response)

你应该能看到类似如下输出：

content='AI, or Artificial Intelligence, refers to the simulation of human intelligence in machines that are programmed to think and learn like humans. It involves the development of computer systems capable of performing tasks that typically require human intelligence, such as speech recognition, decision-making, problem-solving, and language translation. AI can be categorized into two types: Narrow AI, which is designed for specific tasks, and General AI, which possesses the ability to understand, learn, and apply knowledge across various domains.' additional_kwargs={} example=False

通过以下代码我们查看一下 response 变量的类型：

response.__class__

可以看到，它是一个 AIMessage 类型的对象。

接下来我们使用 SystemMessage 指令来指定模型的行为。如下代码指定模型对AI一无所知，在回答AI相关问题时，回答I don't know。

response = chat.predict_messages([
  SystemMessage(content="You are a chatbot that knows nothing about AI. When you are asked about AI, you must say 'I don\'t know'"),
  HumanMessage(content="What is deep learning?")
])
print(response)

3个消息类
Langchain框架提供了三个消息类，分别是 AIMessage、HumanMessage 和 SystemMessage。它们对应了OpenAI聊天模型API支持的不同角色 assistant、user 和 system。请参考 OpenAI API文档 - Chat - Role。

总结

本节课程中，我们学习了模型的基本概念，LLM与聊天模型的差异，并基于 Langchain 实现了分别与OpenAI LLM和聊天模型的交互。

学习链接

更多学习内容，可以关注一下五里墩茶社大佬
https://space.bilibili.com/615957867?spm_id_from=333.337.0.0