网站建设方案计划书,2015做网站前景,wordpress入門,编程软件排行榜前十名ChatGPT 所取得的巨大成功#xff0c;使得越来越多的开发者希望利用 OpenAI 提供的 API 或私有化模型开发基于大语言模型的应用程序。然而#xff0c;即使大语言模型的调用相对简单#xff0c;仍需要完成大量的定制开发工作#xff0c;包括 API 集成、交互逻辑、数据存储等…ChatGPT 所取得的巨大成功使得越来越多的开发者希望利用 OpenAI 提供的 API 或私有化模型开发基于大语言模型的应用程序。然而即使大语言模型的调用相对简单仍需要完成大量的定制开发工作包括 API 集成、交互逻辑、数据存储等。 为了解决这个问题从 2022 年开始多家机构和个人陆续推出了大量开源项目帮助开发者快速创建基于大语言模型的端到端应用程序或流程其中较为著名的是 LangChain 框架。
LangChain 框架是一种利用大语言模型的能力开发各种下游应用的开源框架旨在为各种大语言模型应用提供通用接口简化大语言模型应用的开发难度。它可以实现数据感知和环境交互即能够使语言模型与其他数据源连接起来并允许语言模型与其环境进行交互。本文将重点介绍 LangChain 框架的核心模块以及使用 LangChain 框架搭建知识库问答系统的实践。
LangChain 框架核心模块
使用 LangChain 框架的核心目标是连接多种大语言模型如 ChatGPT、LLaMA 等和外部资源如 Google、Wikipedia、Notion 及 Wolfram 等提供抽象组件和工具以在文本输入和输出之间进行接口处理。大语言模型和组件通过“链Chain”连接使得开发人员可以快速开发原型系统和应用程序。LangChain 的主要价值体现在以下几个方面。
组件化
LangChain 框架提供了用于处理大语言模型的抽象组件以及每个抽象组件的一系列实现。这些组件具有模块化设计易于使用无论是否使用 LangChain 框架的其他部分都可以方便地使用这些组件。
现成的链式组装
LangChain 框架提供了一些现成的链式组装用于完成特定的高级任务。这些现成的链式组装使得入门变得更加容易。对于更复杂的应用程序LangChain 框架也支持自定义现有链式组装或构建新的链式组装。
简化开发难度
通过提供组件化和现成的链式组装LangChain 框架可以大大简化大语言模型应用的开发难度。开发人员可以更专注于业务逻辑而无须花费大量时间和精力处理底层技术细节。
LangChain 提供了以下 6 种标准化、可扩展的接口并且可以外部集成模型输入 / 输出Model I/O与大语言模型交互的接口数据连接Data connection与特定应用程序的数据进行交互的接口链Chain用于复杂应用的调用序列记忆Memory用于在链的多次运行之间持久化应用程序状态智能体Agent语言模型作为推理器决定要执行的动作序列回调Callback用于记录和流式传输任何链式组装的中间步骤。
知识库问答系统实践
大语言模型虽然可以很好地回答很多领域的各种问题但是由于其知识是通过语言模型训练及指令微调等方式注入模型参数中的因此针对本地知识库中的内容大语言模型很难通过此前的方式有效地进行学习。通过 LangChain 框架可以有效地融合本地知识库内容与大语言模型的知识问答能力。
基于 LangChain 的知识库问答系统框架如下图所示。 知识库问答系统的工作流程主要包含以下几个步骤。
1收集领域知识数据构造知识库这些数据应当能够尽可能地全面覆盖问答需求。
2对知识库中的非结构数据进行文本提取和文本分割得到文本块。
3利用嵌入向量表示模型给出文本块的嵌入表示并利用向量数据库进行保存。
4根据用户输入信息的嵌入表示通过向量数据库检索得到最相关的文本片段将提示词模板与用户提交问题及历史消息合并输入大语言模型。
5将大语言模型结果返回给用户。
上述过程的代码示例如下
from langchain.document_loaders import DirectoryLoader
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.text_splitter import CharacterTextSplitter
from langchain.vectorstores import Chroma
from langchain.chains import ChatVectorDBChain, ConversationalRetrievalChain
from langchain.chat_models import ChatOpenAI
from langchain.chains import RetrievalQA # 从本地读取相关数据
loader DirectoryLoader(./Langchain/KnowledgeBase/, glob**/*.pdf, show_progressTrue
)
docs loader.load()# 将文本进行分割
text_splitter CharacterTextSplitter(chunk_size1000, chunk_overlap0
)
docs_split text_splitter.split_documents(docs)# 初始化 OpenAI Embeddings
embeddings OpenAIEmbeddings()# 将数据存入 Chroma 向量存储
vector_store Chroma.from_documents(docs, embeddings)
# 初始化检索器使用向量存储
retriever vector_store.as_retriever()system_template
Use the following pieces of context to answer the users question.
If you dont know the answer, just say that you dont know, dont try to make up an answer.
Answering these questions in Chinese.
-----------
{question}
-----------
{chat_history}
# 构建初始消息列表
messages [
SystemMessagePromptTemplate.from_template(system_template),
HumanMessagePromptTemplate.from_template({question})
]# 初始化 Prompt 对象
prompt ChatPromptTemplate.from_messages(messages)# 初始化大语言模型使用 OpenAI APIllmChatOpenAI(temperature0.1, max_tokens2048)# 初始化问答链qa Conversational
RetrievalChain.from_llm(llm,retriever,condense_question_promptprompt)chat_history []while True: question input( 问题) # 开始发送问题 chat_history 为必须参数用于存储历史消息
result qa({question: question,
chat_history: chat_history})chat_history.append((question, result[answer]))
print(result[answer])
如何学习AI大模型
作为一名热心肠的互联网老兵我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】 一、全套AGI大模型学习路线
AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能 二、640套AI大模型报告合集
这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。 三、AI大模型经典PDF籍
随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。 四、AI大模型商业化落地方案 作为普通人入局大模型时代需要持续学习和实践不断提高自己的技能和认知水平同时也需要有责任感和伦理意识为人工智能的健康发展贡献力量。
