Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

透视方式!菠萝德州透视脚本,约... 透视方式!菠萝德州透视脚本,约局吧透视挂下载(透视)其实真的有脚本方法(哔哩哔哩)约局吧透视挂下载辅...
透视指南!德普之星辅助器app... 透视指南!德普之星辅助器app,德扑之心免费透视(透视)一贯真的有脚本攻略(哔哩哔哩)1、下载好德扑...
透视技法!hhpoker辅助软... 透视技法!hhpoker辅助软件,德州局HHpoker透视脚本(透视)一贯真的有透视技巧(哔哩哔哩)...
透视指引!aa poker透视... 透视指引!aa poker透视软件,aapoker发牌逻辑(透视)原来有脚本技巧(哔哩哔哩)所有人都...
透视法门!aapoker ai... 透视法门!aapoker ai插件,aapoker免费透视脚本(透视)都是真的是有脚本神器(哔哩哔哩...
透视方案!wpk控制牌是真的吗... 透视方案!wpk控制牌是真的吗,wpk作必弊(透视)一贯是真的透视方法(哔哩哔哩)1、wpk控制牌是...
透视课程!aapoker怎么提... 透视课程!aapoker怎么提高中牌率,aapoker插件(透视)原来真的是有脚本方法(哔哩哔哩)1...
透视阶段!wpk可以作必弊吗,... 透视阶段!wpk可以作必弊吗,wpk安卓下载辅助(透视)原来是有脚本工具(哔哩哔哩)1、不需要AI权...
透视妙招!hhpoker是真的... 透视妙招!hhpoker是真的假的,hhpoker辅助软件(透视)其实有透视方法(哔哩哔哩)hhpo...
透视妙招!aapoker脚本,... 透视妙招!aapoker脚本,aapoker透视方法(透视)真是存在有脚本技巧(哔哩哔哩)aapok...