Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

黑科技模拟器(鱼扑克)轰趴大菠... 黑科技模拟器(鱼扑克)轰趴大菠萝十三水切实存在有挂!太夸张了本来是真的有挂(2024已更新)(哔哩哔...
第3分钟了解!wpkai辅助实... 第3分钟了解!wpkai辅助实战效果,越乡游义乌辅助器下载,安装教程(确实有挂)-哔哩哔哩1、很好的...
黑科技中牌率(扑克时间)微扑克... 1、黑科技中牌率(扑克时间)微扑克机器人切实是有挂!太实锤了其实是真的有挂(2023已更新)(哔哩哔...
2分钟了解!微扑克必胜技巧,越... 2分钟了解!微扑克必胜技巧,越乡游斗牛怎么开挂,我来教教你(证实有挂)-哔哩哔哩1、用户打开应用后不...
黑科技科技(Wepoke盈利)... 1、黑科技科技(Wepoke盈利)poker总是是有挂!太夸张了原生有挂(2026已更新)(哔哩哔哩...
2分钟了解!微扑克ai辅助器,... 2分钟了解!微扑克ai辅助器,闲逸棋牌挂,扑克教程(有挂技巧)-哔哩哔哩1、这是跨平台的闲逸棋牌挂黑...
黑科技实锤(德扑之星刷数据)w... 《黑科技实锤(德扑之星刷数据)wpk德州扑克都是真的是有挂!太离谱了原来有挂(2026已更新)(哔哩...
第9分钟了解!wpk智能ai,... 第9分钟了解!wpk智能ai,吉祥麻将跑得快怎么拿好牌,德州论坛(果真有挂)-哔哩哔哩;1、吉祥麻将...
黑科技好牌(德扑查数据)aap... aapoKER新手教程相关信息汇总(需添加指定威信136704302获取下载链接);黑科技好牌(德扑...
7分钟了解!微扑克有辅助挂吗,... 7分钟了解!微扑克有辅助挂吗,波特互娱有挂吗,AI教程(有挂教学)-哔哩哔哩;进入游戏-大厅左侧-新...