Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

在玩家背景下!wepoker透... 在玩家背景下!wepoker透视有用吗,wepoker破解器激活码,原来存在有挂(确实有挂)一、we...
复盘辅助挂!hhpoker的辅... 复盘辅助挂!hhpoker的辅助是真的吗,aapoker怎么提高中牌率,确实真的是有挂(确实有挂)所...
黑科技插件!wepoker提高... 黑科技插件!wepoker提高好牌率,wepoker私人局规律,一直存在有挂(有挂方法)1、wepo...
现就发布提示!德扑HHpoke... 现就发布提示!德扑HHpoker有挂吗,德普之星透视辅助,都是是真的有挂(有挂透明挂)1)德普之星透...
最新消息!werplan免费挂... 最新消息!werplan免费挂下载,hhpoker有没有作弊挂,本来存在有挂(有挂详细)1、玩家可以...
据通报!wepoker透视有用... 据通报!wepoker透视有用吗,德普之星透视软件免费入口官网,总是存在有挂(有挂猫腻)1、下载好德...
于此同时!红龙poker辅助平... 于此同时!红龙poker辅助平台,pokemomo辅助工具,总是存在有挂(有挂分享)1)红龙poke...
网友热议!wepoker软件辅... 网友热议!wepoker软件辅助程序,wepoker有什么规律,原来是有挂(有挂方式)小薇(辅助器软...
据相关数据显示!hhpoker... 据相关数据显示!hhpoker有没有作弊挂,来玩德州破解器,切实是有挂(确实有挂)在进入hhpoke...
昨日!wepoker怎么看牌型... 昨日!wepoker怎么看牌型,hhpoker有没有作弊辅助,果然是真的有挂(有挂教程)hhpoke...