Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

分享开挂内幕!德扑之星怎么清楚... 分享开挂内幕!德扑之星怎么清楚数据(透视)外挂透明挂辅助神器(2025已更新)(哔哩哔哩)1、这是跨...
重大通报!(聚星扑克德州)微扑... 重大通报!(聚星扑克德州)微扑克辅助软件下载(2022已更新)(哔哩哔哩)1、让任何用户在无需微扑克...
黑科技免费!impoker德州... 黑科技免费!impoker德州外挂(透视)切实有挂(2025已更新)(哔哩哔哩);1、impoker...
今日焦点!微扑克如何让系统发好... 今日焦点!微扑克如何让系统发好牌(透视)外挂透明挂辅助app(2023已更新)(哔哩哔哩)1、每一步...
教程辅助(扑克王)wepoke... 一、wepoke辅助有挂吗简介了解软件请加微:136704302wepoke辅助有挂吗是一款在线扑克...
黑科技ai代打!aapoker... 黑科技ai代打!aapoker辅助实际测试(透视)都是是真的有挂(2022已更新)(哔哩哔哩)亲,关...
玩家必备攻略!wepokeai... 玩家必备攻略!wepokeai代打逻辑(透视)外挂透明挂辅助神器(2026已更新)(哔哩哔哩)1、w...
分享一款!(Wpk)wepok... 自定义wepoke辅助真的假的系统规律,只需要输入自己想要的开挂功能,一键便可以生成出微扑克专用辅助...
黑科技模拟器!红龙扑克辅助器(... 黑科技模拟器!红龙扑克辅助器(透视)好像存在有挂(2023已更新)(哔哩哔哩)进入游戏-大厅左侧-新...
黑科技讲解!来玩德州有外挂吗(... 黑科技讲解!来玩德州有外挂吗(透视)外挂透明挂辅助神器(2020已更新)(哔哩哔哩)1、让任何用户在...