Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

最新技巧!wejoker黑侠辅... 最新技巧!wejoker黑侠辅助器(辅助挂)一直真的是有挂(有挂解密)1、许多玩家不知道wejoke...
推荐十款!阿拉斗牌辅助,战神辅... 推荐十款!阿拉斗牌辅助,战神辅助发卡官网-原来真的有辅助插件(有挂透视)1、阿拉斗牌辅助透视辅助软件...
实测揭晓!德州机器人代打脚本(... 实测揭晓!德州机器人代打脚本(辅助挂)原来有挂(有挂功能)1、不需要AI权限,帮助你快速的进行德州机...
最新技巧!四川长牌皮皮游戏挂,... 最新技巧!四川长牌皮皮游戏挂,新天道破解版-一直是有辅助教程(有挂猫腻)1、让任何用户在无需四川长牌...
玩家必看分享!hhpoker可... 玩家必看分享!hhpoker可以控制牌吗(辅助挂)确实真的有挂(有挂分析)1、hhpoker可以控制...
分辨真假!微乐河南麻将辅助io... 分辨真假!微乐河南麻将辅助ios,随意玩辅助器视频-一直是真的有辅助脚本(有挂攻略)1、许多玩家不知...
普及知识!wepoker手机版... 普及知识!wepoker手机版辅助(辅助挂)确实是真的有挂(有挂方法)1、wepoker手机版辅助破...
教学盘点!闲逸辅助软件,河洛杠... 教学盘点!闲逸辅助软件,河洛杠次插件-都是是有辅助攻略(确实有挂)1、用户打开应用后不用登录就可以直...
实测必看!WePOker有没有... 实测必看!WePOker有没有透视方法(辅助挂)一直是有挂(确实有挂)1、玩家可以在WePOker有...
每日必看推荐!超级三加一辅助,... 每日必看推荐!超级三加一辅助,休闲九九破解版-竟然有辅助软件(有挂工具)1、超级三加一辅助有没有辅助...