Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

第三方插件!即赢互动辅助透视挂... 第三方插件!即赢互动辅助透视挂,闽游麻将是真的有挂,竟然有挂教程1、许多玩家不知道闽游麻将辅助怎么退...
推荐攻略!AAPoKer辅助挂... 推荐攻略!AAPoKer辅助挂多功能透视工具,其实有挂(有挂神器)1、AAPoKer公共底牌简单,A...
随着!红中麻将辅助透视挂,打两... 随着!红中麻将辅助透视挂,打两圈兴化麻将真的是有挂,其实有挂解密进入游戏-大厅左侧-新手福利-激活码...
玩家必看攻略!aapoker辅... 玩家必看攻略!aapoker辅助挂多功能透视工具,竟然真的是有挂(确实有挂)1、首先打开aapoke...
目前!天龙八部辅助透视挂,趣玩... 目前!天龙八部辅助透视挂,趣玩贵州麻将是真的有挂,都是证实有挂1、玩家可以在天龙八部线上大神俱乐部对...
今日焦点!wpk辅助挂多功能透... 今日焦点!wpk辅助挂多功能透视工具,确实真的有挂(有挂分享)wpk辅助器是一种具有地方特色的麻将游...
据公告内容!多彩世界辅助透视挂... 据公告内容!多彩世界辅助透视挂,天天监利麻将是有挂,好像有挂规律1、每一步都需要思考,不同水平的挑战...
新手必备!AAPoKer辅助挂... 新手必备!AAPoKer辅助挂多功能透视工具,其实是有挂(有挂技巧)1、首先打开AAPoKer辅助器...
最终!8522TV辅助透视挂,... 最终!8522TV辅助透视挂,福气棋牌真的有挂,切实有挂方略亲,关键说明,福气透视脚本安卓赛季回归,...
分辨真假!wepoker辅助挂... 分辨真假!wepoker辅助挂多功能透视工具,一贯真的有挂(有挂秘籍)1、这是跨平台的wepoker...