Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

黑科技辅助(智星菠萝德州工具)... 黑科技辅助(智星菠萝德州工具)外挂透明挂辅助插件(透视)原先是有挂(2026已更新)(哔哩哔哩);最...
程序员教你!多乐跑得快私人场可... 程序员教你!多乐跑得快私人场可以拿好牌(辅助挂)一直真的是有挂(有挂攻略)-哔哩哔哩;是一款可以让一...
推荐攻略(Wepoke教学)从... 推荐攻略(Wepoke教学)从前真的是有挂(透视)一贯是真的有挂(有挂技巧)-哔哩哔哩;1、这是跨平...
黑科技辅助(悟空黑桃a有ai)... 您好:悟空黑桃a有ai这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户的牌...
专业讨论!微信欢乐麻将好友房有... 专业讨论!微信欢乐麻将好友房有挂(辅助挂)真是真的是有挂(确实有挂)-哔哩哔哩;玩家必备微信欢乐麻将...
实测教程(WePoKe轻量版)... 实测教程(WePoKe轻量版)其实是有挂(透视)一直真的有挂(真是有挂)-哔哩哔哩;1、这是跨平台的...
黑科技辅助(WePoKe手机)... 黑科技辅助(WePoKe手机)外挂透明挂辅助插件(透视)好像有挂(2026已更新)(哔哩哔哩);一、...
终于懂了!八闽十三水有外挂(辅... 终于懂了!八闽十三水有外挂(辅助挂)都是真的有挂(有挂透明挂)-哔哩哔哩;作为八闽十三水有外挂系统规...
实测交流(线上德州ai工具)其... 实测交流(线上德州ai工具)其实存在有挂(透视)竟然真的有挂(有挂神器)-哔哩哔哩;超受欢迎的线上德...
黑科技辅助(红龙扑克辅助器)外... 您好,红龙扑克辅助器这款游戏可以开挂的,确实是有挂的,需要了解加微【485275054】很多玩家在这...