Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

智星菠萝辅助!wpk系统是否存... 智星菠萝辅助!wpk系统是否存在作弊行为,智星菠萝辅助器(详细辅助2025版教程)1.智星菠萝辅助器...
透视好牌“wpk辅助器”竟然真... 透视好牌“wpk辅助器”竟然真的是有挂(辅助挂)详细辅助专业教程;1、上手简单,内置详细流程视频教学...
wpk透视脚本视频!fishp... wpk透视脚本视频!fishpoker透视,wepoker辅助器安装包(详细辅助我来教教你)1、we...
透视有挂“智星德州菠萝透视插件... 透视有挂“智星德州菠萝透视插件工具”切实是有挂(辅助挂)详细辅助高科技教程在进入辅助挂后,参与本局比...
wepoker免费透视脚本!w... wepoker免费透视脚本!wepoker-h5下载,wpk透视脚本视频(详细辅助德州教程);小薇(...
aapoker透视脚本!wep... aapoker透视脚本!wepoker辅助脚本,wpk辅助插件(详细辅助攻略教程);无聊就玩这款aa...
透视ai代打“aapoker辅... 透视ai代打“aapoker辅助包”总是存在有挂(辅助挂)详细辅助曝光教程;1. ai辅助创建新账号...
wepoker透视脚本下载!w... wepoker透视脚本下载!wepoker黑侠辅助器,hhpoker透视脚本(详细辅助靠谱教程);致...
透视安装“hhpoker辅助软... 透视安装“hhpoker辅助软件下载”切实是真的有挂(辅助挂)详细辅助透牌教程1、玩家可以在软件透明...
wepoker免费永久脚本!p... wepoker免费永久脚本!pokerrrr2辅助,wpk辅助ai(详细辅助透明教程);人气非常高,...