Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

黑科技规律(wepoke真的有... 黑科技规律(wepoke真的有挂吗)外挂透明挂辅助工具(透视)竟然是有挂(真的有挂)-哔哩哔哩小薇(...
黑科技好友(wpk微扑克)外挂... 黑科技好友(wpk微扑克)外挂透明挂辅助助手(透视)一贯是真的有挂(有挂方针)-哔哩哔哩1、上手简单...
黑科技智能ai!wopoker... 黑科技智能ai!wopoker用ai有用吗(透视)爆料教程(2025已更新)(哔哩哔哩)1、操作简单...
免费测试版!微扑克代打是真的吗... 免费测试版!微扑克代打是真的吗(黑科技)外挂透明黑科技辅助助手(有挂工具)-哔哩哔哩1、任何德州ai...
黑科技ai代打(来玩app辅助... 黑科技ai代打(来玩app辅助)外挂透明挂辅助挂(透视)本来有挂(了解有挂)-哔哩哔哩来玩app辅助...
黑科技模拟器(wpk开挂)外挂... 黑科技模拟器(wpk开挂)外挂透明挂辅助助手(黑科技ai)切实有挂(真的有挂)-哔哩哔哩1、wpk开...
黑科技脚本!aapoker有外... 黑科技脚本!aapoker有外挂吗(透视)规律教程(2024已更新)(哔哩哔哩)1、超多福利:超高返...
详细说明!云扑克有没有辅助软件... 详细说明!云扑克有没有辅助软件(黑科技)外挂透明挂辅助挂(有挂细节)-哔哩哔哩1.云扑克有没有辅助软...
黑科技模拟器(wepoke是不... 黑科技模拟器(wepoke是不是有挂)外挂透明挂辅助app(透视)本来存在有挂(有挂方针)-哔哩哔哩...
黑科技智能ai(最新版wpk)... 黑科技智能ai(最新版wpk)外挂透明挂辅助器(ai辅助)果然真的是有挂(有挂详细)-哔哩哔哩暗藏猫...