Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

专业讨论!德扑线上有机器人,太... 专业讨论!德扑线上有机器人,太坑了从来存在有挂(2020已更新)(哔哩哔哩);详细德扑线上有机器人攻...
带你了解!微扑克线上代打工具,... 带你了解!微扑克线上代打工具,太坑了本然是有挂(2024已更新)(哔哩哔哩);微扑克线上代打工具简单...
六分钟了解!德州ai辅助神器靠... 六分钟了解!德州ai辅助神器靠谱,太坑了起初真的是有挂(2022已更新)(哔哩哔哩);1、超多福利:...
玩家必看科普!德扑数据软件,太... 玩家必看科普!德扑数据软件,太坑了最初是真的有挂(2024已更新)(哔哩哔哩);致您一封信;亲爱德扑...
最新技巧!微扑克网页版辅助,太... 最新技巧!微扑克网页版辅助,太坑了好像真的有挂(2023已更新)(哔哩哔哩);微扑克网页版辅助简单的...
必知教程!德扑之星窥牌,太坑了... 必知教程!德扑之星窥牌,太坑了确实真的是有挂(2026已更新)(哔哩哔哩);1、让任何用户在无需AI...
第三方辅助挂!wopoker用... 第三方辅助挂!wopoker用ai有用,太坑了从前真的有挂(2025已更新)(哔哩哔哩);一、wop...
玩家必知教程!微扑克后台能控制... 玩家必知教程!微扑克后台能控制胜率,太坑了总是真的有挂(2023已更新)(哔哩哔哩);AI辅助机器人...
实测必看!微扑克ai辅助神器,... 实测必看!微扑克ai辅助神器,太坑了原来真的有挂(2024已更新)(哔哩哔哩);1.微扑克ai辅助神...
黑科技免费!德州辅助,太坑了从... 黑科技免费!德州辅助,太坑了从来是真的有挂(2026已更新)(哔哩哔哩)相信很多朋友都在电脑上玩过德...