Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

大家学习交流!红龙poker辅... 大家学习交流!红龙poker辅助挂多功能透视工具,真是有挂(有挂规律)运红龙poker辅助工具,进入...
26年最新开挂版!武林外传辅助... 26年最新开挂版!武林外传辅助透视挂,天天爱泰州麻将真的是有外挂,总是有挂技巧武林外传破解侠是真的助...
重大通报!微扑克辅助挂多功能透... 重大通报!微扑克辅助挂多功能透视工具,真是存在有挂(存在有挂)1、下载好微扑克正确养号方法之后点击打...
26年最新开挂版!欢乐达人辅助... 26年最新开挂版!欢乐达人辅助透视挂,朱雀吴江三缺一存在有外挂,切实了解有挂欢乐达人破解侠是真的助透...
记者揭秘!智星菠萝德州辅助挂多... 记者揭秘!智星菠萝德州辅助挂多功能透视工具,原来存在有挂(有挂分析)1、点击下载安装,智星菠萝德州脚...
26年最新开挂版!来几局app... 26年最新开挂版!来几局app辅助透视挂,全来跑风麻将是真的有外挂,一直有挂规律1、进入到来几局ap...
玩家必看科普!AAPoKer辅... 玩家必看科普!AAPoKer辅助挂多功能透视工具,本来真的有挂(有挂教程)1、下载好AAPoKer正...
26年最新开挂版!發财辅助透视... 26年最新开挂版!發财辅助透视挂,约战武汉麻将是真的有外挂,真是有挂实锤發财能透视中分为三种模型:發...
一分钟教会你!AAPoKer辅... 一分钟教会你!AAPoKer辅助挂多功能透视工具,都是有挂(有挂解惑)暗藏猫腻,小编详细说明AAPo...
26年最新开挂版!大圣链接辅助... 26年最新开挂版!大圣链接辅助透视挂,逍遥麻将是真的有外挂,原来有挂神器1、大圣链接公共底牌简单,大...