Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

透视解密!德州辅助工具到底怎么... 透视解密!德州辅助工具到底怎么样,红龙poker作弊指令-本来真的是有辅助神器(哔哩哔哩)1、超多福...
透视解谜!wepoker私人局... 透视解谜!wepoker私人局怎么玩,wepoker买脚本靠谱吗-确实真的有辅助攻略(哔哩哔哩)所有...
透视解密!约局吧德州可以透视吗... 透视解密!约局吧德州可以透视吗,aa poker辅助-果然真的有辅助攻略(哔哩哔哩)1、透视解密!约...
透视普及!wpk俱乐部是真的吗... 透视普及!wpk俱乐部是真的吗,wpk真吗-原来真的有辅助技巧(哔哩哔哩)进入游戏-大厅左侧-新手福...
透视解密!wepoker作弊视... 透视解密!wepoker作弊视频,wepoker怎么挂底牌-其实有辅助app(哔哩哔哩)1、操作简单...
透视科普!德普软件,德普之星透... 透视科普!德普软件,德普之星透视辅助软件是真的吗-总是一直总是有辅助插件(哔哩哔哩)1、许多玩家不知...
透视有挂!wepoker俱乐部... 透视有挂!wepoker俱乐部辅助,wepoker免费脚本咨询-确实有辅助脚本(哔哩哔哩)进入游戏-...
透视揭露!wpk辅助哪里买,w... 透视揭露!wpk辅助哪里买,wpk辅助购买-切实是有辅助软件(哔哩哔哩)1、进入到是否有挂之后,能看...
透视辅助!约局吧辅助器,来玩a... 透视辅助!约局吧辅助器,来玩app破解-真是真的有辅助插件(哔哩哔哩)1、约局吧辅助器破解器简单,约...
透视揭幕!agpoker辅助,... 透视揭幕!agpoker辅助,智星德州插件怎么下载-好像一直都是有辅助插件(哔哩哔哩)1、游戏颠覆性...