Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

推荐一款“德扑之星专业代打”外... 推荐一款“德扑之星专业代打”外挂透明挂辅助挂(从来真的是有挂)-哔哩哔哩是一款可以让一直输的玩家,快...
一分钟揭秘“wepoke辅助透... 一分钟揭秘“wepoke辅助透”外挂透明挂辅助app(本来真的有挂)-哔哩哔哩;玩家必备必赢加哟《1...
玩家必看科普“wepoke辅助... 玩家必看科普“wepoke辅助技巧”外挂透明挂辅助插件(原先是有挂)-哔哩哔哩;科技详细教程威信《1...
一分钟了解“德扑之星作弊”外挂... 大家肯定在之前德扑之星作弊或者德扑之星作弊中玩过一分钟了解“德扑之星作弊”外挂透明挂辅助插件(一向存...
黑科技系统!轰趴大菠萝十三水有... 黑科技系统!轰趴大菠萝十三水有外挂(软件透明挂)太坑了原来存在有挂(2023已更新)(哔哩哔哩);1...
安装程序教程“wepower系... wepower系统规律赢率提升策略‌;安装程序教程“wepower系统规律”外挂透明挂辅助脚本(先前...
重大通报“创思维激k透视多少钱... 重大通报“创思维激k透视多少钱一个”太夸张了透视辅助开挂AA德州教程-总是是真的有挂1、进入到创思维...
透视能赢“wepoker透视脚... 透视能赢“wepoker透视脚本免费app”详细透视辅助开挂微扑克教程-好像存在有挂1、wepoke...
黑科技数据!wpk微扑克模拟器... 黑科技数据!wpk微扑克模拟器(智能ai)太嚣张了一贯真的有挂(2024已更新)(哔哩哔哩)1、在w...
带你了解“哈糖大菠萝切牌规律”... 带你了解“哈糖大菠萝切牌规律”外挂透明挂辅助软件(本来有挂)-哔哩哔哩是由北京得哈糖大菠萝切牌规律黑...