Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

总算明白!wepoker辅助软... 总算明白!wepoker辅助软件价格,拱趴大菠萝辅助神器(透视)果然有开挂辅助下载(有开挂分享);1...
玩家必看科普!上饶打炸祈福(辅... 玩家必看科普!上饶打炸祈福(辅助挂)真是有开挂辅助软件(有挂解惑)1)上饶打炸祈福辅助挂:进一步探索...
分享一款!川南九九辅助(辅助挂... 分享一款!川南九九辅助(辅助挂)切实有开挂辅助下载(有挂分析);小薇(透视辅助)致您一封信;亲爱川南...
透视透视!微信小程序微乐房间透... 透视透视!微信小程序微乐房间透视,广东神雀破解器,辅助教程(有挂透视);透视透视!微信小程序微乐房间...
一分钟教你!aapoker怎么... 一分钟教你!aapoker怎么设置抽水,wepoker怎么开辅助(透视)从前有开挂辅助挂(有开挂技巧...
科技通报!新二号辅助下载(辅助... 科技通报!新二号辅助下载(辅助挂)本来有开挂辅助挂(有挂方法)1、新二号辅助下载ai辅助优化,新二号...
9分钟了解!福建天天开心辅助真... 9分钟了解!福建天天开心辅助真是性(辅助挂)都是有开挂辅助软件(存在有挂)是一款可以让一直输的玩家,...
我来分享!微乐游戏小程序辅助器... 我来分享!微乐游戏小程序辅助器免费苹果版,如何判断广东雀神插件真伪,微扑克教程(有挂分析)是一款可以...
重大推荐!开心赢三张自建房有挂... 重大推荐!开心赢三张自建房有挂吗(辅助挂)竟然有开挂辅助平台(竟然有挂)1、点击下载安装,开心赢三张...
教程攻略!红龙poker有辅助... 教程攻略!红龙poker有辅助吗,大菠萝免费辅助(透视)总是有开挂辅助软件(有开挂工具);最新版本免...