Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

解谜透视!拱趴大菠萝万能挂!都... 解谜透视!拱趴大菠萝万能挂!都是有辅助脚本(有挂解密)-哔哩哔哩1、在拱趴大菠萝万能挂插件功能辅助器...
免费测试版!玉海楼辅助器,we... 免费测试版!玉海楼辅助器,wepoker有透视功能吗,法门教程(竟然有挂)-哔哩哔哩1、下载好玉海楼...
科普透视!we poker免费... 科普透视!we poker免费辅助器,德州透视hhpoker,妙招教程(今日头条)-哔哩哔哩1、we...
总结透视!约局吧app有挂吗!... 总结透视!约局吧app有挂吗!确实存在有辅助神器(有挂细节)-哔哩哔哩1、约局吧app有挂吗公共底牌...
实测发现!衢州都莱辅助器,hh... 实测发现!衢州都莱辅助器,hhpoker免费透视脚本,手筋教程(有挂解密)-哔哩哔哩衢州都莱辅助器是...
有挂透视!wpk德州局透视,w... 有挂透视!wpk德州局透视,wepoker有没有透视方法,大纲教程(有人有挂)-哔哩哔哩1)wepo...
解谜透视!sohoopoker... 解谜透视!sohoopoker辅助!一贯一直总是有辅助软件(今日头条)-哔哩哔哩1、许多玩家不知道s...
2分钟细说!钱塘十水三辅助,w... 2分钟细说!钱塘十水三辅助,wepoker透视有用吗,练习教程(有挂细节)-哔哩哔哩1)钱塘十水三辅...
有挂透视!hhpoker辅助器... 有挂透视!hhpoker辅助器视频,pokemomo辅助工具,学习教程(详细教程)-哔哩哔哩1)hh...
有挂透视!菠萝辅助器免费版的特... 有挂透视!菠萝辅助器免费版的特点!一贯真的有辅助app(有挂头条)-哔哩哔哩;菠萝辅助器免费版的特点...