Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

一分钟指引!点星休闲辅助器下载... 一分钟指引!点星休闲辅助器下载(脚本)其实真的有辅助工具(哔哩哔哩)1、每一步都需要思考,不同水平的...
九分钟绝活儿!丫丫辅助器(脚本... 九分钟绝活儿!丫丫辅助器(脚本)切实是真的有辅助工具(哔哩哔哩)一、丫丫辅助器可以开透视的定义与意义...
九分钟指南!湖南赣湘互娱辅助(... 九分钟指南!湖南赣湘互娱辅助(脚本)切实一直总是有辅助工具(哔哩哔哩)所有人都在同一条线上,像星星一...
1分钟模块!情怀怎么开挂(脚本... 1分钟模块!情怀怎么开挂(脚本)都是真的有辅助神器(哔哩哔哩)亲,关键说明,情怀怎么开挂透视脚本安卓...
第7分钟资料!混沌休闲有没有挂... 第7分钟资料!混沌休闲有没有挂(脚本)其实一直总是有辅助脚本(哔哩哔哩)运混沌休闲有没有挂辅助工具,...
4分钟诀窍!抚州辅助器中至小程... 4分钟诀窍!抚州辅助器中至小程序(脚本)果然真的有辅助技巧(哔哩哔哩)1、全新机制【抚州辅助器中至小...
十分钟指南书!上游指尖四川修改... 十分钟指南书!上游指尖四川修改(脚本)一贯一直都是有辅助工具(哔哩哔哩)上游指尖四川修改脚本下载中分...
9分钟教程书!雀友会广东潮汕b... 9分钟教程书!雀友会广东潮汕bus(脚本)确实存在有辅助神器(哔哩哔哩)1、雀友会广东潮汕bus公共...
第5分钟指南!广西八一字牌可以... 第5分钟指南!广西八一字牌可以破解吗(脚本)切实一直总是有辅助脚本(哔哩哔哩)1、广西八一字牌可以破...
3分钟秘籍!海贝之城辅助(脚本... 3分钟秘籍!海贝之城辅助(脚本)都是一直总是有辅助app(哔哩哔哩)亲,关键说明,海贝之城辅助透视脚...