Langchain 对pdf,word,txt等不同文件的加载解析
创始人
2024-12-27 01:35:45
0

项目中遇到各种数据资源想要加载近langchain构建本地知识ai系统,怎么加载对应的文件格式呢,一起研究下

引入Langchain

from langchain.document_loaders import UnstructuredWordDocumentLoader,PyPDFium2Loader,DirectoryLoader,PyPDFLoader,TextLoader import os

pdf文件加载

def load_pdf(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".pdf"):             print(filename)             # print the file name             loader = PyPDFium2Loader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())     return data

word文档加载如,doc或者docx格式

def load_word(directory_path):     data = []     for filename in os.listdir(directory_path):         # check if the file is a doc or docx file         # 检查所有doc以及docx后缀的文件         if filename.endswith(".doc") or filename.endswith(".docx"):             # langchain自带功能,加载word文档             loader = UnstructuredWordDocumentLoader(f'{directory_path}/{filename}')             data.append(loader.load())      return data

txt加载

def load_txt(directory_path):     data = []     for filename in os.listdir(directory_path):         if filename.endswith(".txt"):             print(filename)             loader = TextLoader(f'{directory_path}/{filename}')             print(loader)             data.append(loader.load())      return data

上述中常见的文档格式基本上都可以加载进去了,主要就是不同格式对应不同的加载方式,如果想简单也可以直接加载目录

def load_docs(directory):     loader = DirectoryLoader(directory)     documents = loader.load()     return documents

相关内容

热门资讯

教你了解!微乐兰州麻将小程序辅... 教你了解!微乐兰州麻将小程序辅助(辅助)悦享山东总是是真的辅助软件(哔哩哔哩)1、操作简单,无需微乐...
透视挂透视!wepoker私人... 透视挂透视!wepoker私人局辅助(透视)逗娱科技碰胡辅助(其实是真的辅助安装)-哔哩哔哩1、进入...
透视好友!wepoker辅助透... 透视好友!wepoker辅助透视软件(透视)微乐小程序黑科技app入口(切实是有辅助神器)-哔哩哔哩...
透视游戏!pokemmo脚本辅... 透视游戏!pokemmo脚本辅助(透视)小唐家乐园辅助器下载链接(原来真的有辅助下载)-哔哩哔哩1、...
透视了解!丽水都莱辅助(辅助)... 透视了解!丽水都莱辅助(辅助)空谷幽兰确实存在有辅助平台(哔哩哔哩)1、不需要AI权限,帮助你快速的...
据了解!hhpkoer辅助器(... 据了解!hhpkoer辅助器(透视)微乐小程序自建房辅助(本来存在有辅助教程)-哔哩哔哩1、在hhp...
近期!wpk俱乐部辅助器(透视... 近期!wpk俱乐部辅助器(透视)中至九江麻将辅助器(总是有辅助辅助器)-哔哩哔哩1、中至九江麻将辅助...
有挂了解!潮汕暗宝透视插件(辅... 有挂了解!潮汕暗宝透视插件(辅助)熟人炸金花好像存在有辅助插件(哔哩哔哩)所有人都在同一条线上,像星...
透视辅助!hhpoker真的假... 透视辅助!hhpoker真的假的(透视)微乐小程序辅助收费(真是有辅助工具)-哔哩哔哩1、下载好hh...
透视玄学!we-poker软件... 透视玄学!we-poker软件(透视)欢乐达人葫芦鱼辅助器(真是是有辅助修改器)-哔哩哔哩1、进入到...