多人同时导出 Excel 干崩服务器?我们来实现一个排队导出功能!
创始人
2024-11-06 16:38:41
0

考虑到数据库数据日渐增多,导出会有全量数据的导出,多人同时导出可以会对服务性能造成影响,导出涉及到mysql查询的io操作,还涉及文件输入、输出流的io操作,所以对服务器的性能会影响的比较大;

结合以上原因,对导出操作进行排队;

刚开始拿到这个需求,第一时间想到就是需要维护一个FIFO先进先出的队列,给定队列一个固定size,在队列里面的人进行排队进行数据导出,导出完成后立马出队列,下一个排队的人进行操作;

还考虑到异步,可能还需要建个文件导出表,主要记录文件的导出情况,文件的存放地址,用户根据文件列表情况下载导出文件。

业务关系定义

分别是用户、导出队列、导出执行方法

  • ExportQueue: 维护一条定长队列,可以获取队列里前后排队的用户,提供查询,队列如果已经满了,其余的人需要进行等待

  • User信息: 排队执行导出方法对应用户;

  • Export类: 定义导出方法,异步执行,用户可以通过导出页面查看、下载,导出的文件;

图片

具体代码实现

ExportQueue队列
package com.example.system.config;  import com.example.system.api.domain.ExportUser; import lombok.extern.slf4j.Slf4j; import org.springframework.stereotype.Component;  import java.util.LinkedList;  @Slf4j @Component public class ExportQueue {       private final int MAX_CAPACITY = 10; // 队列最大容量     private LinkedList queue; // 用户队列      public ExportQueue(LinkedList queue) {         this.queue = new LinkedList<>();     }      /**      * 排队队列添加      * @param sysUser      */     public synchronized LinkedList add(ExportUser sysUser) {         while (queue.size() >= MAX_CAPACITY) {             try {                 log.info("当前排队人已满,请等待");                 wait();             } catch (InterruptedException e) {                 e.getMessage();             }         }         queue.add(sysUser);         log.info("目前导出队列排队人数:" + queue.size());         notifyAll();         return queue;     }       /**      * 获取排队队列下一个人      * @return      */     public synchronized ExportUser getNextSysUser() {         while (queue.isEmpty()) {             try {                 wait();             } catch (InterruptedException e) {                 e.printStackTrace();             }         }         ExportUser sysUser = queue.remove();         notifyAll(); //唤醒         return sysUser;     } } 
AbstractExport导出类

引入EasyExcel百万级别的导出功能

package com.example.system.config;   import cn.hutool.core.bean.BeanUtil; import cn.hutool.core.util.PageUtil; import com.alibaba.excel.EasyExcel; import com.alibaba.excel.ExcelWriter; import com.alibaba.excel.write.metadata.WriteSheet; import com.example.system.api.domain.ExportUser; import lombok.extern.slf4j.Slf4j;  import javax.servlet.http.HttpServletResponse; import java.io.IOException; import java.net.URLEncoder; import java.util.List;  @Slf4j public abstract class AbstractExport {       public abstract void export(ExportUser sysUser) throws InterruptedException;      /**      * 导出      *      * @param response 输出流      * @param pageSize 每页大小      * @param t        导出条件      * @param k        Excel内容实体类      * @param fileName 文件名称      */     public void export(HttpServletResponse response, int pageSize, T t, Class k, String fileName) throws Exception {         ExcelWriter writer = null;         try {             writer = getExcelWriter(response, fileName);             //查询导出总条数             int total = this.countExport(t);             //页数             int loopCount = PageUtil.totalPage(total, pageSize);             BeanUtil.setProperty(t, "pageSize", pageSize);             for (int i = 0; i < loopCount; i++) {                 //开始页                 BeanUtil.setProperty(t, "pageNum", PageUtil.getStart(i + 1, pageSize));                 //获取Excel导出信息                 List kList = this.getExportDetail(t);                 WriteSheet writeSheet = EasyExcel.writerSheet(fileName).head(k).build();                 writer.write(kList, writeSheet);             }         } catch (Exception e) {             String msg = "导出" + fileName + "异常";             log.error(msg, e);             throw new Exception(msg + e);         } finally {             if (writer != null) {                 writer.finish();             }         }     }      public com.alibaba.excel.ExcelWriter getExcelWriter(HttpServletResponse response, String fileName) throws IOException {         response.setContentType("application/vnd.ms-excel");         response.setCharacterEncoding("utf-8");         // 这里URLEncoder.encode可以防止中文乱码 当然和easyexcel没有关系         String fileNameUtf = URLEncoder.encode(fileName, "UTF-8").replaceAll("\\+", "%20");         response.setHeader("Content-disposition", "attachment;filename*=utf-8''" + fileNameUtf + ".xlsx");         return EasyExcel.write(response.getOutputStream()).build();     }       /**      * (模版导出)      *      * @param t      * @param fileName      * @param response      */     public abstract void complexFillWithTable(T t, String fileName, HttpServletResponse response);      /**      * 查询导出总条数      *      * @param t      * @return      */     public abstract int countExport(T t);      /**      * 查询导出数据      *      * @param t      * @return      */     public abstract List getExportDetail(T t); } 
ExportImpl导出实现方法
package com.example.system.service.impl;  import com.alibaba.excel.ExcelWriter; import com.example.system.api.domain.ExportUser; import com.example.system.config.AbstractExport; import com.example.system.config.ExportQueue; import lombok.extern.slf4j.Slf4j; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Service;  import javax.servlet.http.HttpServletResponse; import java.io.IOException; import java.util.LinkedList; import java.util.List;  @Service @Slf4j public class ExportImpl extends AbstractExport {      @Autowired     private ExportQueue exportQueue;       @Override     public void export(ExportUser sysUser) throws InterruptedException {          //导出         log.info("导出文件方法执行~~~~~~~~~"); //        export(response,pageSize,t,k,fileName);         LinkedList queue = exportQueue.add(sysUser);         log.info("导出队列:" + queue);         //休眠时间稍微设置大点,模拟导出处理时间         Thread.sleep(20000);         //导出成功后移除当前导出用户         ExportUser nextSysUser = exportQueue.getNextSysUser();         log.info("移除后获取下一个排队的用户: " + nextSysUser.getUserName());      }       @Override     public void export(HttpServletResponse response, int pageSize, Object o, Class k, String fileName) throws Exception {         super.export(response, pageSize, o, k, fileName);     }      @Override     public ExcelWriter getExcelWriter(HttpServletResponse response, String fileName) throws IOException {         return super.getExcelWriter(response, fileName);     }      @Override     public void complexFillWithTable(Object o, String fileName, HttpServletResponse response) {      }      @Override     public int countExport(Object o) {         return 0;     }      @Override     public List getExportDetail(Object o) {         return null;     } } 
测试controller
package com.example.system.controller;  import com.example.system.api.domain.ExportUser; import com.example.system.api.domain.SysUser; import com.example.system.service.impl.ExportImpl; import lombok.SneakyThrows; import lombok.extern.slf4j.Slf4j; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.web.bind.annotation.PostMapping; import org.springframework.web.bind.annotation.RequestBody; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.RestController;  @RestController @RequestMapping("/export") @Slf4j public class ExportController {      @Autowired     private ExportImpl export;       @PostMapping("/exportFile")     public void exportFile() {             new Thread(new Runnable() {                 @SneakyThrows                 @Override                 public void run() {                     Thread thread1 = Thread.currentThread();                     ExportUser sysUser =new ExportUser();                     sysUser.setUserName(thread1.getName());                      export.export(sysUser);                 }             }).start();         } } 
测试结果

通过请求测试方法,限制了我们导出队列最大限制10次,队列场长度超过10次则无法进行继续提交;

图片

第一次请求和第二次请求,间隔10秒,第一个用户导出完成后出列,下一个排队用户在队列首位,在进行导出请求排在上一个用户后面;

图片

总结

⚠️其余的还未实现,导出文件的表的设计、oss文件上传、用户导出文件下载,还有高并发的场景下会不会出现什么问题,这些都还没有太考虑进去;

实现的方式应该挺多的,Redis的队列应该也是可以的,这里仅仅提供一个实现思路;

最后说一句(求关注!别白嫖!)

如果这篇文章对您有所帮助,或者有所启发的话,求一键三连:点赞、转发、在看。

关注公众号:woniuxgg,在公众号中回复:笔记  就可以获得蜗牛为你精心准备的java实战语雀笔记,回复面试、开发手册、有超赞的粉丝福利!

相关内容

热门资讯

法子辅助!电脑版海盗来了辅助!... 法子辅助!电脑版海盗来了辅助!分享存在有辅助app(有挂方略)1、电脑版海盗来了辅助辅助软件下载优化...
教学辅助挂!蜀山手游全自动辅助... 教学辅助挂!蜀山手游全自动辅助(辅助)果然确实有辅助工具(有挂方针)1、超多福利:超高返利,海量正版...
五分钟了解!wejoker辅助... 五分钟了解!wejoker辅助软件价格,epoker透视底牌,窍要教程(有挂解惑)该软件可以轻松地帮...
第三方辅助!欢乐达人破解器(辅... 第三方辅助!欢乐达人破解器(辅助)原来真的是有辅助神器(有挂教程)1、在欢乐达人破解器插件功能辅助器...
讲义辅助!杭州都莱游戏辅助!必... 讲义辅助!杭州都莱游戏辅助!必备是真的有辅助攻略(有挂规律)讲义辅助!杭州都莱游戏辅助!必备是真的有...
五分钟了解!wepokerpl... 五分钟了解!wepokerplus透视脚本免费,hhpoker辅助器,机巧教程(有挂秘笈)wepok...
第三方辅助挂!多乐找刺激捕鱼辅... 第三方辅助挂!多乐找刺激捕鱼辅助(辅助)切实确实有辅助脚本(有挂讲解)1、这是跨平台的多乐找刺激捕鱼...
模块辅助!潮汕汇辅助神器!详细... 模块辅助!潮汕汇辅助神器!详细真的有辅助工具(有挂解惑)1、操作简单,无需潮汕汇辅助神器手机版透视脚...
第5分钟了解!hh poker... 第5分钟了解!hh poker插件下载,hhpoker辅助器,办法教程(有挂技巧)1、hh poke...
有玩家发现!斗棋崇阳麻将辅助脚... 有玩家发现!斗棋崇阳麻将辅助脚本(辅助)一贯真的是有辅助教程(有挂秘笈)所有人都在同一条线上,像星星...