PHP 百万级数据导出方案(多 CSV 文件压缩)
/**
* 导出csv文件
* @param $filename
* @param $data
* @param array $columns
* @param int $chunk 限制每个文件条数
*/
function exportCsv($filename, $data, $columns = [], $chunk = 10000)
{ header('Content-Type: application/csv; charset=UTF-8');
header('Content-Disposition: attachment; filename="' . $filename . '.csv"');
header('Cache-Control: max-age=0'); $storageDir = rtrim(sys_get_temp_dir(), '/');
$prefix = str_random(10); $fileList = []; // 文件集合
$fileList[] = $file = "$storageDir/${prefix}_${filename}_1.csv"; $fp = fopen($file, 'w');
fputs($fp, chr(0xEF) . chr(0xBB) . chr(0xBF));
$head = array_pluck($columns, 'title');
fputcsv($fp, $head); // 计数器
$i = 0;
// 每隔$limit行刷新一下输出buffer,不要太大,也不要太小
$limit = 10000;
// 行上限
$maxLimit = 100000000; foreach ($data as $item) {
if ($i >= $maxLimit) {
break;
} if ($i > 0 && $i % $chunk == 0) {
fclose($fp); // 关闭上一个文件
$j = $i / $chunk + 1;
$fileList[] = $file = "$storageDir/${prefix}_${filename}_$j.csv"; $fp = fopen($file, 'w');
fputs($fp, chr(0xEF) . chr(0xBB) . chr(0xBF));
fputcsv($fp, $head);
} $i++; if ($i % $limit == 0) {
ob_flush();
flush();
} $row = []; foreach ($columns AS $column) {
$value = isset($column['key'])
? (is_object($item) ? $item->{$column['key']} : $item[$column['key']])
: null;
$render = array_get($column, 'render');
if ($render && $render instanceof \Closure) {
$row[] = $render($value, $item);
} else {
if (is_numeric($value) && strlen($value) > 10) {
$value .= "\t";
}
$row[] = $value;
}
} fputcsv($fp, $row);
unset($row);
} fclose($fp);
if (count($fileList) > 1) {
$zip = new ZipArchive();
$oldFilename = $filename;
$filename = "$storageDir/${prefix}_${filename}.zip";
$zip->open($filename, ZipArchive::CREATE); // 打开压缩包 foreach ($fileList as $file) {
$zip->addFile($file, str_replace("${prefix}_", '', basename($file))); // 向压缩包中添加文件
}
$zip->close(); // 关闭压缩包 foreach ($fileList as $file) {
@unlink($file); // 删除csv临时文件
} // 输出压缩文件提供下载
header("Cache-Control: max-age=0");
header("Content-Description: File Transfer");
header('Content-disposition: attachment; filename=' . $oldFilename . '.zip');
header("Content-Type: application/zip"); // zip格式的
header("Content-Transfer-Encoding: binary");
header('Content-Length: ' . filesize($filename));
} else {
$filename = head($fileList);
} @readfile($filename);
@unlink($filename); // 删除临时文件 exit;
}
PHP 百万级数据导出方案(多 CSV 文件压缩)的更多相关文章
- PHP百万级数据导出方案(多csv文件压缩)
本文转自网络仅供学习之用 概述: 最近公司项目要求把数据除了页面输出也希望有导出功能,虽然之前也做过几个导出功能,但这次数据量相对比较大,差不多一天数据就20W条,要求导7天或者30天,那么数据量就轻 ...
- PHP导出数据到CSV文件函数 csv_export()
后台往往需要导出各种数据到 Excel文档中.通常我们是导出 .csv文件格式,PHP导出函数参考代码如下: /** * 导出数据到CSV文件 * * @param array $data 二维数组( ...
- PHP导出数据到CSV文件函数/方法
如果不清楚什么是CSV文件,可看如下文章介绍 CSV格式的是什么文件?CSV是什么的缩写? /** * 导出数据到CSV文件 * @param array $data 数据 * @param arr ...
- PHP导出数据到CSV文件
后台往往需要导出各种数据到 Excel文档中.通常我们是导出 .csv文件格式,PHP导出函数参考代码如下: /** * 导出数据到CSV文件 * * @param array $data 二维数组( ...
- mysql导出数据到csv文件
在日常工作中经常会遇见导出表中的数据到csv文件的操作,这里就简单总结一下导出的操作. 下面对csv文件的描述是摘录: 据RFC4180文档设置的,该文档全称Common Format and MIM ...
- poi实现百万级数据导出
注意使用 SXSSFWorkbook 此类在构造表格和处理行高的时候效率极高,刚开始时我使用的 XSSFWorkbook 就出现构造表格效率极低,一万行基本需要3秒左右,那当导出百万级数据就慢的要死啦 ...
- PHP如何实现百万级数据导出
公司目前有一个需求,需要对一个日增量在20万+数据量的数据表中的数据进行可自定义条件筛选的导出数据,该功能需要对多个部门进行开发使用,要保证功能可用的前提下,尽量优化体验. 首先介绍一下当前可利用的资 ...
- Mysql导出逗号分隔的csv文件
CleverCode在实际的工作中.常常须要将一些报表.或者日志数据等导出来,假设直接做页面,假设次数也不是非常多,需求也不同.所以直接导出csv文件,更加直观. 1 导出csv文件 1.1 语句格式 ...
- 从数据库中导出数据到.csv文件
考虑到csv文件比xls文件格式容易控制,所以在这次导出中用的是.csv格式. protected function exportInfo($arr, &$err){ $nameInfo = ...
随机推荐
- IDEA忽略某些文件
Settings→Editor→File Types 在下方的忽略文件和目录(Ignore files and folders)中添加自己需要过滤的内容 下图为我自己添加过滤的内容,例如:*.im ...
- PUSU 拆分后发货和开票的时间节点问题
项目做到现在业务突然说流程要变,心中顿时无数个草草草掠过.这公司业务也真是够奇葩了,一天一个样.原来流程是由PU把产品生产完后就发给SU,由SU再来决定什么时候对客户和开票.而现在马上要上线了,突然冒 ...
- 使用睿云智合开源 Breeze 工具部署 Kubernetes v1.12.3 高可用集群
一.Breeze简介 Breeze 项目是深圳睿云智合所开源的Kubernetes 图形化部署工具,大大简化了Kubernetes 部署的步骤,其最大亮点在于支持全离线环境的部署,且不需要FQ获取 G ...
- [NOI2011]智能车比赛 (计算几何 DAG)
/* 可以发现, 最优路径上的所有拐点, 基本上都满足一定的性质, 也就是说是在矩形上的拐角处 所以我们可以把他们提出来, 单独判断即可 由于我们提出来的不超过2n + 2个点, 我们将其按照x坐标排 ...
- git 在本地拉取远程分支的代码(并不做提交操作)
1. git fetch 获取远程的所有分支 2. 在执行 git checkout -b local-branch-name origin/remote-branch 就可以将远程分支remote ...
- H5兼容ie做法
IE浏览器支持新的标签:可以在使用新标签之前用javascript创建一个虚假的标签,这样就可以识别了.如<article>标签,在使用前,创建一个虚假的<article>标签 ...
- [持续交付实践] pipeline使用:项目样例
项目说明 本文将以一个微服务项目的具体pipeline样例进行脚本编写说明.一条完整的pipeline交付流水线通常会包括代码获取.单元测试.静态检查.打包部署.接口层测试.UI层测试.性能专项测试( ...
- 使用Jmeter进行http接口测试(转载)
原文:http://www.cnblogs.com/puresoul/p/4740436.html 前言: 本文主要针对http接口进行测试,使用Jmeter工具实现. Jmter工具设计之初是用于 ...
- python:选房抽签小工具
1.房间号和姓名写在house_name.xls的house标签页中[注意!名字均不要改动]2.运行house.py3.当前同目录下会生成result.xls,即为结果:程序运行过程中不要打开该文件, ...
- .NET Entity Framework基本使用方法
生成模型 EF有两种查询方式,Linq查询 .Lambda表达式 //普通查询 Linq 方式 IQueryable<Book> list = from b in db.Set<Bo ...