on my god,写20万数据到Excel只需9秒   还是菜鸟时,在某个.Net项目中,用户需要从业务系统导出Report,而数据量通常都在上万条以上,最初采用的方式就是在服务器端用NPOI生成Excel,把Data一行一行一个Cell一个Cell地写到Excel中的每个Cell中,若用户对Report格式要求高一点,还要一个Cell一个Cell设置单元格的Style,然后把Report给用户下载.结果上万条的数据用户导出需要几十分钟.这样导出Report,是个人都要crazy了.....…
还是菜鸟时,在某个.Net项目中,用户需要从业务系统导出Report,而数据量通常都在上万条以上,最初采用的方式就是在服务器端用NPOI生成Excel,把Data一行一行一个Cell一个Cell地写到Excel中的每个Cell中,若用户对Report格式要求高一点,还要一个Cell一个Cell设置单元格的Style,然后把Report给用户下载.结果上万条的数据用户导出需要几十分钟.这样导出Report,是个人都要crazy了..... 当时,老板也没给压力,只是说,能不能搞定,搞不定我就从外面…
参考博文:https://blog.csdn.net/weixin_35261786/article/details/78222602 #include <iostream> #include <string> #include <sstream> //#include <time.h> #include "sqlite3.h" #include <string.h> ; int main (int argc,char** a…
public void InsertTable(DataTable dt, string TabelName, DataColumnCollection dtColum) { string str = ConfigurationManager.ConnectionStrings["ConnectionString"].ConnectionString.ToString(); //声明数据库连接 SqlConnection conn = new SqlConnection(str); c…
先看图,这是几个月前用NPOI写的导出数据到Excel,用了上百行代码,而且难控制,导出来也比较难看 excel打开的效果 下面是我用ExcelReport类库导出到Excel的操作 1.首先引用ExcelReport类库,使用NuGet即可 2.现在就可以写导出的代码,ExcelReport已经提供了很好的API,现在30行代码不到,就可以很好的实现导出了,看下图 效果图来一个对比,最最重要的是,客户还可以自主的去编辑模板字体及颜色. 如果用NPOI输出这个格式,不知道要整几天.    最后,…
前言 使用Python进行大数据分析变得越来越流行.这一切都要从NumPy开始,它也是今天我们在推文介绍工具背后支持的模块之一. 2 Vaex Vaex是 一种更快.更安全.总体上更方便的方法,可以使用几乎任意大小的数据进行数据研究分析 ,只要它能够适用于笔记本电脑.台式机或服务器的硬盘驱动器. 很多人学习python,不知道从何学起.很多人学习python,掌握了基本语法过后,不知道在哪里寻找案例上手.很多已经做案例的人,却不知道如何去学习更加高深的知识.那么针对这三类人,我给大家提供一个好的…
本周我们的目标是:B站(哔哩哔哩弹幕网 https://www.bilibili.com )视频评论数据. 我们都知道,B站有很多号称“镇站之宝”的视频,拥有着数量极其恐怖的评论和弹幕.所以这次我们的目标就是,爬取B站视频的评论数据,分析其为何会深受大家喜爱. 首先去调研一下,B站评论数量最多的视频是哪一个...好在已经有大佬已经统计过了,我们来看一哈! ​[B站大数据可视化]B站评论数最多的视频究竟是?来自 <https://www.bilibili.com/video/av34900167/…
一.为什么要写这篇文章 前段时间,有个辞职 创业的同事(做法务的)  问我 开发一个 新闻类的APP要多少钱,产品.UI.接口.后台管理页  他们啥都没有,想全部外包. 我 并没有在外包公司做过,也没有接过私活,但是毕竟一线开发也做了很多年,做过服务端.APP,也管理过开发团队. 没吃过猪肉 也是见过猪跑的.于是写了这篇 文章,来阐述 自己对 外包 中报价和开发时间 的想法.顺带说了下 工作中的时间评估. 有的 想法 可能不对,欢迎探讨. 二.外包 的报价. 暂时叫 我的那位老同事 叫 小明 吧…
摘要:近日,Robert Seaton整理了100多个最有趣的数据集,其中包括Jeopardy真题,死囚的最后一句话,20万个Eclipse Bug,足球比赛相关,柏拉图式的爱情,太阳系以外的行星,11.3万个恐怖事件等. [编者按]在数据爆发式增长的逼迫下,当下数据分析能力已得到长足的发展,机器学习更成为数据处理中必不可缺少的一环.这里,为大家分享Robert Seaton在其个人博客上整理的100+最有趣的数据集,从柏拉图式的爱情到政治竞选再到死刑囚犯,可谓是应有尽有,旨在给大家的模型训练的…
Kafka支持单集群20万分区 之前网上关于确定Kafka分区数的博客多多少少都源自于饶军大神的文章,如今他带来了这方面的第二篇文章,特此翻译一下,记录一下其中的要点. 原贴地址: https://www.confluent.io/blog/apache-kafka-supports-200k-partitions-per-cluster Kafka中topic可以设置多个分区,而分区是最小的并行度单位.通常而言,分区数越多吞吐量也越高.但是依然有很多因素制约了一个Kafka集群所能支持的最大分…