IBatis.Net 下使用SqlBulkCopy 大批量导入数据问题解决

SQLBulkCopy是继承SQLClient空间下的一个特殊类,它可以帮助我们以映射的方式把DataTable和DataReader数据大批量导入到数据库对应表中 public void Inert2DBBySqlBulkCopy(DataTable data, string tableName) { BaseDao basdd = new BaseDao(); using (SqlConnection conn = new SqlConnection(basdd.SqlNormMap.Dat…

意外发现的大批量导入数据SqlBulkCopy类

因为要做一个号码归属地查询小功能,因为要导入外部(文本文件)的电话归属地数据,使用的是SqlDataAdapter类,数据不多,只四万有多条,表也只有一个,phoneBook表,使用的是DataTable和SqlDataAdapter,测试了三次导入,平均18秒,但是我觉得太慢了,就百度了下[SQL Server批量导入数据],发现了SqlBulkCopy这个神器,一秒内导入. SqlBulkCopy 这个类用于数据库大批量的数据传递,通常用于新旧数据库之间的更新.关键的一点是,即使…

大批量导入数据的SqlBulkCopy类

SqlBulkCopy 这个类用于数据库大批量的数据传递,通常用于新旧数据库之间的更新.关键的一点是,即使表结构不同,也可以通过表字段或者字段位置建立映射关系,将所需的数据导入到目标数据库. 下面代码测试了数据量为一百万条数据,几次测试耗时8秒左右. /// <summary> /// SqlBulkCopy类的使用,批量更新数据 /// </summary> public static void SqlBulkCopyDemo() { String connStr = Conf…

Excel大批量导入数据到SQLServer数据库-万条只用1秒

private string ExcelToStudent() { /*---*/ var preStr = DateTime.Now.ToString("yyyyMMddHHmmssfff") + "_";//文件前缀 var httpFile = Request.Files["fileUpload"]; bool flag = !(httpFile.ContentType != "application/vnd.ms-excel&q…

SqlBulkCopy 批量导入数据转换表字段类型

在使用SqlBulkCopy导入数据时,要有一个跟数据库里面同样的DataTable 要赋值表名要求每个列跟数据库中列同名,并且列的类型要赋值跟数据库中列的类型对应的NET类型要求数据库中为Null的数据,赋值DBNull.Value 代码: [AcceptVerbs(HttpVerbs.Post)] public JsonResult Upload(HttpPostedFileBase fileData) { if (fileData != null) { try { Guid UserI…

Java不写文件，LOAD DATA LOCAL INFILE大批量导入数据到MySQL的实现（转）

MySQL使用load data local infile 从文件中导入数据比insert语句要快,MySQL文档上说要快20倍左右.但是这个方法有个缺点,就是导入数据之前,必须要有文件,也就是说从文件中导入.这样就需要去写文件,以及文件删除等维护.某些情况下,比如数据源并发的话,还会出现写文件并发问题,很难处理.那么有没有什么办法,可以达到同样的效率,直接从内存(IO流中)中导入数据,而不需要写文件呢?前段时间,去MySQL社区的时候发现了这样一个方法:setLocalInfileInputS…

Linux下通过txt文件导入数据到MySQL数据库

1.修改配置文件在 /etc/my.conf 中添加 local_infile=1 2.重启MySQL >service mysqld restart 3.登录数据库登录时添加参数 --local-infile >mysql --local-infile -uroot -p 4.进入相应的数据库导入数据…

使用BCP批量导入数据

本文原创,转载请标明出处 BCP 工具的使用 The bulk copy program utility (bcp) bulk copies data between an instance of Microsoft SQL Server and a data file in a user-specified format. The bcp utility can be used to import large numbers of new rows into SQL Server tables…

Solr7.x学习（4）-导入数据

导入配置可参考官网:http://lucene.apache.org/solr/guide,http://lucene.apache.org/solr/guide/7_7/ 1.数据准备(MySQL8.x数据库) DROP TABLE IF EXISTS `dept`; CREATE TABLE `dept` ( `id` ) NOT NULL, `code` ) CHARACTER SET utf8mb4 COLLATE utf8mb4_0900_ai_ci NULL DEFAULT NULL…

C# SqlBulkCopy类批量导入数据

特别注意 sqlbulkcopy.ColumnMappings.Add(dt.Columns[i].ColumnName, dt.Columns[i].ColumnName); 插入的时候列的顺序可以不一致,但名称和数据类型最好要保存一致.不一致时候,也能进行正确的转换,除了比如DataTime数据类型,不能插入一个无效的string时间字符串. 本文转载:http://zhoufoxcn.blog.51cto.com/792419/166052 参考http://www.cnblogs.co…

使用SqlBulkCopy导入数据至MS SQL Server

原文:使用SqlBulkCopy导入数据至MS SQL Server Insus.NET一直使用表类型来数据入MS SQL Server.参考<存储过程参数为DataTable>http://www.cnblogs.com/insus/archive/2012/09/22/2698515.html .今天学习一个SqlBulkCopy来把数据导入MS SQL Server中去.就是这个<读取XML某一节点>http://www.cnblogs.com/insus/p/3778256…

Sql Server数据库使用触发器和sqlbulkcopy大批量数据插入更新

需要了解的知识 1.触发器 2.sqlbulkcopy 我的用途开发数据库同步的工具,需要大批量数据插入和数据更新. 方式使用SqlBulkCopy类对数据进行数据批量复制,将需要同步数据的表新建一个结构相同的临时表.然后在临时表编写触发器用于对更新数据的表进行数据插入和更新: 触发器要点 1.触发器(trigger)是一种特殊的存储过程,当你对一个表进行Insert.Delete或Update时进行触发: 2.触发器触发时自动在系统创建inserted和deleted表,触发器执行完成后自…

在windows下，将mysql离线数据文件导入本地mysql数据库

1. 查看mysql路径 SELECT @@basedir AS basePath FROM DUAL 其实mysql5.6 的数据文件在 C:\ProgramData\MySQL\MySQL Server 5.6\data (被隐藏起来了) 2. 停止mysql服务 3. 将要导入的数据库放入至data文件夹下 4. 重新启动mysql服务重启成功后,发现表导入进去,但无法打开(打开报错): 5. 删除日志文件和替换ibdata1 再次重启数据库,发现导入数据成功! 备注:若有自己以前建的…

Rafy 框架 - 大批量导入实体

某些场景下,开发者希望能够大批量地把实体的数据导入到数据库中.虽然使用实体仓库保存实体列表非常方便,但是其内部实现机制是一条一条的保存到数据库,当实体的个数较多时,效率就会很低.所以 Rafy 设计了批量导入插件程序,其内部使用 ADO.NET 及 ODP.NET 中的批量导入机制来把大量数据一次性导入到数据库中. 使用方法步骤由于批量导入功能是一个额外的程序集,所以在使用该功能时,需要先使用 NuGet 引用最新版本的 Rafy.Domain.ORM.BatchSubmit 程序集. 如果…

SqlBulkCopy实现大容量数据快速插入数据库中

一般情况下,我们手写sqlhelper类,在此类中定义一个数据插入到数据库的一个方法.将数据库连接密封在using()的语句中.using显示了Idispose接口.可以及时释放数据库连接资源.代码如下: //以下为方法中语句 using(Sqlconnection conn=new Sqlconnection(constr))//"constr"为连接字符串 { conn.Open(); using(SqlCommand cmd=conn.CreateCommand()) { cmd…

FreeSql 导入数据的各种场景总结 [C#.NET ORM]

前言导入数据这种脏活.累活,相信大家多多少少都有经历,常见的场景有: 同服务器从A表导数据到B表批量导入新数据批量新增或更新数据跨服务器从A表导数据到B表每种场景有自己的特点,我们一般会根据特点定制做导入数据优化,减少总体导入的耗时,或者避免数据库IO/CPU占用过高,而影响到其他正常业务. FreeSql 有好几个实用功能,流式读取数据.查询并插入.批量对比更新.插入或修改(支持实体类或字典),用好这些功能可以很方便的实现各种导入数据场景.其实 FreeSql 对应的文档一直都有,只…

SQL SERVER导入数据到ORACLE的方法总结

我们偶尔会有将数据从SQL SERVER导入到ORACLE当中的这种需求,那么这种跨数据库导数有那些方法呢?这些方法又有那些利弊呢? 下面比较肤浅的总结了一些可行的方法. 1:生成SQL脚本然后去ORACLE数据库执行. CREATE TABLE TEST ( ID INT , NAME VARCHAR(12) ) INSERT INTO dbo.TEST SELECT 1001, 'Kerry' UNION ALL SELECT 1002, 'Jim…

MySQL 导入数据

MySQL中可以使用两种简单的方式来导入MySQL导出的数据. 使用 LOAD DATA 导入数据 MySQL 中提供了LOAD DATA INFILE语句来插入数据. 以下实例中将从当前目录中读取文件 dump.txt ,将该文件中的数据插入到当前数据库的 mytbl 表中. mysql> LOAD DATA LOCAL INFILE 'dump.txt' INTO TABLE mytbl; 如果指定LOCAL关键词,则表明从客户主机上按路径读取文件.如果没有指定,则文件在服务器上按路径读取文…

通过SQL Server自定义数据类型实现导入数据

写在前面在看同事写的代码时看到了SQL Server中可以自定义数据类型,而且定义的是DataTable类型的数据类型. 后我想起了以前我们导入数据时要么是循环insert写入,要么是SqlBulkCopy. 如果再去做这个导入时可以自定义DataTable数据类型,在存储过程里传入DataTable,直接在存储过程里使用insert from来实现. T-SQL查询自定义数据类型 SELECT * FROM sys.types where is_user_defined=1 SQL Ser…

sql 中的Bulk和C# 中的SqlBulkCopy批量插入数据（回顾 and 粗谈）

通常,我们会对于一个文本文件数据导入到数据库中,不多说,上代码. 首先,表结构如下. 其次,在我当前D盘中有个文本文件名为2.txt的文件. 在数据库中,可以这样通过一句代码插入. Bulk insert T_Demo From 'D:\2.txt' With ( fieldterminator=',', rowterminator='\n' ) 1) bulk insert: 为Sql server 中一个批量插入的操作 2)T_Demo: 要插入的表 3)'D:\2.txt': …

使用Sqoop从MySQL导入数据到Hive和HBase 及近期感悟

使用Sqoop从MySQL导入数据到Hive和HBase 及近期感悟 Sqoop 大数据 Hive HBase ETL 使用Sqoop从MySQL导入数据到Hive和HBase 及近期感悟基础环境 Sqool和Hive.HBase简介 Sqoop Hive HBase 测试Sqoop 使用Sqoop从MySQL导入数据到Hive 使用复杂SQL 调整Hive数据类型不断更新使用Sqoop从MySQL导入数据到HBase 使用复杂SQL 不断更新 Hive使用HBase数据关于Sqoop2…

[Django]网页中利用ajax实现批量导入数据功能

url.py代码: url(r'^workimport/$', 'keywork.views.import_keywork', name='import_keywork') view.py代码: from keywork.models import DevData from django.http import JsonResponse #django ajax部分 def import_keywork(request): file_sjdr = request.POST['file_keywo…

搜索引擎Solr系列（二）： Solr6.2.1 从MySql中导入数据

一:建立MySql测试表,如下图: 二:solr导入配置: 1.新建demo core文件夹,并修改managed-schema里面的配置文件建立索引字段: 2.把mysql-connector-java-5.1.30.jar拷贝到F:\solr_env\solr_home\demo\lib文件夹下 3.修改db-data-config.xml配置,文件路径:solr_home\demo\conf\db-data-config.xml 修改为: <dataConfig> <dataSo…

MYSQL数据库导入数据时出现乱码的解决办法

我的一个网站在负载搞不定的情况下最终选择了数据库和程序分离的方式解决的高负载,但是再导入数据的时候出现了大量乱码,最终通过方法二解决掉导入数据的问题,后面再设计网站布局的时候数据库跟网站程序分离是个很好的case 首先在新建数据库时一定要注意生成原数据库相同的编码形式,如果已经生成可以用phpmyadmin等工具再整理一次,防止数据库编码和表的编码不统一造成乱码. 方法一: 通过增加参数 –default-character-set = utf8 解决乱码问题 mysql -u root -p…

1118ALTER TABLE tabname DISCARD TABLESPACE快速导入数据利用表空间

-- 快速导入数据如果你有.ibd文件的一个干净的备份,你可以按如下操作从被起源的地方恢复它到MySQL安装中:相当快速 1. 发出这个ALTER TABLE语句: 2. ALTER TABLE tbl_name DISCARD TABLESPACE;警告:这个语句删除当前.ibd文件. 3. 把备份的.ibd文件放回到恰当的数据库目录. 4. 发出这个ALTER TABLE语句: 5. ALTER TABLE tbl_name IMPORT TABLESPACE; MYSQL表空间迁移. 表空…