如何提高mysql load data infile的速度
版权声明
：转载时请以超链接形式标明文章原始出处和作者信息及本声明
http://bbayou.blogbus.com/logs/37045617.html
测试数据2.5G，共有数据9427567条。用的mysql的large服务器的配置。
load
一次需要大概10分钟左右。
建的表用的是MYISAM，调整了几个session的参数值
SET
SESSION
BULK_INSERT_BUFFER_SIZE
=
256217728
;
SET
SESSION
MYISAM_SORT_BUFFER_SIZE
=
256217728
;
运行结果如下
Query OK, 9427567 rows affected, 1558 warnings (3 min 55.21 sec)
Records: 9427567 Deleted: 0 Skipped: 0 Warnings: 0
google到的还可以
set
global
KEY_BUFFER_SIZE
=
256217728
;
alter
table
tablename
disable
keys
;
如何load
数据里面带反斜杠(backslash)”\” 的数据
由于如果你没有指定FIELDS子句，则默认值为假设您写下如下语句时的值：
FIELDS TERMINATED BY ‘\t’ ENCLOSED BY ” ESCAPED BY ‘\\’
所以，如果你的数据里面有反斜杠(backslash)”\”的时候，数据会出现被截断的问题。出现这种问题，只要写上如下的fields子句即可
FIELDS TERMINATED BY ‘\t’ ENCLOSED BY ” ESCAPED BY ”
如何load
不同编码的数据
原来用的4.X的mysql，我是select INTO OUTFILE ，只后用iconv,或者其他软件来做。可以参考这里
，但是由于这次数据大，用ultraedit等软件打开都要半天。好在新版的mysql可以增加一个新的参数
CHARACTER SET gbk
我的文本数据是GBK的编码，数据表是utf8的，用这种方法测试成功。
如何load
的时候只insert特定的列
比如表里面有比元数据多的列。可以在load
的时候指定要插入的字段名字。
示例的代码如下：
LOAD
DATA
INFILE
'
~/data.txt
'
INTO
TABLE
fb0505
CHARACTER
SET
gbk
FIELDS
TERMINATED
BY
'
\t
'
ENCLOSED
BY
''
ESCAPED
BY
''
LINES
TERMINATED
BY
'
\n
'
STARTING
BY
''
(
seller_id
,
fb_type
,
fb_date
,
item_url
)
;
其中表fb0505里面还有一列是id。
相关文档：
MySQL是一个真正的多用户、多线程SQL数据库服务器。MySQL是以一个客户机/服务器结构的实现，它由一个服务器守护程序mysqld和很多不同的客户程序和库组成。由于其源码的开放性及稳定性，且与网站流行编 挥镅 PHP的完美结合，现在很多站点都利用其当作后端数据库，使其获得了广泛应用。处于安全方面的考虑，需要为每一用户� ......
MySQL的数据表类型很多，MySQL一共向用户提供了包括DBD、HEAP、ISAM、MERGE、MyIAS、InnoDB以及Gemeni这7种表。其中DBD、InnoDB属于事务安全类表，而其他属于事务非安全类表。
DBD
Berkeley DB(DBD)表是支持事务处理的表，由Sleepycat软件公司开发。它提供MySQL用户期待已久的功能--事务控制。事务控制在任何数据库系统中 ......
cmd下切换到 mysql 安装目录
例
d:/mysql/bin
(如果用WAMP安装则是D:\wamp\bin\mysql\mysql5.1.30\bin)
前提：mysql用户root密码为空.
输
入 mysql -u root mysql
mysql> 状态下输入
update user set password=password('新密码') where user='root';
回
显
Quer ......
1,忘记root密码,如果能还能进入mysql且还有mysql库的权限,那么就直接执行 update user set password=password(‘XXX’) where user=’root’ and host=’XX’; flush privileges; 即可.如果不能进入mysql,需要有mysql启动的权限,在启动mysql的时候加上--skip-grant-tables选项,此时进入mysql无需密码,再重复上述操 ......
今天在帮朋友调试一个关于多线程访问同一张表引起的Lock wait timeout exceede的问题，感觉引起的原因有：
1，没有进行优化，尽量避免多线程
2，根据它后面报的异常，提醒我可以Hibernate 的Session没有使用得当，(也是我解决的方案)
3，用synchronized修饰更新表的函数
估计是原来程序在修改完该表时立刻进行了插入操� ......
