游客: 注册 登录 首页 社区博客 ITPUB 徽章 商店 积分排行 会员 社区设施 帮助 



标题: 战笔记:MYSQL CPU占用100%解决过程
本帖已经被作者加入博客
阿呆和阿瓜
新手上路
Rank: 1


精华贴数 0
社区积分 0
技术积分 1
阅读权限 30
论坛排名 89440
注册日期 2007-4-16

论坛徽章 5
下载基地每日发帖之星操作系统与服务器产品板每日发帖之星操作系统与服务器产品板每日发帖之星操作系统与服务器产品板每日发帖之星操作系统与服务器产品板每日发帖之星 
      

发表于 2007-7-27 08:42  资料  我的博客  主页 短消息  加为好友 
战笔记:MYSQL CPU占用100%解决过程

早上帮朋友一台服务器解决了 Mysql cpu 占用 100% 的问题,稍整理如下,希望对各位有所帮助。

朋友主机(Windows 2003 + IIS + PHP + MYSQL )近来 MySQL 服务进程 (mysqld-nt.exe) CPU 占用率总为 100% 高居不下。此主机有10个左右的 database, 分别给十个网站调用。据朋友测试,导致 mysqld-nt.exe cpu 占用奇高的是网站A,一旦在 IIS 中将此网站停止服务,CPU 占用就降下来了。一启用,则马上上升。

MYSQL CPU 占用 100% 的解决过程

今天早上仔细检查了一下。目前此网站的七日平均日 IP 为2000,PageView 为 3万左右。网站A 用的 database 目前有39个表,记录数 60.1万条,占空间 45MB。按这个数据,MySQL 不可能占用这么高的资源。

于是在服务器上运行命令,将 mysql 当前的环境变量输出到文件 output.txt:
d:\web\mysql> mysqld.exe --help >output.txt

发现 tmp_table_size 的值是默认的 32M,于是修改 My.ini, 将 tmp_table_size 赋值到 200M:
d:\web\mysql> notepad c:\windows\my.ini[mysqld]tmp_table_size=200M

然后重启 MySQL 服务。CPU 占用有轻微下降,以前的CPU 占用波形图是 100% 一根直线,现在则在 97%~100%之间起伏。这表明调整 tmp_table_size 参数对 MYSQL 性能提升有改善作用。但问题还没有完全解决。

于是进入 mysql 的 shell 命令行,调用 show processlist, 查看当前 mysql 使用频繁的 sql 语句:
mysql> show processlist;


反复调用此命令(每秒刷两次),发现网站 A 的两个 SQL 语句经常在 process list 中出现,其语法如下:
SELECT t1.pid, t2.userid, t3.count, t1.dateFROM _mydata AS t1LEFT JOIN _myuser AS t3 ON t1.userid=t3.useridLEFT JOIN _mydata_body AS t2 ON t1.pid=t3.pidORDER BY t1.pidLIMIT 0,15


调用 show columns 检查这三个表的结构 :
mysql> show columns from _myuser;mysql> show columns from _mydata;mysql> show columns from _mydata_body;


终于发现了问题所在:_mydata 表,只根据 pid 建立了一个 primary key,但并没有为 userid 建立索引。而在这个 SQL 语句的第一个 LEFT JOIN ON 子句中:
LEFT JOIN _myuser AS t3 ON t1.userid=t3.userid


_mydata 的 userid 被参与了条件比较运算。于是我为给 _mydata 表根据字段 userid 建立了一个索引:
mysql> ALTER TABLE `_mydata` ADD INDEX ( `userid` )


建立此索引之后,CPU 马上降到了 80% 左右。看到找到了问题所在,于是检查另一个反复出现在 show processlist 中的 sql 语句:
SELECT COUNT(*)FROM _mydata AS t1, _mydata_key AS t2WHERE t1.pid=t2.pid and t2.keywords =
'孔雀'


经检查 _mydata_key 表的结构,发现它只为 pid 建了了 primary key, 没有为 keywords 建立 index。_mydata_key 目前有 33 万条记录,在没有索引的情况下对33万条记录进行文本检索匹配,不耗费大量的 cpu 时间才怪。看来就是针对这个表的检索出问题了。于是同样为 _mydata_key 表根据字段 keywords 加上索引:
mysql> ALTER TABLE `_mydata_key` ADD INDEX ( `keywords` )


建立此索引之后,CPU立刻降了下来,在 50%~70%之间震荡。

再次调用 show prosslist,网站A 的sql 调用就很少出现在结果列表中了。但发现此主机运行了几个 Discuz 的论坛程序, Discuz论坛的好几个表也存在着这个问题。于是顺手一并解决,cpu占用再次降下来了。

至此,问题解决。 1





不破不立
顶部
阿呆和阿瓜
新手上路
Rank: 1


精华贴数 0
社区积分 0
技术积分 1
阅读权限 30
论坛排名 89440
注册日期 2007-4-16

论坛徽章 5
下载基地每日发帖之星操作系统与服务器产品板每日发帖之星操作系统与服务器产品板每日发帖之星操作系统与服务器产品板每日发帖之星操作系统与服务器产品板每日发帖之星 
      

发表于 2007-7-27 08:43  资料  我的博客  主页 短消息  加为好友 
解决 MYSQL CPU 占用 100% 的经验总结

1. 增加 tmp_table_size 值。mysql 的配置文件中,tmp_table_size 的默认大小是 32M。如果一张临时表超出该大小,MySQL产生一个 The table tbl_name is full 形式的错误,如果你做很多高级 GROUP BY 查询,增加 tmp_table_size 值。 这是 mysql 官方关于此选项的解释:

tmp_table_size
This variable determines the maximum size for a temporary table in memory. If the table becomes too large, a MYISAM table is created on disk. Try to avoid temporary tables by optimizing the queries where possible, but where this is not possible, try to ensure temporary tables are always stored in memory. Watching the processlist for queries with temporary tables that take too long to resolve can give you an early warning that tmp_table_size needs to be upped. Be aware that memory is also allocated per-thread. An example where upping this worked for more was a server where I upped this from 32MB (the default) to 64MB with immediate effect. The quicker resolution of queries resulted in less threads being active at any one time, with all-round benefits for the server, and available memory.

2. 对 WHERE, JOIN, MAX(), MIN(), ORDER BY 等子句中的条件判断中用到的字段,应该根据其建立索引 INDEX。

索引被用来快速找出在一个列上用一特定值的行。没有索引,MySQL不得不首先以第一条记录开始并然后读完整个表直到它找出相关的行。表越大,花费时间越多。如果表对于查询的列有一个索引,MySQL能快速到达一个位置去搜寻到数据文件的中间,没有必要考虑所有数据。如果一个表有1000行,这比顺序读取至少快100倍。所有的MySQL索引(PRIMARY、UNIQUE和INDEX)在B树中存储。

根据 mysql 的开发文档:

索引 index 用于:

o 快速找出匹配一个WHERE子句的行
o 当执行联结(JOIN)时,从其他表检索行。
o 对特定的索引列找出MAX()或MIN()值
o 如果排序或分组在一个可用键的最左面前缀上进行(例如,ORDER BY key_part_1,key_part_2),排序或分组一个表。如果所有键值部分跟随DESC,键以倒序被读取。
o 在一些情况中,一个查询能被优化来检索值,不用咨询数据文件。如果对某些表的所有使用的列是数字型的并且构成某些键的最左面前缀,为了更快,值可以从索引树被检索出来。

假定你发出下列SELECT语句:

mysql> SELECT * FROM tbl_name WHERE col1=val1 AND col2=val2;


如果一个多列索引存在于col1和col2上,适当的行可以直接被取出。如果分开的单行列索引存在于col1和col2上,优化器试图通过决定哪个索引将找到更少的行并来找出更具限制性的索引并且使用该索引取行。

开发人员做 SQL 数据表设计的时候,一定要通盘考虑清楚。





不破不立
顶部
阿呆和阿瓜
新手上路
Rank: 1


精华贴数 0
社区积分 0
技术积分 1
阅读权限 30
论坛排名 89440
注册日期 2007-4-16

论坛徽章 5
下载基地每日发帖之星操作系统与服务器产品板每日发帖之星操作系统与服务器产品板每日发帖之星操作系统与服务器产品板每日发帖之星操作系统与服务器产品板每日发帖之星 
      

发表于 2007-7-27 08:43  资料  我的博客  主页 短消息  加为好友 
原文标题:实战笔记:MYSQL CPU占用100%解决过程





不破不立
顶部
shmilily (高级会员)
三星会员
Rank: 4


精华贴数 0
社区积分 541
技术积分 500
阅读权限 40
论坛排名 626
注册日期 2006-10-30

论坛徽章 148
2008年新春纪念徽章安全技术交流板块每日发帖之星星座徽章:天蝎座星座徽章:金牛座星座徽章:水瓶座星座徽章:巨蟹座
星座徽章:摩羯座星座徽章:处女座星座徽章:双子座星座徽章:白羊座  

发表于 2007-7-27 09:28  资料  我的博客  主页 短消息  加为好友  添加 shmilily 为MSN好友 通过MSN和 shmilily 交谈 QQ
内存问题,领教了





如果我可以……
顶部
chelseaZ (null)
一星会员
Rank: 2


精华贴数 0
社区积分 100
技术积分 -2
阅读权限 20
论坛排名 5933
注册日期 2006-10-26

论坛徽章 214
通信运营商板每日发帖之星通信运营商板每日发帖之星安全技术交流板块每日发帖之星考试认证板块每日发帖之星操作系统与服务器产品板每日发帖之星 
      

发表于 2007-7-28 11:51  资料  我的博客  主页 短消息  加为好友 
应该出了各种原因CPU占用100%的详细策略书.





每一天都在努力
顶部
南非蚂蚁 (蚂蚁同学)
版主
Rank: 20Rank: 20Rank: 20Rank: 20Rank: 20


精华贴数 5
社区积分 4055
技术积分 2257
阅读权限 150
论坛排名 134
注册日期 2005-7-23

论坛徽章 13
现任管理团队成员IXPUB北京九华山庄2008年会纪念徽章IXPUB成立纪念徽章2008情人节徽章2008情人节徽章2008年新春纪念徽章
考试认证板块每日发帖之星操作系统与服务器产品板每日发帖之星考试认证板块每日发帖之星星座徽章:金牛座星座徽章:巨蟹座星座徽章:天蝎座

发表于 2007-7-28 13:07  资料  我的博客  主页 短消息  加为好友  添加 南非蚂蚁 为MSN好友 通过MSN和 南非蚂蚁 交谈 QQ
好文,经验很重要!

其实说到底,还是sql数据表设计的问题





工作领域:solaris/AIX/Linux+ORACLE ,HA Cluster
---------------------------
技术站点:www.ixdba.net
联系我:QQ:397824870

MSN:gaojf_888@htomail.com
技术讨论群:40379118
顶部
fire9 (中级会员)
实习版主
Rank: 5Rank: 5


精华贴数 0
社区积分 207
技术积分 425
阅读权限 100
论坛排名 1015
注册日期 2003-9-20
来自 北京

论坛徽章 2
IXPUB北京九华山庄2008年会纪念徽章2008年新春纪念徽章    
      

发表于 2008-1-17 21:21  资料  我的博客  主页 短消息  加为好友  添加 fire9 为MSN好友 通过MSN和 fire9 交谈
一般CPU过高基本都是SQL语句导致的。





我不知道,但是我会设法找到答案!
QQ: 495140
Email & Google talk & Msn: fire9dingh[at]gmail[dot]com
Blog’s: http://blog.fire9.cn
顶部
芙蓉姐姐
注册会员



精华贴数 0
社区积分 10
技术积分 0
阅读权限 10
论坛排名 28469
注册日期 2005-7-11

论坛徽章 2
每日论坛发贴之星星座徽章:狮子座    
      

发表于 2008-1-18 13:29  资料  我的博客  主页 短消息  加为好友 
很好 很强大!!





因为我感觉跟别人不一样吧,我生来就有荷花芙蓉的样子,我很自重,从来没有跟男孩子有过分的交往。
顶部
修正稿
普通会员
Rank: 1

头像未定义,请到'控制面板'中修改


精华贴数 0
社区积分 0
技术积分 10
阅读权限 10
论坛排名 30071
注册日期 2008-4-6

论坛徽章 0
      
      

发表于 2008-4-6 17:08  资料  我的博客  短消息  加为好友 
顶一下/

顶部
zong-4
普通会员
Rank: 1

头像未定义,请到'控制面板'中修改


精华贴数 0
社区积分 0
技术积分 9
阅读权限 10
论坛排名 31513
注册日期 2008-4-4

论坛徽章 0
      
      

发表于 2008-4-6 17:45  资料  我的博客  短消息  加为好友 
收藏~~~~~~

顶部



网络110报警服务  
CopyRight 2001-2008 IXPUB.Net All Right Reserved.
Processed in 0.055497 second(s), 38 queries , Gzip enabled

当前时区 GMT+8, 现在时间是 2008-5-9 20:59 联系我们 - IXPUB技术社区 - 文本模式 - 手机访问 - - 京ICP证060528 号