CPU 100% au démarrage du serveur

glaucos · 21-06-2012 01:01:07

Bonsoir à tous,

Je subis un phénomène pour le moins curieux depuis plusieurs jours maintenant. Cela fait deux fois que mon serveur mysql monte en charge à 100% de CPU sur un octo processeur, 16GO RAM (Debian).
Mysql augmente son nbre de process avec 500méga chacun d'utilisation mémoire et faire déborder Apache (plus de 600 process en attente ..)
Le problème est apparu en "live" ce soir. J'ai tenté de redemarrer Apache et MYSQL. Meme soucis après restart des services. J'ai tenté un reboot du serveur: même soucis après reboot du serveur!
Puis soudainement, après 30 min de charge maxi, plus rien, la charge redevient normal, sans que je ne fasse rien ...
Pour info, j'avais une centaine de connexions simultané lorsque le problème est arrivé, ce n'est pas lié à une charge utilisateurs ..

Voici mon my.cf

key_buffer = 32M
max_allowed_packet = 16M
thread_stack = 192K
thread_cache_size = 16
# This replaces the startup script and checks MyISAM tables if needed
# the first time they are touched
myisam-recover = BACKUP
max_connections = 400
table_cache = 10000
#thread_concurrency = 10
#
# * Query Cache Configuration
#
query_cache_limit = 16M
query_cache_size = 512M
tmp_table_size = 256M
max_heap_table_size = 256M
bulk_insert_buffer_size = 1G
innodb_buffer_pool_size = 1G
join_buffer_size = 4M

[mysqldump]
quick
quote-names
max_allowed_packet = 16M

Jc · 21-06-2012 03:49:02

Bonjour,

Votre problème à capté mon attention dès la première ligne
Bien qu'il faudrait pouvoir avoir une analyse complète du contexte d'exploitation au niveau de MySQL, je pense avoir ma petite idée sur la question d'où celle-ci pour commencer:

- comment votre transactionnel est géré au niveau applicatif par rapport à MySQL?
- comment s'oriente la répartition lecture/ecriture dans l'applicatif?
- Quelle est la taille moyenne de vos tables en colonnes?
- Quelle est la volumétrie de votre base?

Pour chacune des deux premières questions qui pilote : PHP ou MySQL?

Voilà pour commencer.

Pour information si vous pensez que les accès concurrentiels dont vous parlez ne sont pas l'origine du problème, je ne pense pas comme vous et je suis prêt à parier que c'est le facteur déclencheur de votre problème. Les performances de MySQL chutent drastiquement à partir de 5 accès concurrentiels, ce qui implique une tolérance zéro dans les optimisations pour s'en sortir sans trop de bobos avec de la montée en charge.

Cordialement,

Jc

Dernière modification par Jc (21-06-2012 04:06:37)

glaucos · 21-06-2012 10:24:31

Merci JC

Le phénomène est très curieux. La montée en charge se produit depuis 2 jours plutôt entre 23:00 et 3:00 du matin. En journée, j'ai beaucoup plus de traffic, et pas de soucis de consommation mémoire / CPU.

Mon architecture est la suivante: 5.1.63-0+squeeze1-log (Debian)-Apache/2.2.16 (Debian)
-PHP 5.3.3-7+squeeze13 with Suhosin-Patch

Nous utilisons le framework Zend pour la partie applicative.
Nous avons un mix forum PHPBB en MYISAM et le reste en INNODB

Resultat d'un tuning_primer

-- MYSQL PERFORMANCE TUNING PRIMER --
- By: Matthew Montgomery -

MySQL Version 5.1.63-0+squeeze1-log x86_64

Uptime = 0 days 7 hrs 21 min 30 sec
Avg. qps = 62
Total Questions = 1666206
Threads Connected = 1

Warning: Server has not been running for at least 48hrs.
It may not be safe to use these recommendations

To find out more information on how each of these
runtime variables effects performance visit:
http://dev.mysql.com/doc/refman/5.1/en/ … ables.html
Visit http://www.mysql.com/products/enterprise/advisors.html
for info about MySQL's Enterprise Monitoring and Advisory Service

SLOW QUERIES
The slow query log is enabled.
Current long_query_time = 5.000000 sec.
You have 27 out of 1666228 that take longer than 5.000000 sec. to complete
Your long_query_time seems to be fine

BINARY UPDATE LOG
The binary update log is NOT enabled.
You will not be able to do point in time recovery
See http://dev.mysql.com/doc/refman/5.1/en/ … overy.html

WORKER THREADS
Current thread_cache_size = 16
Current threads_cached = 14
Current threads_per_sec = 0
Historic threads_per_sec = 0
Your thread_cache_size is fine

MAX CONNECTIONS
Current max_connections = 200
Current threads_connected = 2
Historic max_used_connections = 104
The number of used connections is 52% of the configured maximum.
Your max_connections variable seems to be fine.

INNODB STATUS
Current InnoDB index space = 76 M
Current InnoDB data space = 314 M
Current InnoDB buffer pool free = 87 %
Current innodb_buffer_pool_size = 1.00 G
Depending on how much space your innodb indexes take up it may be safe
to increase this value to up to 2 / 3 of total system memory

MEMORY USAGE
Max Memory Ever Allocated : 3.14 G
Configured Max Per-thread Buffers : 912 M
Configured Max Global Buffers : 2.68 G
Configured Max Memory Limit : 3.57 G
Physical Memory : 15.69 G
Max memory limit seem to be within acceptable norms

KEY BUFFER
Current MyISAM index space = 17 M
Current key_buffer_size = 700 M
Key cache miss rate is 1 : 7474
Key buffer free ratio = 80 %
Your key_buffer_size seems to be fine

QUERY CACHE
Query cache is enabled
Current query_cache_size = 1.00 G
Current query_cache_used = 187 M
Current query_cache_limit = 16 M
Current Query cache Memory fill ratio = 18.33 %
Current query_cache_min_res_unit = 4 K
Your query_cache_size seems to be too high.
Perhaps you can use these resources elsewhere
MySQL won't cache query results that are larger than query_cache_limit in size

SORT OPERATIONS
Current sort_buffer_size = 2 M
Current read_rnd_buffer_size = 256 K
Sort buffer seems to be fine

JOINS
Current join_buffer_size = 2.00 M
You have had 7538 queries where a join could not use an index properly
You should enable "log-queries-not-using-indexes"
Then look for non indexed joins in the slow query log.
If you are unable to optimize your queries you may want to increase your
join_buffer_size to accommodate larger joins in one pass.

Note! This script will still suggest raising the join_buffer_size when
ANY joins not using indexes are found.

OPEN FILES LIMIT
Current open_files_limit = 4306 files
The open_files_limit should typically be set to at least 2x-3x
that of table_cache if you have heavy MyISAM usage.
Your open_files_limit value seems to be fine

TABLE CACHE
Current table_open_cache = 2048 tables
Current table_definition_cache = 256 tables
You have a total of 217 tables
You have 351 open tables.
The table_cache value seems to be fine

TEMP TABLES
Current max_heap_table_size = 1.00 G
Current tmp_table_size = 1.00 G
Of 39951 temp tables, 46% were created on disk
Perhaps you should increase your tmp_table_size and/or max_heap_table_size
to reduce the number of disk-based temporary tables
Note! BLOB and TEXT columns are not allow in memory tables.
If you are using these columns raising these values might not impact your
ratio of on disk temp tables.

TABLE SCANS
Current read_buffer_size = 128 K
Current table scan ratio = 473 : 1
read_buffer_size seems to be fine

TABLE LOCKING
Current Lock Wait ratio = 1 : 4148
You may benefit from selective use of InnoDB.
If you have long running SELECT's against MyISAM tables and perform
frequent updates consider setting 'low_priority_updates=1'
If you have a high concurrency of inserts on Dynamic row-length tables
consider setting 'concurrent_insert=2'.

Resultat d'un mysql tunner

>> MySQLTuner 1.2.0 - Major Hayden <major@mhtx.net>
>> Bug reports, feature requests, and downloads at http://mysqltuner.com/
>> Run with '--help' for additional options and output filtering
[OK] Logged in using credentials from debian maintenance account.

-------- General Statistics --------------------------------------------------
[--] Skipped version check for MySQLTuner script
[OK] Currently running supported MySQL version 5.1.63-0+squeeze1-log
[OK] Operating on 64-bit architecture

-------- Storage Engine Statistics -------------------------------------------
[--] Status: +Archive -BDB -Federated +InnoDB -ISAM -NDBCluster
[--] Data in MyISAM tables: 247M (Tables: 122)
[--] Data in InnoDB tables: 314M (Tables: 71)
[--] Data in MEMORY tables: 0B (Tables: 1)
[!!] Total fragmented tables: 77

-------- Security Recommendations -------------------------------------------
[OK] All database users have passwords assigned

-------- Performance Metrics -------------------------------------------------
[--] Up for: 7h 22m 28s (1M q [62.888 qps], 142K conn, TX: 62B, RX: 895M)
[--] Reads / Writes: 92% / 8%
[--] Total buffers: 3.7G global + 4.6M per thread (200 max threads)
[OK] Maximum possible memory usage: 4.6G (29% of installed RAM)
[OK] Slow queries: 0% (27/1M)
[OK] Highest usage of available connections: 52% (104/200)
[OK] Key buffer size / total MyISAM indexes: 700.0M/17.5M
[OK] Key buffer hit rate: 100.0% (12M cached / 1K reads)
[OK] Query cache efficiency: 71.7% (924K cached / 1M selects)
[!!] Query cache prunes per day: 475216
[OK] Sorts requiring temporary tables: 3% (5K temp sorts / 151K sorts)
[!!] Joins performed without indexes: 7551
[!!] Temporary tables created on disk: 46% (34K on disk / 74K total)
[OK] Thread cache hit rate: 99% (298 created / 142K connections)
[OK] Table cache hit rate: 24% (351 open / 1K opened)
[OK] Open file limit used: 7% (323/4K)
[OK] Table locks acquired immediately: 99% (793K immediate / 794K locks)
[OK] InnoDB data size / buffer pool: 314.5M/1.0G

-------- Recommendations -----------------------------------------------------
General recommendations:
Run OPTIMIZE TABLE to defragment tables for better performance
MySQL started within last 24 hours - recommendations may be inaccurate
Increasing the query_cache size over 128M may reduce performance
Adjust your join queries to always utilize indexes
Temporary table size is already large - reduce result set size
Reduce your SELECT DISTINCT queries without LIMIT clauses
Variables to adjust:
query_cache_size (> 1G) [see warning above]
join_buffer_size (> 2.0M, or always use indexes with joins)

Pour les tables: 135 table(s) Somme ~819 518 MyISAM utf8_general_ci 420,7 Mio 273,2 Kio
C'est PHP qui pilote

Les probs ont été constatés avec 130 accès concurrentiels. Mes CPU étaient chargés à 100% pendant plusieurs heures avec une mémoire et un nombre de process apache qui augmentait.

Ma conf Apache:

Timeout 30

#
# KeepAlive: Whether or not to allow persistent connections (more than
# one request per connection). Set to "Off" to deactivate.
#
KeepAlive Off
ServerLimit 400
#
# MaxKeepAliveRequests: The maximum number of requests to allow
# during a persistent connection. Set to 0 to allow an unlimited amount.
# We recommend you leave this number high, for maximum performance.
#
MaxKeepAliveRequests 2048

#
# KeepAliveTimeout: Number of seconds to wait for the next request from the
# same client on the same connection.
#
KeepAliveTimeout 3
<IfModule mpm_prefork_module>
StartServers 10
MinSpareServers 32
MaxSpareServers 64
MaxClients 400
ServerLimit 400
MaxRequestsPerChild 10000
</IfModule>

J'ai lancé un server-status Apache et j'ai juste constaté que certaines pages prennaient 20 à 25% de charges CPU alors qu'habituellement nous tournons à 2%
J'ai lancé une defrag des tables et une optimization .. c'est ma dernière action ..

Jc · 21-06-2012 15:31:19

Bonjour,

Merci pour votre retour.

Concernant la partie myisam pourriez-vous me retourner les résultats de la requête suivante : SHOW GLOBAL STATUS LIKE 'Key_%';
Concernant la partie innodb, juste une petite recommendation avant de vous répondre
1) Assurez vous d'avoir le paramètrage suivant comme base de travail d'optimisation : innodb_thread_concurrency=2xnbre CPUxnbre disques et un innodb_buffer_size (80% mem disp sur le serveur).
2) Assurez-vous sur la partie MyIsam de travailler avec des indexs et donc sur le cache associé qui est spécialisé pour vos requêtes car je rappele que MySQL n'a pas d'option pour mettre en cache les données des tables myISAM. En fait avec MyISAM seul le système d'exploitation mets en cache ces données.

Votre environnement MyISAM est-il dissocié de votre environnement InnoDB (deux bases séparées) ? Si la réponse est non veuillez considérez fortement la remarque précédente.

Ensuite vos stats, je les trouve assez médiocres, bien que j'ai bien conscience que vous n'y êtes pour rien et que vous devez faire avec cet environnement Zend qui est responsable majoritairement des problèmes que vous rencontrez à mon humble avis.

Je pense que vous devriez commencer par activer votre log-queries-not-using-indexes pour analyser les retours qu'il va vous donner, car vous avez beaucoup trop de jointures sans indexs et donc beaucoup trop de full scan dans vos requêtes et pour pousser un grand coup de gueule auprès des dev ZEND avec vos recommendations pour changer les choses rapidement, maintenant que vous avez une bonne raison de le faire et d'être écouté. Il suffit qu'un dead lock traîne par là ou tout simplement qu'une erreur non gérée survienne côté PHP en plein milieu d'une transaction pour bloquer vos verrous et mettre tous les autres processus en attente, jusqu'à temps que le serveur tue le processus fautif (timeout=30min par hasard?). Vérifiez à ce propos que vos problèmes de charge ne coïncident pas avec une mise à jour mal débugguée au niveau PHP.
Cela va vous permettre de savoir aussi si le problème survient dans un contexte d'écriture ou non.

Vous avez beaucoup trop de jointures sans index, et vous devriez prendre au sérieux le % d'écriture de table temporaires sur disque (perfs / 1000 au bas mot) que vous ne devriez pas avoir du tout et du en grande partie aux fulls scans à répétition dont vous êtes victime.

Outre l'absence d'optimisation évidente d'une grande partie de vos requêtes, le pire à craindre dans tout cela serait que le schéma lui même soit en cause, et j'ai bien peur aussi vu le contexte ZEND que cela soit une réalité pour vous. En réglant les problèmes énnoncés que je vous ai présenté, vous devriez avoir le temps de voir venir les choses et cela devrait pouvoir vous laisser le temps de penser à migrer vers un autre SGBDR plus robuste le jour où la volumétrie de votre base atteindra sa taille critique par rapport aux faiblesses de l'applicatif géré et de son schéma associé.

Dans tous les cas, le fait que de relancer le serveur ne change rien à vos problèmes de charge, me laisse croire que l'origine de votre problème est fortement concurrentiel et transactionnel, d'où ce que j'ai exposé ici également.

J'espère avoir pu vous donner un début de réponse.

++

Jc

Dernière modification par Jc (21-06-2012 15:47:18)

glaucos · 21-06-2012 16:02:32

Bonjour JC

Merci pour votre réponse très détaillée. Voici les éléments demandés. Pour info, le serveur a subi des pics à 800 connexions simultanées durant cette journée sans soucis mémoire et cpu. Je ne comprends toujours pas l'événement d'hier !

> Concernant la partie myisam pourriez-vous me retourner les résultats de la requête suivante : SHOW GLOBAL STATUS LIKE 'Key_%';

mysql> SHOW GLOBAL STATUS LIKE 'Key_%';
+------------------------+----------+
| Variable_name | Value |
+------------------------+----------+
| Key_blocks_not_flushed | 0 |
| Key_blocks_unused | 578766 |
| Key_blocks_used | 2652 |
| Key_read_requests | 22037622 |
| Key_reads | 1840 |
| Key_write_requests | 261864 |
| Key_writes | 166769 |
+------------------------+----------+
7 rows in set (0.00 sec)

Votre environnement MyISAM est-il dissocié de votre environnement InnoDB (deux bases séparées) ? Si la réponse est non veuillez considérez fortement la remarque précédente.

> Effectivement, les deux environnements ne sont pas dissociés et aucun index au niveau du forum ..

Je pense que vous devriez commencer par activer votre log-queries-not-using-indexes pour analyser les retours qu'il va vous donner, car vous avez beaucoup trop de jointures sans indexs et donc beaucoup trop de full scan dans vos requêtes et pour pousser un grand coup de gueule auprès des dev ZEND avec vos recommendations pour changer les choses rapidement, maintenant que vous avez une bonne raison de le faire et d'être écouté. Il suffit qu'un dead lock traîne par là ou tout simplement qu'une erreur non gérée survienne côté PHP en plein milieu d'une transaction pour bloquer vos verrous et mettre tous les autres processus en attente, jusqu'à temps que le serveur tue le processus fautif (timeout=30min par hasard?).
Cela va vous permettre de savoir aussi si le problème survient dans un contexte d'écriture ou non.

> (timeout=30min par hasard?) --> Quelle est la variable qui définie ce timeout?

> J'ai activé ce log depuis une semaine mais je ne sais pas où les erreurs sont loggées ..

Vous avez beaucoup trop de jointures sans index, et vous devriez prendre au sérieux le % d'écriture de table temporaires sur disque (perfs / 1000 au bas mot) que vous ne devriez pas avoir du tout et du en grande partie aux fulls scans à répétition dont vous êtes victime.

> Est-il possible de spécifier plus de cache mémoire pour éviter temporairement les accès diques?

J'espère avoir pu vous donner un début de réponse.
> Oui, vous avez répondu très professionnellement, je vous en remercie

Jc · 21-06-2012 18:00:48

Bonjour,

Je ne vais me contenter que de vous donner les éléments de base pour vous permettre de trouver la source de votre problème, mais le plus gros de votre travail va résider dans la refonte des requêtes auprès de l'équipe de dev avec vos recommandations.

Donc pour que MySQL puisse gérer les deadlocks, il faut tout d'abord que innodb_table_locks=1 (valeur par défaut) et que la variable auto_commit=0 et que le serveur puisse connaître et accéder aux verous de lignes de la base. Le timeout corresponds à la variable innodb_lock_wait_timeout

Ensuite, bien que je sois beaucoup plus à l'aise avec du SQL Server, comme vous le savez déjà très certainement, que les seuls moyens que vous avez à votre disposition pour trouver les requêtes fautives sont principalement au nombre de deux avec MySQL.

- Faire un SHOW PROCESSLIST\G qui va vous lister les requêtes en cours d'éxécution. La colonne state va vous permettre de repérer les requêtes en attente et la colonne Info va vous donner le texte de la requête en attente. Ensuite selon les raisons pour laquelle la requête est bloquée, le message sur la colonne state ne sera pas toujours "Locked". Par exemple en cas de vérouillage d'une table par un ALTER TABLE, le message sera "Waiting for table".

Donc cette méthode sera malheureusement souvent le seul moyen disponible pour connaître quel client détient des verrous et bloque les autres clients. Parfois, comme vous le savez très certainement aussi cette commande ne pourra être suffisante notamment dans le cas d'une requête de type "FLUSH TABLES WITH READ LOCK", car le SHOW PROCESSLIST n'indiquera rien dans ce contexte.

La seule solution, si je ne me trompe pas, dans ce cas là est d'utiliser un SHOW OPEN TABLES mais qui ne va pas vous donner d'informations directement exploitables. Pour rappel la colonne in_use indique le nombre de verrous posés sur la table, et la colonne name_locked qui est différent de 0 si la table est utilisée pour une opération comme DROP TABLE ou RENAME TABLE.

Ensuite suite à votre résultat fourni sur la requête demandée, si elle indique une efficacité de votre cache d'index à plus de 99% elle montre qu'il en est tout autre sur votre cache d'index en écriture avec un taux de 36%. Vu que les données sont sur la même base, l'incidence peut être non négligeable sur votre transactionnel.

N'oubliez pas que le grand nombre de full scan dont vous êtes victime sur vos tables peut avoir un impact important sur vos verrous et donc sur votre transactionnel, car si innodb verrouille au niveau des lignes et non pas de la table, sur un fullscan, vous pouvez vous retrouver avec un verrou (partagé ou exclusif selon) sur chaque table concernée!

Voilà, tenez nous au courant cela fait toujours plaisir

Cordialement,

Jc.

EDIT: pour répondre à votre question quand ce log est actif, les erreurs sont loggées dans le slow_queries_log.

Dernière modification par Jc (21-06-2012 18:04:00)

glaucos · 21-06-2012 19:01:55

Merci beaucoup!

Ce qui est certain, c'est que le problème vient de requêtes non indexées .. j'ai activé le log no-index et je récupère une ligne par seconde .. ca vaut une fessée pour notre développeur ..

Jc · 21-06-2012 19:07:11

Merci beaucoup pour votre retour

Oui faut surtout pas hésiter lol

PHP|Débutant :: Forums

Advertisement

#1 21-06-2012 01:01:07

CPU 100% au démarrage du serveur

#2 21-06-2012 03:49:02

Re : CPU 100% au démarrage du serveur

#3 21-06-2012 10:24:31

Re : CPU 100% au démarrage du serveur

#4 21-06-2012 15:31:19

Re : CPU 100% au démarrage du serveur

#5 21-06-2012 16:02:32

Re : CPU 100% au démarrage du serveur

#6 21-06-2012 18:00:48

Re : CPU 100% au démarrage du serveur

#7 21-06-2012 19:01:55

Re : CPU 100% au démarrage du serveur

#8 21-06-2012 19:07:11

Re : CPU 100% au démarrage du serveur

Pied de page des forums