Introduction

This page describes the process of rebuilding a Slave-DB & Replication. Since the MySQL Dump command locks the tables, there is no need to create it when there is no traffic on the machine. It can be done during operational hours. With --master-data the command mysqldump stores the correct position for inserting the replication on the slave server.

Step-By-Step Guide

STOP SLAVE

Login to the Slave Database MySQL and stop the slave SQL. Leave MySQL again afterwards. Use the following commands for this:

mysql -uUSER -pPWD
STOP SLAVE;
QUIT;

Phase 1 - MySQL Dump

A MySQL Dump of the master database is now created. Perform the following steps to create a MySQL Dump and save it to the STORE:

jtel Portal software release

Log in to the Load Balancer of the cluster and execute the following commands as the jtel user

# Find out which software release is installed
cd /srv/jtel/shared/JTELCarrierPortal
git status

# If /srv/jtel/.. does not exist on the load balancer, attempt this
cd /home/jtel/shared/JTELCarrierPortal
git status

# Expected output
release-stable/3.XX

Create Backup Directory

# Create backup directory SLAVE MySQL Dump - Until jtel Portal release 3.12
mkdir /srv/jtel/shared/backup/DATUM

# If /srv/jtel/.. does not exist on the load balancer, attempt this
mkdir /srv/jtel/shared/backup/DATUM

Create MySQL Dump

MySQL Dump - Until jtel Portal release 3.12

# Change to backup directory
cd /srv/jtel/shared/backup/DATUM
# Create MysQL Dump
mysqldump -uUSER -pPWD -h<Alias or IP-Adress of master database> --single-transaction --master-data=1 --databases JTELWeb JTELStats JTELLog --add-drop-database --add-drop-table --events --routines --triggers > acd-dbm_<yyyymmdd>.sql

MySQL Dump - From jtel Portal release 3.12 until latest release

# Change to backup directory
cd /srv/jtel/shared/backup/DATUM
# Create MysQL Dump
mysqldump -uUSER -pPWD -h<Alias or IP-Adress of master database> --single-transaction --master-data=1 --databases JTELWeb JTELStats JTELStats2 JTELLog --add-drop-database --add-drop-table --events --routines --triggers > acd-dbm_<yyyymmdd>.sql

MySQL Dump - From MySQL 8.0.27

To Check for MySQL Version, log in to the master database server and execute the following command

mysql --version

# Change to backup directory
cd /srv/jtel/shared/backup/DATUM
# Create MysQL Dump
mysqldump -uUSER -pPWD -h<Alias or IP-Adress of master database> --single-transaction --source-data --databases JTELWeb JTELStats JTELStats2 JTELLog --add-drop-database --add-drop-table --events --routines --triggers > acd-dbm_<yyyymmdd>.sql

Brief Explanation of the mysqldump command

• <Name LogFile> and <Position LogFile> are saved through --master-data or --source-data in the dump

• use only the JTEL databases '--databases'

• delete all databases before import  '--add-drop-database'

• delete all tables of the databases before import '--add-drop-table'

• Implement all routines and procedures in the dump '--events --routines'

• Additionally the parameter --default_character_set utf8 can be used

Phase 2 - Import Dump on Slave Database

Import Dump - tmux

# switch to root user
su root
# start tmux sub-session
tmux new
# change to the directory where the dump file is located
cd /srv/jtel/shared/backup/DATE/
# copy the name
ls -als
# log in to mysql and import the dump
mysql -uroot -p<password>
source <acd-dbm_<yyyymmdd>.sql>

Import Dump - No tmux

# switch to root user
su root
# change to the directory where the dump file is located
cd /srv/jtel/shared/backup/DATE/
# copy the name
ls -als
# log in to mysql and import the dump
mysql -uroot -p<password>
source <acd-dbm_<yyyymmdd>.sql>

Start Slave - tmux

# If not attached to the sub-session anymore
tmux attach
# Start Slave SQL
START SLAVE;
# Check Slave Status
SHOW SLAVE STATUS \G

Start Slave - No tmux

# Start Slave SQL
START SLAVE;
# Check Slave Status
SHOW SLAVE STATUS \G

Slave Disk Full

There are several reasons why the slave disk can become full. Following is a summary of the different cases and further below is a detailed explanation:

tmp Directory Is Full

Introduction

Every time a query creates a tmp table, it is written to the temp directory, usually /tmp. This happens when the maximum size exceeds the maximum "in memory" table size. This is defined with the variables tmp_table_size aswell as max_heap_table_size .

The tables in /tmp are kept until the respective DB connection is closed or a DROP TEMPORARY TABLE is called. If the /tmp directory is full, it is likely that a DROP TEMPORARY TABLE is missing somewhere. This can also happen through customer queries to the DB.

The installation of tmpwatch creates help in a permanent way

Hints:

• On CentOS 6 the /tmp directory is then by default freed from files that have not been accessed for > 10 days
  
  • Circumstantially this may not be sufficient
• On CentOS 7 the /tmp directory is then freed by default from files that have not been accessed for> 1 day

Procedure

1. Space must first be made available. Just mercilessly delete everything from /tmp.
2. If this provides enough space, then restart the mysql service first: service mysql restart
3. If there is enough space (at least about 20%), then proceed with replication as described above.

Lots of "relay logs" available

Introduction

MySQL first writes the relay logs from the master to a file. Once replication is interrupted, but the slave relay process continues to operate, the disk is filled by relay logs. 

This step should be done in any case, especially before the next one (ibdata too large) to make room.

Procedure

The files for the database are usually located in /var/lib/mysql

If not, the location can be found in /etc/my.cnf The corresponding entry is datadir=(pfad)

Delete all relay logs:

Restart MySQL service

service mysqld restart

If enough space is available (at least 20%) then proceed with the slave recovery as described above.

ibdata files on the slave "very large"

Introduction

The files for the database are usually located in /var/lib/mysql

Procedure

If no less than 100% disk can be achieved by the steps above:

Unsubscribe the MySQL service from the autostart:

systemctl disable mysqld

Restart the computer with :

systemctl reboot now

Only works if less than 100% disk is reached (possibly after reboot above) then

Log on to the mysql server:

mysql -u root -p

Drop all JTEL databases:

SET FOREIGN_KEY_CHECKS=0;
DROP DATABASE JTELLog;
DROP DATABASE JTELStats;
DROP DATABASE JTELWeb;
SET FOREIGN_KEY_CHECKS=1;

Press CTRL+C to return to the command line, and then

service mysqld stop
rm /var/lib/mysql/ibdata*
rm /var/lib/mysql/ib_log_*

Start MySql Server, and enable it again if necessary:

service mysqld start
service mysqld enable

Check disk space, and proceed with Slave Restore as described above.

Still no disk space > 20% free

Introduction

The slave disk space is still full, more than 80% of the space on the drive is used by normal operation

Solution

In this case the slave is simply too small. The hard disk must be expanded (as with extending the STORE role, apply only to the logical volume where the MySQL database data resides). Then perform the steps again, if the disk is too small, then restore the slave as described above.

Or the slave is completely rebuilt with a larger plate.

Reconstruire la BD-esclave et Réplication

Comme la commande mysqldump verrouille les tables, il n'est pas nécessaire qu'il n'y ait pas de trafic sur la base de données principale. Avec --master-data, la commande mysqldump enregistre la position correcte pour l'insertion de la réplication sur le serveur esclave. 

Si le disque dur de l'esclave est plein, veuillez vous référer aux instructions sur cette page ci-dessous - "Disque d'esclave complet".

1. Connexion à serveur esclaves
   

   • Connectez-vous à MySQL avec les identifiants USER et PWD, puis arrêtez l'esclave et quittez MySQL à nouveau. Utilisez pour cela les commandes suivantes :

     Translations Ignore
     mysql -uUSER -pPWD STOP SLAVE; RESET SLAVE; QUIT;

     
     

   • Redémarrez le serveur MySQL avec la commande suivante :

     • Sur le serveur CentOS: service mysqld restart

     • Sur le serveur Debian: service mysql restart

2. Écrire un dump MySQL. Exécutez maintenant les étapes suivantes sur le serveur maître. Créez un répertoire de sauvegarde et changez pour le même. Le dumb MySQL est maintenant exécuté avec la commande suivante

   • mysqldump -uUSER -pPWD --single-transaction --master-data=2 --databases JTELWeb JTELStats JTELLog --add-drop-database --add-drop-table --events --routines --triggers > filename.sql

     A partir de la version 3.12, veuillez utiliser la commande suivante :

   • mysqldump -uUSER -pPWD --single-transaction --master-data=2 --databases JTELWeb JTELStats JTELStats2 JTELLog --add-drop-database --add-drop-table --events --routines --triggers > filename.sql


   Voici une brève explication à ce sujet :

   • <Name LogFile> et <Position LogFile> sont enregistrés grâce à --master-data dans le dump
   • utiliser uniquement les bases de données JTEL '--databases'
   • supprimer toutes les bases de données avant l'importation  '--add-drop-database'
   • supprimer toutes les tables des bases de données avant l'importation '--add-drop-table'
   • Mettre en œuvre toutes les routines et procédures dans la décharge '--events --routines'
   • De plus, le paramètre --default_character_set utf8 peut être utilisé
     
     

   Warning

   Dans les versions 3.12, 3.14 et 3.15 Si quelqu'un se connecte au portail pendant que le vidage est extrait, cela va mal tourner. J'ai joint une requête SQL. Si l'heure change après l'exécution de la requête, une connexion a eu lieu. Si cela se produit, la décharge doit être à nouveau retirée et, dans l'intervalle, il faut vérifier en permanence si une connexion a eu lieu. Si ce n'est pas le cas, le dépôt peut être reproduit sans erreur à l'esclave. SELECT Max(dtAcdLoggedIn) FROM Users; Dans les versions 3.11 et inférieures et la version 3.16, ce problème n'existe pas.

   
   

3. Copier le dump MySQL du serveur de base de données maître vers le serveur de base de données esclave
   Utilisez l'outil de votre choix : ligne de commande (scp), WinSCP, ...
   
   

4. Nous retournons à la serveur esclave et maintenant importer mysqldump.

   Translations Ignore
   mysql -uUSER -pPWD (we are now in MySql) SET foreign_key_checks = 0; drop database JTELLog; drop database JTELStats; drop database JTELWeb; drop database JTELStats2; SET foreign_key_checks = 1; source <filename>;

   
   

5. Nous sommes en train de déterminer les paramètres de réplication, car nous en aurons besoin dans un instant :
   
   • Dans le fichier mysqldump, au tout début, nous trouvons une ligne dans le bloc de commentaires qui ressemble à ceci : CHANGE MASTER TO MASTER_LOG_FILE='binlog.000872', MASTER_LOG_POS=11940974;Mémoriser les paramètres MASTER_LOG_FILE et MASTER_LOG_POS.
   • Nous avons besoin du nom ou de l'adresse IP du serveur principal de la base de données
   • Nous avons besoin du mot de passe de l'utilisateur repl sur le serveur de base de données principal. Généralement, c'est always le Mot de passe Utilisateur root - la façon la plus simple de l'essayer est de se connecter de l'esclave au maître avec ce mot de passe : mysql -h <masterIP> -u repl -p<Passwort> - si cela fonctionne, alors vous savez.
6. Maintenant, sur le serveur esclave, il y a déjà un état cohérent et relativement nouveau des données. Il ne reste plus qu'à reconfigurer la réplication. Les commandes suivantes font cela:

   • mysql -uUSER -pPWD

   • CHANGE MASTER TO MASTER_HOST='<name or ip of master servers>',MASTER_USER='repl',MASTER_PASSWORD='<passwort>',MASTER_LOG_FILE='<Name LogFile>', MASTER_LOG_POS=<Position LogFile>;
     Ici, tous les paramètres doivent être remplacés par ceux de l'étape 5.

     Translations Ignore
     START SLAVE;

     
     

   Maintenant, nous vérifions le statut de l'esclave (plusieurs fois) avec la commande 

   Translations Ignore
   SHOW SLAVE STATUS\G

   
   

   et attendez le résultat suivant :
   

   • Slave_IO_Running: Oui

   • Slave_SQL_Running: Oui

   Maintenant, la réplication fonctionne à nouveau. Le nom du fichier journal et la position devraient rapidement correspondre à peu près au statut de maître d'exposition sur la base de données principale.
   
   
7. N'oubliez pas de nettoyer les déchets de données! C'est à dire. supprimer mysqldumps et répertoires au moins sur l'esclave. Une sauvegarde peut rester sur la base de données principale, à condition qu'il y ait suffisamment d'espace.

Disque d'esclave complet

Il y a plusieurs raisons pour lesquelles le disque esclave peut devenir plein.

le répertoire tmp est complet

Informations générales

Chaque fois qu'une requête crée une table tmp, elle est écrite dans le répertoire temporaire, généralement/tmp. Cela se produit lorsque la taille maximale dépasse la taille maximale de la table "en mémoire". Ceci est défini avec les variables tmp_table_size aussi bien que max_heap_table_size .

See also https://dev.mysql.com/doc/refman/5.6/en/internal-temporary-tables.html pour plus d'informations. 

Les tables dans / tmp sont conservées jusqu'à ce que la connexion DB respective soit fermée ou qu'une DROP TEMPORARY TABLE soit appelée. Si le répertoire / tmp est plein, il est probable qu'un DROP TEMPORARY TABLE manque quelque part. Cela peut également se produire via des requêtes client adressées à la base de données.

L'installation de tmpwatch crée de l'aide de façon permanente

Indices:

• Sous CentOS 6, le répertoire /tmp est alors par défaut libéré des fichiers qui n'ont pas été consultés pour > 10 jours
  
  • Cela peut ne pas être suffisant
• Sous CentOS 7, le répertoire /tmp est alors libéré par défaut des fichiers qui n'ont pas été consultés depuis > 1 jour

Procédure

1. Un espace doit d'abord être mis à disposition. Il suffit de tout supprimer impitoyablement dans /tmp.
2. Si cela permet de disposer de suffisamment d'espace, il faut d'abord redémarrer le service mysql : service mysql restart
3. S'il y a suffisamment d'espace (au moins environ 20 %), il faut alors procéder à la réplication comme décrit ci-dessus.

Beaucoup de "journaux de relais" disponibles

MySQL écrit d'abord les journaux de relais du maître dans un fichier. Une fois que la réplication est interrompue, mais que le processus de relais esclave continue à fonctionner, le disque est rempli par les journaux de relais. 

Cette étape doit être effectuée dans tous les cas, surtout avant la prochaine (ibdata trop grande) pour faire de la place.

Procédure

Les fichiers de la base de données se trouvent généralement dans /var/lib/mysql

Si ce n'est pas le cas, le lieu peut être trouvé dans /etc/my.cnf L'entrée correspondante est datadir=(pfad)

1. Effacer tous les journaux de relais :

   Translations Ignore
   cd /var/lib/mysql rm mysqld-relay-bin*

   Redémarrer le service MySQL

   Translations Ignore
   service mysqld restart

   Si l'espace disponible est suffisant (au moins 20 %), il faut alors procéder à la récupération d'esclave comme décrit ci-dessus.

fichiers ibdata sur l'esclave "très grand"

Les fichiers de la base de données se trouvent généralement dans /var/lib/mysql

Procédure

1. Si les étapes ci-dessus permettent d'atteindre au moins 100 % de disque :
   

   1. Désinscrire le service MySQL au démarrage automatique :

      Translations Ignore
      service mysqld disable

      
      

   2. Redémarrez l'ordinateur avec :

      Translations Ignore
      reboot

      Ne fonctionne que si le disque est inférieur à 100% (éventuellement après le redémarrage ci-dessus) alors

      1. Connectez-vous au serveur mysql :

         Translations Ignore
         mysql -u root -p

         
         

      2. Supprimer toutes les bases de données JTEL :

         Translations Ignore
         SET FOREIGN_KEY_CHECKS=0; DROP DATABASE JTELLog; DROP DATABASE JTELStats; DROP DATABASE JTELWeb; SET FOREIGN_KEY_CHECKS=1;

         Appuyez sur CTRL+C pour revenir à la ligne de commande, puis

         Translations Ignore
         service mysqld stop rm /var/lib/mysql/ibdata* rm /var/lib/mysql/ib_log_*

         Démarrez MySql Server, et réactivez-le si nécessaire :

         Translations Ignore
         service mysqld start service mysqld enable

         Vérifiez l'espace disque, et procédez à la restauration des esclaves comme décrit ci-dessus.

Toujours pas d'espace disque > 20% gratuit

Dans ce cas, l'esclave est tout simplement trop petit. Le disque dur doit être étendu (comme pour l'extension du rôle STORE, ne s'applique qu'au volume logique où résident les données de la base de données MySQL). Effectuez ensuite à nouveau les étapes, si le disque est trop petit, restaurez l'esclave comme décrit ci-dessus.

Ou bien l'esclave est complètement reconstruit avec une plaque plus grande.