Simple DB backup
Материал из BiTel WiKi
Ok-2004 (Обсуждение | вклад) |
Ok-2004 (Обсуждение | вклад) |
||
Строка 220: | Строка 220: | ||
echo "$d prep_ok not found!" >> /var/bgb/xtra_log | echo "$d prep_ok not found!" >> /var/bgb/xtra_log | ||
echo "PREP_OK NOT FOUND!" | echo "PREP_OK NOT FOUND!" | ||
- | exit | + | exit |
fi | fi | ||
+ | </source> | ||
+ | |||
+ | |||
+ | ---- | ||
+ | P.S.2 | ||
+ | Вариант и использованием замечательного свойства percona xtrabackup делать "инкрементальные" бэкапы. | ||
+ | За день делаются 24 почасовых бэкапа в каталоге "var/bgb/". Отличительным свойством этого скрипта является то, что резервная копия базы почти сразу готова к использованию ( кроме последнего шага, отмеченнного в скрипте с комментариями "!1!" и "!2!".) | ||
+ | |||
+ | <source lang="bash"> | ||
+ | #!/bin/bash | ||
+ | #set -x | ||
+ | #бэкапим базу с такими ключами: | ||
+ | ARGS_B="--defaults-file=/etc/mysql/my.cnf --no-lock --no-timestamp --ibbackup=/usr/bin/xtrabackup_55 --user=root --password=xxxxx" | ||
+ | #"препарим" c такими: | ||
+ | ARGS_P="--use-memory=1G --defaults-file=/etc/mysql/my.cnf --apply-log --ibbackup=xtrabackup_55 --user=root --password=xxxxx" | ||
+ | #в файле ордер храним порядковый номер бэкапа в течение дня. (от 0 до 23) | ||
+ | if [ -f /var/bgb/order ] | ||
+ | then | ||
+ | source /var/bgb/order | ||
+ | else | ||
+ | echo "order=0" > /var/bgb/order | ||
+ | order=0 | ||
+ | fi | ||
+ | if [[ $order -eq 0 ]] | ||
+ | then | ||
+ | # в каталоге inc_0 храним полный бэкап в 0 часов, в каталогах inc_1... inc_23 - почасовые инкрементальные. | ||
+ | rm -rf /var/bgb/inc_0 | ||
+ | rm -rf /var/bgb/inc_0.bak | ||
+ | rm -f /var/bgb/*_log | ||
+ | innobackupex ${ARGS_B} /var/bgb/inc_0 > /var/bgb/inc_0_log 2>&1 | ||
+ | # Навсякий случай делаем копию. | ||
+ | cp -a /var/bgb/inc_0 /var/bgb/inc_0.bak | ||
+ | # "сбэкапили" и тутже частично "препарим" дабы не тратить время когда, настанет час "X" | ||
+ | innobackupex ${ARGS_P} --redo-only /var/bgb/inc_0 > /var/bgb/prep_0_log 2>&1 | ||
+ | echo "order=1" > /var/bgb/order | ||
+ | else | ||
+ | order_next=$((order+1)) | ||
+ | order_prev=$((order-1)) | ||
+ | rm -rf /var/bgb/inc_${order} | ||
+ | rm -rf /var/bgb/inc_${order}.bak | ||
+ | #бэкапим инкрементально | ||
+ | innobackupex ${ARGS_B} --incremental /var/bgb/inc_${order} --incremental-basedir=/var/bgb/inc_${order_prev} > /var/bgb/inc_${order}_log 2>&1 | ||
+ | cp -a /var/bgb/inc_${order} /var/bgb/inc_${order}.bak | ||
+ | case $order in | ||
+ | [1-9]|1[0-9]|2[0-2]) | ||
+ | # все промежуточные инкрементальные бэкапы "препарим" частично. | ||
+ | innobackupex ${ARGS_P} --redo-only /var/bgb/inc_0 --incremental-dir=/var/bgb/inc_${order} > /var/bgb/prep_${order}_log 2>&1 | ||
+ | echo "order=$order_next" > /var/bgb/order | ||
+ | ;; | ||
+ | 23) | ||
+ | # !1! последний дневной бэкап "препарим" полностью. | ||
+ | innobackupex ${ARGS_P} /var/bgb/inc_0 --incremental-dir=/var/bgback/inc_${order} > /var/bgb/prep_${order}_log 2>&1 | ||
+ | # !2! последний "prepare" - полный, чтобы создать логи транзакций iblog*. | ||
+ | innobackupex ${ARGS_P} /var/bgb/inc_0 > /var/bgb/prep_0_${order}_log 2>&1 | ||
+ | echo "order=0" > /var/bgb/order | ||
+ | ;; | ||
+ | esac | ||
+ | fi | ||
+ | |||
</source> | </source> |
Версия 02:31, 22 мая 2014
Большое спасибо пользователю ok-2004 с форума битела за помощь
UPDATE: Схема проверена и годится для переноса DB на другой сервер.
Используем Percona XtraBackup
Собирать и компилить ничего не надо - качаем binary, просто кидаем содержимое в каталог типа /usr/sbin/ что бы пути не писать.
cat /etc/rc.d/rc.full.backup
#!/bin/bash s_date=`date "+%Y-%m-%d_%H-%M-%S"` s_date_log=$s_date'_log' innobackupex \ --defaults-file=/var/lib/mysql/my.cnf.b \ --no-lock \ --no-timestamp \ --ibbackup=/usr/bin/xtrabackup_55 \ --user=root \ --password=mypassword \ /var/BACKUP/$s_date > /var/BACKUP/$s_date_log 2>&1 cp /var/lib/mysql/my.cnf /var/BACKUP/$s_date tar -cvzf /var/BACKUP/$s_date.tar.gz /var/BACKUP/$s_date >/dev/null 2>&1 rm -rf /var/BACKUP/$s_date
внимание на my.cnf.b - это тот же my.cnf, только пути проставлены полные, типа:
datadir=/var/lib/mysql/db
innodb_data_home_dir = /var/lib/mysql/db
innodb_log_group_home_dir = /var/lib/mysql/log
Перед восстановлением, развернув из архива, бекап надо подготовить:
cat prepare.backup.sh
#!/bin/bash log=$1'_log' innobackupex \ --use-memory=1G \ --defaults-file=/var/lib/mysql/my.cnf.b \ --apply-log \ --ibbackup=xtrabackup_55 \ --user=root \ --password=mypassword \ /var/BACKUP/$1 > /var/BACKUP/$log 2>&1
Само восстановление проводить лучше уже руками:
бездумно не стоит копировать эти строки
#/etc/init.d/mysql stop #rm -rf /var/lib/mysql/db #mkdir /var/lib/mysql/db #cp -av /var/BACKUP/full/bgbilling /var/lib/mysql/db #cp -av /var/BACKUP/full/mysql /var/lib/mysql/db #cp -av /var/BACKUP/full/performance_schema /var/lib/mysql/db #cp -av /var/BACKUP/full/ibd* /var/lib/mysql/db #chown -R mysql:mysql /var/lib/mysql/db #chown -R mysql:mysql /var/lib/mysql/log #chmod -R 775 /var/lib/mysql/ #/etc/init.d/mysql start
P.S.:
Следует отметить, что если ls -al /var/lib/mysql/bgbilling/*.ibd|wc -l будет больше 1024 - процесс бэкапа завершиться с ошибкой. Workaround этого находится в начале следущего "боевого скрипта" который бэкапит базу с числом таких файлов около 1837....:
#!/bin/bash #/var/bgb/full - временной каталог для бэкапов #/var/sos/ - подмонтированный через сеть, некий райд-массив... #боремся с досадным багом перконы ulimit -n 4096 d=`date +%d%m%g_%M%H` echo "$d" if [ -f /var/bgb/stop ] then #Предыдущий бэкап сбойнул, уходим отсюда... echo "STOP FOUND !" echo "$d stop found !" >> /var/bgb/xtra_log #Запускаем на компе админа со всего размаху алерт ему в консоль: export SSH_ASKPASS="/root/p.sh" export DISPLAY=":0" #ссашимся на комп админа без пароля но и без предварительного обмена ключами: ##cat p.sh #!/bin/bash #echo "МойСамыйСекретныйПарольНаКомпАдмина" setsid ssh admin@ip.компа.админа "wall \"А у вас очередной бэкап не прошёл... ;) ! \"" exit 1 fi ############################################################# #Начинаем и навсякий случай сразу напишем завещание touch /var/bgb/stop #Расчищаем место : if [ -d /var/bgb/full ] ; then rm -rf /var/bgb/full fi if [ -f /var/bgb/full_log ] ; then rm -f /var/bgb/full_log fi if [ -f /var/bgb/prep_log ] ; then rm -f /var/bgb/prep_log fi if [ -f /var/bgb/full_ok ] ; then rm -f /var/bgb/full_ok fi if [ -f /var/bgb/prep_ok ] ; then rm -f /var/bgb/prep_ok fi # echo "FULL BEGIN!" innobackupex \ --defaults-file=/etc/mysql/my.cnf \ --no-lock \ --no-timestamp \ --ibbackup=/usr/bin/xtrabackup_55 \ --user=root \ --password=xxxxx \ /var/bgb/full > /var/bgb/full_log 2>&1 if [ -z "`tail -1 /var/bgb/full_log | grep 'completed OK!'`" ] then #Чота с базой нето... валим отсюда, завещание оставляем echo "$d full fail!" >> /var/bgb/xtra_log echo "FULL FAIL!" exit 1 else touch /var/bgb/full_ok echo "FULL OK!" fi ############################################################################## if [ -f /var/bgb/full_ok ] && [ -d /var/bgb/full ] then #Вродь бэкап сработал, значит начинаем его приводить в человеческий вид echo "PREP BEGIN!" innobackupex \ --use-memory=1G \ --defaults-file=/etc/mysql/my.cnf \ --apply-log \ --ibbackup=xtrabackup_55 \ --user=root \ --password=xxxxx \ /var/bgb/full > /var/bgb/prep_log 2>&1 if [ -z "`tail -1 /var/bgb/prep_log | grep 'completed OK!'`" ] then #сбойнуло, валим отсюда, завещание адмниу оставляем... echo "$d prep fail!" >> /var/bgb/xtra_log echo "PREP FAIL!" exit 1 else touch /var/bgb/prep_ok echo "PREP OK!" fi else echo "$d full_ok not found!" >> /var/bgb/xtra_log echo "FULL_OK NOT FOUND!" exit 1 fi ################################################################################## if [ -f /var/bgb/prep_ok ] && [ -d /var/bgb/full ] then #Бэкап вродь успешен , начинаем копировать на ремотный стораж... echo "COPY BEGIN!...." space=`df -h /var/sos|awk '{print $5}'|grep -v Use|cut -d % -f1 -` case $space in [1-8]*|9) echo "/VAR/SOS almost full!" ;; 9[1-9]) echo "/var/sos/ full !" >> /var/bgb/xtra_log echo "/VAR/SOS/ cleaning...!" for d_i in `find /var/sos/ -maxdepth 1 -type d \( ! -iname "lost+found" ! -name "*.bak" \) -mtime +30 -print` do echo "$d_i" read -s -t5 -n1 -r -p "del ? OK ?" key if [ $? -eq 0 ]; then case $key in [Yy]* ) rm -rf "$d_i"; ;; * ) echo "$d_i will not deleted" ;; esac fi done #find /var/sos/ -maxdepth 1 -name "full_*" -type d -mtime +17 -exec rm -rf "{}" \; ;; esac rm -f /var/sos/cp_* if [ -d /var/sos/full ] then mv /var/sos/full /var/sos/full_$d fi cp -av /var/bgb/full /var/sos > /var/sos/cp_log 2>&1 if [ $? != 0 ] then #Чота сегодня не копируется, блин.... echo "$d copy fail!" >> /var/bgb/xtra_log echo "COPY FAIL!" exit 1 else echo "COPY OK!" #Ну вродь все! Завещание рвём! rm -f /var/bgb/stop fi else echo "$d prep_ok not found!" >> /var/bgb/xtra_log echo "PREP_OK NOT FOUND!" exit fi
P.S.2 Вариант и использованием замечательного свойства percona xtrabackup делать "инкрементальные" бэкапы. За день делаются 24 почасовых бэкапа в каталоге "var/bgb/". Отличительным свойством этого скрипта является то, что резервная копия базы почти сразу готова к использованию ( кроме последнего шага, отмеченнного в скрипте с комментариями "!1!" и "!2!".)
#!/bin/bash #set -x #бэкапим базу с такими ключами: ARGS_B="--defaults-file=/etc/mysql/my.cnf --no-lock --no-timestamp --ibbackup=/usr/bin/xtrabackup_55 --user=root --password=xxxxx" #"препарим" c такими: ARGS_P="--use-memory=1G --defaults-file=/etc/mysql/my.cnf --apply-log --ibbackup=xtrabackup_55 --user=root --password=xxxxx" #в файле ордер храним порядковый номер бэкапа в течение дня. (от 0 до 23) if [ -f /var/bgb/order ] then source /var/bgb/order else echo "order=0" > /var/bgb/order order=0 fi if [[ $order -eq 0 ]] then # в каталоге inc_0 храним полный бэкап в 0 часов, в каталогах inc_1... inc_23 - почасовые инкрементальные. rm -rf /var/bgb/inc_0 rm -rf /var/bgb/inc_0.bak rm -f /var/bgb/*_log innobackupex ${ARGS_B}|> /var/bgb/inc_0 > /var/bgb/inc_0_log 2>&1 # Навсякий случай делаем копию. cp -a /var/bgb/inc_0 /var/bgb/inc_0.bak # "сбэкапили" и тутже частично "препарим" дабы не тратить время когда, настанет час "X" innobackupex ${ARGS_P}|> --redo-only /var/bgb/inc_0 > /var/bgb/prep_0_log 2>&1 echo "order=1" > /var/bgb/order else order_next=$((order+1)) order_prev=$((order-1)) rm -rf /var/bgb/inc_${order}|> rm -rf /var/bgb/inc_${order}|>.bak #бэкапим инкрементально innobackupex ${ARGS_B}|> --incremental /var/bgb/inc_${order}|> --incremental-basedir=/var/bgb/inc_${order_prev}|> > /var/bgb/inc_${order}|>_log 2>&1 cp -a /var/bgb/inc_${order}|> /var/bgb/inc_${order}|>.bak case $order in [1-9]|1[0-9]|2[0-2]) # все промежуточные инкрементальные бэкапы "препарим" частично. innobackupex ${ARGS_P}|> --redo-only /var/bgb/inc_0 --incremental-dir=/var/bgb/inc_${order}|> > /var/bgb/prep_${order}|>_log 2>&1 echo "order=$order_next" > /var/bgb/order ;; 23) # !1! последний дневной бэкап "препарим" полностью. innobackupex ${ARGS_P}|> /var/bgb/inc_0 --incremental-dir=/var/bgback/inc_${order}|> > /var/bgb/prep_${order}|>_log 2>&1 # !2! последний "prepare" - полный, чтобы создать логи транзакций iblog*. innobackupex ${ARGS_P}|> /var/bgb/inc_0 > /var/bgb/prep_0_${order}|>_log 2>&1 echo "order=0" > /var/bgb/order ;; esac fi