rsync
Par placeoweb, lundi 20 novembre 2006 à 00:47 :: Système :: #46 :: rss
Copie et synchronisation de dossiers sur des serveurs différents
Il existe d'autre outils de synchronisation, mais rsync est très efficace.
Voici comment copier manuellement (en saisissant le mot de passe) votre racine web vers un un autre serveur :
rsync --verbose --delete --archive --progress -e "ssh -p <port>" /var/www/ 25.91.13.67:/var/www/
La commande rsync est très complète. Voir man rsync pour plus de détails.
Pour passer outre la saisie du mot de passe il faut générer les clefs RSA pour SSH, ou utiliser Rsync en tant que daemon sur le serveur qui réceptionne.
Pour se loguer du serveur1 au serveur2 sans authentification, voici comment procéder :
- Sur le serveur1 :
serveur1:~# ssh-keygen Generating public/private rsa key pair. Enter file in which to save the key (/root/.ssh/id_rsa): Enter passphrase (empty for no passphrase): Enter same passphrase again: Your identification has been saved in /root/.ssh/id_rsa. Your public key has been saved in /root/.ssh/id_rsa.pub. The key fingerprint is: 26:12:25:37:13:f5:22:19:67:26:58:e3:4c:5c:43:56 root@serveur1 serveur1:~# l /root/.ssh/id_rsa -rw--- 1 root root 1675 2008-06-21 01:22 /root/.ssh/id_rsa
- Sur le serveur2 :
Complétez le fichier /root/.ssh/authorized_keys avec le contenu de /root/.ssh/id_rsa.pub du serveur1
Pour vérifier que cela fonctionne, un simple
ssh ip_serveur2
devrait vous connecter à la machine sans demander de mot de passe.
- danslesbois nous explique comment faire de manière automatique avec les clefs RSA + RSYNC.
Mais voici comment faire rapidement un script après avoir générer et recopier les clefs SSH (détaillé plus haut) :
1ere erreur : déclaration des options de rsh dans une variable : options="--verbose --archive --progress --exclude-from=rsync.excludes.list --rsh=\"ssh -p 1222\""
serveurSource:~# ./rsync.auto.sh Missing trailing-" in remote-shell command. rsync error: syntax or usage error (code 1) at main.c(348) [sender=2.6.9]
Je n'ai pas réussi à outre passer ce problème, j'ai du mettre la ligne de commande directement : rsync -e "ssh -p ${REMOTE_PORT}" $OPTS $LOCAL_PATH $REMOTE_USER@$REMOTE_HOST:$REMOTE_PATH
Voici le script final (tiré de Ubuntu Forums Shell Script + Rsync) :
# Path...
export PATH=$PATH:/bin:/usr/bin:/usr/local/bin
# Files and folders to backup...
FILES=rsync.files.list
# Files and folders to skip...
EXCLUDES=rsync.excludes.list
# Files and folders that would have been skipped, but special cases...
INCLUDES=rsync.exclude-exceptions.list
# Our hostname...
HOSTNAME=$(uname -n)
# Make sure we are being run as root...
if [ "$(id -u)" != "0" ]; then
echo "You must run the script as root, since it needs to backup stuff system wide." 1>&2
exit 1
fi
# Location source file
LOCAL_PATH=/var/www/
# Location to store backup...
REMOTE_HOST=25.91.13.67
REMOTE_PORT=1222
REMOTE_USER=root
REMOTE_PATH=/var/www/
# Rsync options...
OPTS="-avrz
--compress-level=9
--itemize-changes
--delete
--delete-excluded
--human-readable
--files-from=$FILES
--include-from=$INCLUDES
--exclude-from=$EXCLUDES
--progress
--stats"
OPTS="--verbose
--archive
--progress
--exclude-from=$EXCLUDES
--stats"
# Display greeter...
echo "Preparing to backup" $HOSTNAME "in 5 seconds with the following command..."
# Echo command to run...
echo rsync -e \"ssh -p ${REMOTE_PORT}\" $OPTS $LOCAL_PATH $REMOTE_USER@$REMOTE_HOST:$REMOTE_PATH
#sleep 3
rsync -e "ssh -p ${REMOTE_PORT}" $OPTS $LOCAL_PATH $REMOTE_USER@$REMOTE_HOST:$REMOTE_PATH
Vous pouvez également vous en servir avec windows : Cygwin : rsync configuration
Rsync est un outil Unix puissant pour synchroniser des arborescences de fichiers entre machines distantes. Utile pour éviter des copies complètes systématiques. Nous détaillerons ici, la copie d'un dossier depuis une machine Windows vers un serveur Linux avec Rsync.
Principe de la connexion
Sur le PC serveur, rsync tourne en mode serveur. Il faut donc créer une configuration adéquate.
Sur le PC client, le rsync (installé avec cygwin).
Pour résumer : - coté client : cygwin fait tourner rsync en ligne de commande. - coté serveur : rsync en mode serveur, et une configuration fichier pour les modules à synchroniser est nécessaire.
Vérification de la bonne installation de rsync
La manipulation suivante est valable aussi bien côté serveur que client.
Sur le serveur :
$ rsync --help
rsync version 2.6.4 protocol version 29
Copyright (C) 1996-2005 by Andrew Tridgell and others
<http://rsync.samba.org/>
Capabilities: 64-bit files, socketpairs, hard links, symlinks, batchfiles,
inplace, IPv6, 64-bit system inums, 64-bit internal inums
Sur le poste Windows :
C:\Program Files\cwRsync\bin>rsync.exe --help
rsync version 2.6.9 protocol version 29
Copyright (C) 1996-2006 by Andrew Tridgell, Wayne Davison, and others.
<http://rsync.samba.org/>
Capabilities: 64-bit files, socketpairs, hard links, symlinks, batchfiles,
inplace, no IPv6, 64-bit system inums, 64-bit internal inums
Installation de rsync comme serveur (sur une distribution Debian)
$ apt-get install rsync
Ensuite tant que que n'aurez pas créer les fichiers de configuration vous ne pourrez pas le lancer.
Documentation
La configuration est décrite sur Internet sur le site rsync.samba.org (le site officiel avec toute la documentation).
On peut obtenir de l’aide sur les options par :
rsync --help
Et bien sur le manuel en ligne est disponible par :
man rsync
Configuration détaillée
La configuration de rsync consiste a modifier plusieurs fichiers :
- /etc/rsyncd.conf (fichier à créer dans notre cas)
- /etc/rsyncd.pid (créé par le processus lui-même)
- /etc/rsyncd.secrets (utilisé pour une authentification rsync)
Exemple de fichier /etc/rsyncd.conf
Ce fichier correspond à notre cas d’utilisation. Voir la doc en ligne pour d’autres besoins. Créer et éditer le fichier (vi) :
####### fichier /etc/rsyncd.conf ######
[rsyncftp]
comment = aire de sauvegarde des fichiers via rsync
path = /RsyncDepot
use chroot = false
max connections = 1
read only = false
# The default is uid -2, which is normally the user "nobody".
#uid = nobody
# The default is gid -2, which is normally the group "nobody".
#gid = nobody
# The "auth users" option specifies a comma and space-separated list of usernames that will be allowed to connect to this module. The usernames do not need to exist on the local system.
auth users = utilisateur
# The "secrets file" option specifies the name of a file that contains the username:password pairs used for authenticating this module. This file is only consulted if the "auth users" option is specified.
secrets file = /etc/rsyncd.secrets
# The "hosts allow" option allows you to specify a list of patterns that are matched against a connecting clients hostname and IP address.
hosts allow = 81.241.141.1
# 81.241.141.1 = l'ip Wan de votre ordinateur windows
####### fichier /etc/rsyncd.secrets ###### utilisateur:motDePasse
Problèmes rencontrés :
Le service rsync ne démarre pas car le fichier rsyncd.conf n’est pas trouvé (d’après l’observateur d'évènement). Il faut créer ce fichier de configuration.
"@ERROR : chroot failed" : le uid est nécessaire sinon le user utilisé est "nobody" par défault. Il n’a surement pas les droits pour écrire, et cela provoque cette erreur. Le UserName que j’utilise est le même que celui qui est utilisé sur la connexion ssh (ça peut aider ?). Cette erreur peut aussi se produire si les répertoires cibles n’existent pas, ou si le path d’un module contient un espace (je n’ai pas trouvé comment permettre un espace dans le path d’un module).
"ERROR : module is read only" : par défaut le paramètre de configuration "read only" est à true ! Il suffit de le passer a false et de relancer le service.
"@ERROR : chdir failed" : vérifier les droits en écriture sur le répertoire cygwin pour l’utilisateur par : ls -iul répertoire Cette erreur peut apparaitre après passage du rsync serveur en mode service Windows (voir plus loin) alors que tout marchait bien avant. En effet par défaut le service se lance en tant que SYSTEM, et SYSTEM n’a pas forcément les droits (du point de vue de cygwin). Solutions : lancer le service sous le même utilisateur que le possesseur des répertoires à synchroniser, ou changer les droits sur ces répertoires pour autoriser l’écriture. Au pire, faire chmod 777 -R path-of-the-directory-to-synchronise Donc dans notre cas, nous ferons :
$ mkdir /RsyncDepot $ chmod 777 RsyncDepot
Vérification de la connexion
Depuis le client, la commande suivante va lister les modules (répertoires) disponibles pour rsync sur la machine distante :
C:\Program Files\cwRsync\bin>rsync.exe machine.monserveur.com:: rsyncftp aire de sauvegarde des photos via rsync
Le module "rsyncftp" doit être présenté. Noter le "::" qui signifie que l’on se connecte directement par rsync (rsync ne voit pas le ssh de putty).
Lignes de commandes côté client
J’ai choisi de ne pas utiliser la conservation des user et group, ni d’archive ou de conservation de Device Name. Je ne copie que mon disque Windows vers un serveur Unix sans utiliser les utilisateurs système, mais en utilisant l'authentification des utilisateurs uniquement définit pour Rsync (/etc/rsyncd.secrets sur le serveur) Les seules options utilisées sont :
- -a, --archive : mode archive; identique a -rlptgoD (pas -H)
- -v, --verbose : mode verbeux (détail des logs)
- -z, --compress : compresse les fichiers durant le transfert
- --password-file : lit le mot de passe depuis le fichier indiqué
- --delete : pour effacer sur le serveur les fichiers qui n'existent plus sur votre PC
- --progress : pour voir l'évolution du transfert du fichier en cours
Le détail de l'option -a :
- -r, --recursive : récursivité
- -l, --links : copie les liens symboliques en tant que liens symboliques
- -p, --perms : conserve les permissions (droits) sur les fichiers
- -t, --times : conservation des "time stamp" (heures) des fichiers (nécessaire pour la synchro).
- -g, --group : conservation du groupe
- -o, --owner : conservation de l'utilisateur
- -D : identique à --devices --specials
Au besoin selon votre connexion :
- -z, --compres : compression (pour économiser la bande passante).
La ligne de commande pour copier du client vers le serveur est :
rsync.exe -v -a --delete --progress --password-file=/cygdrive/C/pass.txt /cygdrive/c/MesImages utilisateur@machine.monserveur.com::rsyncftp
avec votre fichier mot de passe situé sur C:\pass.txt :
####### fichier C:\pass.txt ###### motDePasse
La ligne de commande pour copier du serveur vers le client est :
rsync -z -a machine.monserveur.com::rsyncftp /cygdrive/c/MesImages/
(Noter au passage la façon d’accéder aux lecteurs du PC depuis cygwin)
Pour finir...
Vous pouvez ajouter d’autres "modules" une fois le bon fonctionnement validé.
Enfin, coté client, vous pouvez automatiser le lancement du script contenant les commandes rsync dans un ".bat" de lancement de cygwin. Voici un exemple :
####### fichier C:\rsync\RsyncAuto.bat ###### @echo off C: chdir C:\Program Files\cwRsync\bin rsync.exe -a --delete --password-file=/cygdrive/C/RsyncAuto.pass.txt /cygdrive/c/MesImages utilisateur@machine.monserveur.com::rsyncftp
Vous notez qu'on supprime ici les options --progress -v car si on ne logue pas le résultat, il est inutile d'avoir les détails.
Si toutefois vous voulez tracer le résultat de la commande dans le fichier C:\rsync\RsyncAuto.log, vous pouvez modier votre script en :
####### fichier C:\rsync\RsyncAuto.bat ###### @echo off SETLOCAL SET RSYNCHOME="C:\Program Files\cwRsync" SET PATH=%RSYNCHOME%\bin;%PATH% SET LOGFILE="C:\rsync\RsyncAuto.log" echo -------------------------------------- > %LOGFILE% echo -- Lancement de la sauvegarde -- >> %LOGFILE% echo -------------------------------------- >> %LOGFILE% echo %date% %time% >> %LOGFILE% rem MesDocs SET BACKUP_SRC="Documents and Settings/momo/Mes documents" rem echo "" >> %LOGFILE% echo -------------------------------------- >> %LOGFILE% echo -- Debut de la sauvegarde de %BACKUP_SRC% à %date% %time% >> %LOGFILE% echo -------------------------------------- >> %LOGFILE% rsync.exe -v -a --compress --delete --password-file=/cygdrive/C/rsync/RsyncAuto.pass.txt /cygdrive/C/%BACKUP_SRC% utilisateur@machine.monserveur.com::rsyncftp >> %LOGFILE% rem Ou alternativement, en excluant des dossiers définis dans le fichier : RsyncAuto.exclude.txt (définissant les dossiers à exclure depuis la racine de votre dépôt Rsync) rem rsync.exe --exclude-from=/cygdrive/C/rsync/RsyncAuto.exclude.txt --delete-excluded -v -a --compress --delete --password-file=/cygdrive/C/rsync/RsyncAuto.pass.txt /cygdrive/C/%BACKUP_SRC% utilisateur@machine.monserveur.com::rsyncftp >> %LOGFILE% rem Images perso SET BACKUP_SRC="CD_IMAGES_perso" rem echo "" >> %LOGFILE% echo -------------------------------------->> %LOGFILE% echo -- Debut de la sauvegarde de %BACKUP_SRC% à %date% %time% >> %LOGFILE% echo -------------------------------------- >> %LOGFILE% rsync.exe -v -a --compress --delete --password-file=/cygdrive/C/rsync/RsyncAuto.pass.txt /cygdrive/C/%BACKUP_SRC% utilisateur@machine.monserveur.com::rsyncftp >> %LOGFILE% echo -------------------------------------- >> %LOGFILE% echo -- Fin de la sauvegarde -- >> %LOGFILE% echo -------------------------------------- >> %LOGFILE% echo %date% %time% >> %LOGFILE% exit
Pour lancer automatiquement votre fichier, Panneau de configuration->Tâches planifiées->Création d'une tâche planifiée Si vous avez besoin consultez l'aide sur la gestion des tâches planifiées. Attention toute fois, pour s'exécuter, les taches planifiés semblent nécessiter d'un compte avec un mot de passe.
Dormez tranquille, rsync copie vos données !
Commentaires
Aucun commentaire pour le moment.
Ajouter un commentaire
Les commentaires pour ce billet sont fermés.