Skip to content

Commit

Permalink
ws16 patroni
Browse files Browse the repository at this point in the history
  • Loading branch information
@tilkow
tilkow authored and Franck Boudehen committed Feb 2, 2024
1 parent f7a640e commit a2af255
Show file tree
Hide file tree
Showing 4 changed files with 162 additions and 69 deletions.
191 changes: 133 additions & 58 deletions fr/patroni_2024/patroni.md
View file
Original file line number Diff line number Diff line change
Expand Up @@ -267,22 +267,16 @@ L'infrastructure complète est déjà créée.
La commande pour recréer l'infrastructure sur votre VM est :

```Bash
ansible-playbook -i inventory.yml -f 7 setup.2.yml
ansible-playbook -i inventory.yml setup.2.yml
```
</div>

<div class="notes">

La création des containeurs a été faite ainsi :

<!--
TODO: renseigner l'arbo du répertoire contenant les playbooks
-->
La création des conteneurs a été faite ainsi :

```Bash
dalibo@vm:~$ sudo ansible-playbook -i inventory.yml -f 7 setup.2.yml
root@vm:~# ansible-playbook -i inventory.yml -f 7 setup.2.yml
```

```Bash
Expand Down Expand Up @@ -389,6 +383,7 @@ Nous arrêtons donc les services :
dalibo@vm:~$
for node in e1 e2 e3; do
echo -n "${node} :"
sudo ssh ${node} "systemctl stop etcd"
sudo ssh ${node} "systemctl is-active etcd"
done
```
Expand All @@ -409,6 +404,9 @@ e3 : inactive
La configuration du service etcd se trouve dans le fichier `/etc/default/etcd`,
elle doit décrire notre agrégat sur chaque nœud :

* spécifique décrivant le nœud
* une partie commune à tous les nœuds décrivant l'agrégat

<!-- **Attention aux espaces insécables dans la chaîne ETCD_INITIAL_CLUSTER -->

<div class="box warning">
Expand All @@ -422,20 +420,18 @@ Attention aux caractères invisibles ou aux sauts de ligne.
\scriptsize
```
# /etc/default/etcd
ETCD_NAME='e1'
ETCD_DATA_DIR='/var/lib/etcd/default'
ETCD_NAME='e1'
ETCD_LISTEN_PEER_URLS='http://127.0.0.1:2380,http://10.0.3.101:2380'
ETCD_LISTEN_CLIENT_URLS='http://127.0.0.1:2379,http://10.0.3.101:2379'
ETCD_INITIAL_ADVERTISE_PEER_URLS='http://10.0.3.101:2380'
ETCD_ADVERTISE_CLIENT_URLS='http://10.0.3.101:2379'
ETCD_INITIAL_CLUSTER_STATE='new'
ETCD_DATA_DIR='/var/lib/etcd/default'
ETCD_INITIAL_CLUSTER_TOKEN='etcd-cluster'
ETCD_INITIAL_CLUSTER='e1=http://10.0.3.101:2380,e2=http://10.0.3.102:2380,e3=http://10.0.3.103:2380'
ETCD_ADVERTISE_CLIENT_URLS='http://10.0.3.101:2379'
```
\normalsize

Expand All @@ -444,20 +440,18 @@ ETCD_ADVERTISE_CLIENT_URLS='http://10.0.3.101:2379'
\scriptsize
```
# /etc/default/etcd
ETCD_NAME='e2'
ETCD_DATA_DIR='/var/lib/etcd/default'
ETCD_NAME='e2'
ETCD_LISTEN_PEER_URLS='http://127.0.0.1:2380,http://10.0.3.102:2380'
ETCD_LISTEN_CLIENT_URLS='http://127.0.0.1:2379,http://10.0.3.102:2379'
ETCD_INITIAL_ADVERTISE_PEER_URLS='http://10.0.3.102:2380'
ETCD_ADVERTISE_CLIENT_URLS='http://10.0.3.102:2379'
ETCD_INITIAL_CLUSTER_STATE='new'
ETCD_DATA_DIR='/var/lib/etcd/default'
ETCD_INITIAL_CLUSTER_TOKEN='etcd-cluster'
ETCD_INITIAL_CLUSTER='e1=http://10.0.3.101:2380,e2=http://10.0.3.102:2380,e3=http://10.0.3.103:2380'
ETCD_ADVERTISE_CLIENT_URLS='http://10.0.3.102:2379'
```
\normalsize

Expand All @@ -466,20 +460,18 @@ ETCD_ADVERTISE_CLIENT_URLS='http://10.0.3.102:2379'
\scriptsize
```
# /etc/default/etcd
ETCD_NAME='e3'
ETCD_DATA_DIR='/var/lib/etcd/default'
ETCD_NAME='e3'
ETCD_LISTEN_PEER_URLS='http://127.0.0.1:2380,http://10.0.3.103:2380'
ETCD_LISTEN_CLIENT_URLS='http://127.0.0.1:2379,http://10.0.3.103:2379'
ETCD_INITIAL_ADVERTISE_PEER_URLS='http://10.0.3.103:2380'
ETCD_ADVERTISE_CLIENT_URLS='http://10.0.3.103:2379'
ETCD_INITIAL_CLUSTER_STATE='new'
ETCD_DATA_DIR='/var/lib/etcd/default'
ETCD_INITIAL_CLUSTER_TOKEN='etcd-cluster'
ETCD_INITIAL_CLUSTER='e1=http://10.0.3.101:2380,e2=http://10.0.3.102:2380,e3=http://10.0.3.103:2380'
ETCD_ADVERTISE_CLIENT_URLS='http://10.0.3.103:2379'
```
\normalsize

Expand Down Expand Up @@ -604,7 +596,8 @@ sera déléguée à Patroni :
```Bash
dalibo@vm:~$
for node in pg1 pg2 pg3; do
echo "${node} :"
echo -n "${node} :"
sudo ssh ${node} "systemctl is-active postgresql@{{pg_version}}-main"
sudo ssh ${node} "systemctl disable --now postgresql@{{pg_version}}-main"
done
```
Expand Down Expand Up @@ -661,22 +654,102 @@ La configuration `/etc/patroni/`{{pg_version}}`-main.yml` est générée.
La création de l'agrégat commence par la mise en route du primaire sur le
nœud `pg1`, c'est lui qui sera la référence pour les secondaires.

L'utilisateur permettant la mise en réplication doit être créé sur ce nœud,
avec le mot de passe renseigné dans la configuration de Patroni :

```Bash
dalibo@vm:~$ sudo ssh pg1 "systemctl enable --now patroni@{{pg_version}}-main"
```

<!--

#### Création de l'utilisateur de réplication
### Liste des nœuds Patroni

Sur chaque nœud Patroni, modifier le fichier `.profile` de l'utilisateur
`postgres` en ajoutant :

```Bash
export PATRONICTL_CONFIG_FILE=/etc/patroni/{{pg_version}}-main.yml
```

Lister les nœuds :

```Bash
postgres@pg1:~$ patronictl list
```
```console
Current cluster topology
+ Cluster: 16-main (7330941500757972192) -+----+-----------+
| Member | Host | Role | State | TL | Lag in MB |
+--------+------------+---------+---------+----+-----------+
| pg1 | 10.0.3.201 | Replica | running | | 0 |
+--------+------------+---------+---------+----+-----------+
```

### Première bascule

Au premier démarrage de Patroni, nous constatons que le nœud `pg1` est en lecture
seule, il attend une promotion initiale manuelle qui fixera l'état de notre primaire.

```Bash
postgres@pg1:~$ patronictl failover --candidate pg1 --force
```
```console
Current cluster topology
+ Cluster: 16-main (7330941500757972192) -+----+-----------+
| Member | Host | Role | State | TL | Lag in MB |
+--------+------------+---------+---------+----+-----------+
| pg1 | 10.0.3.201 | Replica | running | | 0 |
+--------+------------+---------+---------+----+-----------+
2024-02-02 15:06:39.21288 Successfully failed over to "pg1"
+ Cluster: 16-main (7330941500757972192) +----+-----------+
| Member | Host | Role | State | TL | Lag in MB |
+--------+------------+--------+---------+----+-----------+
| pg1 | 10.0.3.201 | Leader | running | | |
+--------+------------+--------+---------+----+-----------+
```

Après quelques secondes, la promotion est terminée, la _time line_ est renseignée.

```Bash
postgres@pg1:~$ patronictl list
```
```console
+ Cluster: 16-main (7330941500757972192) +----+-----------+
| Member | Host | Role | State | TL | Lag in MB |
+--------+------------+--------+---------+----+-----------+
| pg1 | 10.0.3.201 | Leader | running | 2 | |
+--------+------------+--------+---------+----+-----------+
```


<div class="box tip">

En partant d'une instance déjà peuplée, les spécificités de la section _bootstrap_
de la configuration de Patroni n'ont pas été appliquées.

</div><!-- box-tip -->


```Bash
postgres@pg1:~$ psql
psql (16.1 (Debian 16.1-1.pgdg120+1))
Type "help" for help.

postgres=# \du
```
```console
List of roles
Role name | Attributes
-----------+------------------------------------------------------------
postgres | Superuser, Create role, Create DB, Replication, Bypass RLS
```

L'utilisateur permettant la mise en réplication doit être créé sur ce nœud,
avec le mot de passe renseigné dans la configuration de Patroni.


#### Création de l'utilisateur de réplication

```Bash
$ sudo ssh pg1 "sudo -iu postgres psql -c \"CREATE ROLE replicator REPLICATION PASSWORD 'rep-pass'\" "
```
-->

### Suppression des instances secondaires

Expand Down Expand Up @@ -706,42 +779,45 @@ for node in pg2 pg3; do
sudo ssh ${node} "systemctl enable --now patroni@{{pg_version}}-main"
done
```
```Bash
postgres@pg1:~$ patronictl list
```
```console
+ Cluster: 16-main (7330941500757972192) ----------+----+-----------+
| Member | Host | Role | State | TL | Lag in MB |
+--------+------------+---------+------------------+----+-----------+
| pg1 | 10.0.3.201 | Leader | running | 2 | |
| pg2 | 10.0.3.202 | Replica | creating replica | | unknown |
| pg3 | 10.0.3.203 | Replica | creating replica | | unknown |
+--------+------------+---------+------------------+----+-----------+
```

Après quelques secondes les secondaires sont reconstruits :

```Bash
postgres@pg1:~$ patronictl list
```
```console
+ Cluster: 16-main (7330941500757972192) ---+----+-----------+
| Member | Host | Role | State | TL | Lag in MB |
+--------+------------+---------+-----------+----+-----------+
| pg1 | 10.0.3.201 | Leader | running | 2 | |
| pg2 | 10.0.3.202 | Replica | streaming | 2 | 0 |
| pg3 | 10.0.3.203 | Replica | streaming | 2 | 0 |
+--------+------------+---------+-----------+----+-----------+
```
</div>

---

### Vérifications

* Liste des nœuds Patroni
* Test de bascule manuelle vers chaque nœud


<div class="notes">

#### Liste des nœuds Patroni

Sur chaque nœud Patroni, modifier le fichier `.profile` de l'utilisateur
`postgres` en ajoutant :

```Bash
export PATRONICTL_CONFIG_FILE=/etc/patroni/{{pg_version}}-main.yml
```

Lister les nœuds :

```Bash
dalibo@vm:~$ sudo ssh pg1 "sudo -iu postgres patronictl list"
```
```console
+ Cluster: 16-main (7330283094014338096) ---+----+-----------+
| Member | Host | Role | State | TL | Lag in MB |
+--------+------------+---------+-----------+----+-----------+
| pg1 | 10.0.3.201 | Leader | running | 1 | |
| pg2 | 10.0.3.202 | Replica | streaming | 1 | 0 |
| pg3 | 10.0.3.203 | Replica | streaming | 1 | 0 |
+--------+------------+---------+-----------+----+-----------+
```

#### Test de bascule manuelle vers chaque nœud

Expand Down Expand Up @@ -1208,7 +1284,6 @@ déclenché par Patroni.

# Sauvegardes

* Installation de pgBackRest
* Configuration
* Détermination du primaire (facultatif)
* Installation d'`etcd-client`
Expand All @@ -1217,7 +1292,7 @@ déclenché par Patroni.

<div class="notes">

### Configuration Serveur de pgBackRest
## Configuration Serveur de pgBackRest

La configuration se fait dans le fichier `/etc/pgbackrest.conf` :

Expand Down Expand Up @@ -1364,12 +1439,12 @@ postgres@pg1:~$ pgbackrest --stanza {{pg_version}}-main --log-level-console deta
```
\normalsize

### Test d'une sauvegarde
## Test d'une sauvegarde

Nous proposons de déclencher la sauvegarde sur le primaire, en déterminant
le leader Patroni via l'interrogation de l'API etcd.

#### Détermination de l'instance primaire
### Détermination de l'instance primaire

Installer le paquet client etcd :

Expand Down
30 changes: 21 additions & 9 deletions fr/patroni_2024/playbook/etcd-patroni/exchange_ssh_keys.yml
View file
Original file line number Diff line number Diff line change
Expand Up @@ -4,16 +4,16 @@
gather_facts: false

tasks:

- name: ssh-keygen for user postgres
become: true
become_user: postgres
shell: cat /dev/zero | ssh-keygen -q -N '' || /bin/true
shell: cat /dev/zero | ssh-keygen -q -N '' || /bin/true

- name: Get ssh keys from servers
- name: Get ssh keys from servers
become: true
become_user: postgres
fetch:
fetch:
src: "~/.ssh/id_rsa.pub"
dest: "buffer/{{ inventory_hostname }}-id_rsa.pub"
flat: yes
Expand All @@ -31,17 +31,30 @@
state: present
key: "{{ lookup('file','buffer/{{item}}-id_rsa.pub') }}"
when: "item != inventory_hostname"
with_items:
- "{{ groups['patroni_servers'] }}"
with_items:
- "{{ groups['patroni_servers'] }}"

- name: Copy the key add to authorized_keys to backup_servers
authorized_key:
user: postgres
state: present
key: "{{ lookup('file','buffer/{{item}}-id_rsa.pub') }}"
when: "item != inventory_hostname"
with_items:
- "{{ groups['backup_servers'] }}"
with_items:
- "{{ groups['backup_servers'] }}"

- hosts: backup_servers
gather_facts: false

tasks:

- name: "First ssh connection"
become: yes
become_user: postgres
command:
"ssh -o StrictHostKeyChecking=no {{ item }} /bin/true"
with_items: "{{ groups['patroni_servers'] }}"


- hosts: localhost
tasks:
Expand All @@ -50,4 +63,3 @@
file:
path: buffer
state: absent

Loading

0 comments on commit a2af255

Please sign in to comment.