<div><div>Thanks, we will get back on this. In the mean time can you please also share glusterd statedump file from both the nodes? The way to take statedump is &#39;kill -SIGUSR1 $(pidof glusterd)&#39; and the file can be found at /var/run/gluster directory.</div></div><div><br><div class="gmail_quote"><div>On Tue, 13 Dec 2016 at 22:11, Cedric Lemarchand &lt;<a href="mailto:yipikai7@gmail.com">yipikai7@gmail.com</a>&gt; wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div style="word-wrap:break-word" class="gmail_msg">1. sorry, 3.9.0-1<div class="gmail_msg">2. no it does nothing</div><div class="gmail_msg">3. here they are, from gl1 to gl6 : <a href="https://we.tl/EPaMs6geoR" class="gmail_msg" target="_blank">https://we.tl/EPaMs6geoR</a></div></div><div style="word-wrap:break-word" class="gmail_msg"><div class="gmail_msg"><br class="gmail_msg"></div><div class="gmail_msg"><br class="gmail_msg"></div><div class="gmail_msg"><div class="gmail_msg"><br class="gmail_msg"><div class="gmail_msg"><blockquote type="cite" class="gmail_msg"><div class="gmail_msg">On 13 Dec 2016, at 16:49, Atin Mukherjee &lt;<a href="mailto:amukherj@redhat.com" class="gmail_msg" target="_blank">amukherj@redhat.com</a>&gt; wrote:</div><br class="m_-2010779676140610534Apple-interchange-newline gmail_msg"><div class="gmail_msg"><div class="gmail_msg">And 3. In case 2 doesn&#39;t work, please provide the glusterd log files from gl1 &amp; gl5<br class="gmail_msg"></div><div class="gmail_extra gmail_msg"><br class="gmail_msg"><div class="gmail_quote gmail_msg">On Tue, Dec 13, 2016 at 9:16 PM, Atin Mukherjee <span class="gmail_msg">&lt;<a href="mailto:amukherj@redhat.com" class="gmail_msg" target="_blank">amukherj@redhat.com</a>&gt;</span> wrote:<br class="gmail_msg"><blockquote class="gmail_quote gmail_msg" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div class="gmail_msg"><div class="gmail_msg">1. Could you mention which gluster version are you running with?<br class="gmail_msg"></div>2. Does restarting glusterd instance on gl1 &amp; gl5 solves the issue (after removing the volume-id xattr from the bricks) ?<br class="gmail_msg"></div><div class="gmail_extra gmail_msg"><div class="gmail_msg"><div class="m_-2010779676140610534h5 gmail_msg"><br class="gmail_msg"><div class="gmail_quote gmail_msg">On Tue, Dec 13, 2016 at 8:56 PM, Cedric Lemarchand <span class="gmail_msg">&lt;<a href="mailto:yipikai7@gmail.com" class="gmail_msg" target="_blank">yipikai7@gmail.com</a>&gt;</span> wrote:<br class="gmail_msg"><blockquote class="gmail_quote gmail_msg" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hello,<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>When I try to add 3 bricks to a working cluster composed of 3 nodes / 3 bricks in dispersed mode 2+1, it fails like this :<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>root@gl1:~# gluster volume add-brick vol1 gl4:/data/br1 gl5:/data/br1 gl6:/data/br1<br class="gmail_msg"><br><br>volume add-brick: failed: Pre Validation failed on gl4. Host gl5 not connected<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>However all peers are connected and there aren&#39;t networking issues :<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>root@gl1:~# gluster peer status<br class="gmail_msg"><br><br>Number of Peers: 5<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl2<br class="gmail_msg"><br><br>Uuid: 616f100f-a3f4-46e4-b161-ee5db5a60e26<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl3<br class="gmail_msg"><br><br>Uuid: acb828b8-f4b3-42ab-a9d2-b3e7b917dc9a<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl4<br class="gmail_msg"><br><br>Uuid: 813ad056-5e84-4fdb-ac13-38d24c748bc4<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl5<br class="gmail_msg"><br><br>Uuid: a7933aeb-b08b-4ebb-a797-b8ecbe5a03c6<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl6<br class="gmail_msg"><br><br>Uuid: 63c9a6c1-0adf-4cf5-af7b-b28a60911c99<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br> :<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>When I try a second time, the error is different :<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>root@gl1:~# gluster volume add-brick vol1 gl4:/data/br1 gl5:/data/br1 gl6:/data/br1<br class="gmail_msg"><br><br>volume add-brick: failed: Pre Validation failed on gl5. /data/br1 is already part of a volume<br class="gmail_msg"><br><br>Pre Validation failed on gl6. /data/br1 is already part of a volume<br class="gmail_msg"><br><br>Pre Validation failed on gl4. /data/br1 is already part of a volume<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>It seems the previous try, even if it has failed, have created the gluster attributes on file system as shown by attr on gl4/5/6 :<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Attribute &quot;glusterfs.volume-id&quot; has a 16 byte value for /data/br1<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>I already purge gluster and reformat brick on gl4/5/6 but the issue persist, any ideas ? did I miss something ?<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Some informations :<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>root@gl1:~# gluster volume info<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Volume Name: vol1<br class="gmail_msg"><br><br>Type: Disperse<br class="gmail_msg"><br><br>Volume ID: bb563884-0e2a-4757-9fd5-cb851ba113c3<br class="gmail_msg"><br><br>Status: Started<br class="gmail_msg"><br><br>Snapshot Count: 0<br class="gmail_msg"><br><br>Number of Bricks: 1 x (2 + 1) = 3<br class="gmail_msg"><br><br>Transport-type: tcp<br class="gmail_msg"><br><br>Bricks:<br class="gmail_msg"><br><br>Brick1: gl1:/data/br1<br class="gmail_msg"><br><br>Brick2: gl2:/data/br1<br class="gmail_msg"><br><br>Brick3: gl3:/data/br1<br class="gmail_msg"><br><br>Options Reconfigured:<br class="gmail_msg"><br><br>features.scrub-freq: hourly<br class="gmail_msg"><br><br>features.scrub: Inactive<br class="gmail_msg"><br><br>features.bitrot: off<br class="gmail_msg"><br><br>cluster.disperse-self-heal-daemon: enable<br class="gmail_msg"><br><br>transport.address-family: inet<br class="gmail_msg"><br><br>performance.readdir-ahead: on<br class="gmail_msg"><br><br>nfs.disable: on, I have the following error :<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>root@gl1:~# gluster volume status<br class="gmail_msg"><br><br>Status of volume: vol1<br class="gmail_msg"><br><br>Gluster process                             TCP Port  RDMA Port  Online  Pid<br class="gmail_msg"><br><br>------------------------------------------------------------------------------<br class="gmail_msg"><br><br>Brick gl1:/data/br1                         49152     0          Y       23403<br class="gmail_msg"><br><br>Brick gl2:/data/br1                         49152     0          Y       14545<br class="gmail_msg"><br><br>Brick gl3:/data/br1                         49152     0          Y       11348<br class="gmail_msg"><br><br>Self-heal Daemon on localhost               N/A       N/A        Y       24766<br class="gmail_msg"><br><br>Self-heal Daemon on gl4                     N/A       N/A        Y       1087<br class="gmail_msg"><br><br>Self-heal Daemon on gl5                     N/A       N/A        Y       1080<br class="gmail_msg"><br><br>Self-heal Daemon on gl3                     N/A       N/A        Y       12321<br class="gmail_msg"><br><br>Self-heal Daemon on gl2                     N/A       N/A        Y       15496<br class="gmail_msg"><br><br>Self-heal Daemon on gl6                     N/A       N/A        Y       1091<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Task Status of Volume vol1<br class="gmail_msg"><br><br>------------------------------------------------------------------------------<br class="gmail_msg"><br><br>There are no active volume tasks<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>root@gl1:~# gluster volume info<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Volume Name: vol1<br class="gmail_msg"><br><br>Type: Disperse<br class="gmail_msg"><br><br>Volume ID: bb563884-0e2a-4757-9fd5-cb851ba113c3<br class="gmail_msg"><br><br>Status: Started<br class="gmail_msg"><br><br>Snapshot Count: 0<br class="gmail_msg"><br><br>Number of Bricks: 1 x (2 + 1) = 3<br class="gmail_msg"><br><br>Transport-type: tcp<br class="gmail_msg"><br><br>Bricks:<br class="gmail_msg"><br><br>Brick1: gl1:/data/br1<br class="gmail_msg"><br><br>Brick2: gl2:/data/br1<br class="gmail_msg"><br><br>Brick3: gl3:/data/br1<br class="gmail_msg"><br><br>Options Reconfigured:<br class="gmail_msg"><br><br>features.scrub-freq: hourly<br class="gmail_msg"><br><br>features.scrub: Inactive<br class="gmail_msg"><br><br>features.bitrot: off<br class="gmail_msg"><br><br>cluster.disperse-self-heal-daemon: enable<br class="gmail_msg"><br><br>transport.address-family: inet<br class="gmail_msg"><br><br>performance.readdir-ahead: on<br class="gmail_msg"><br><br>nfs.disable: on<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>root@gl1:~# gluster peer status<br class="gmail_msg"><br><br>Number of Peers: 5<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl2<br class="gmail_msg"><br><br>Uuid: 616f100f-a3f4-46e4-b161-ee5db5a60e26<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl3<br class="gmail_msg"><br><br>Uuid: acb828b8-f4b3-42ab-a9d2-b3e7b917dc9a<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl4<br class="gmail_msg"><br><br>Uuid: 813ad056-5e84-4fdb-ac13-38d24c748bc4<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl5<br class="gmail_msg"><br><br>Uuid: a7933aeb-b08b-4ebb-a797-b8ecbe5a03c6<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>Hostname: gl6<br class="gmail_msg"><br><br>Uuid: 63c9a6c1-0adf-4cf5-af7b-b28a60911c99<br class="gmail_msg"><br><br>State: Peer in Cluster (Connected)<br class="gmail_msg"><br><br><br class="gmail_msg"><br><br><br class="gmail_msg"><br><br><br class="gmail_msg"><br><br>_______________________________________________<br class="gmail_msg"><br><br>Gluster-users mailing list<br class="gmail_msg"><br><br><a href="mailto:Gluster-users@gluster.org" class="gmail_msg" target="_blank">Gluster-users@gluster.org</a><br class="gmail_msg"><br><br><a href="http://www.gluster.org/mailman/listinfo/gluster-users" rel="noreferrer" class="gmail_msg" target="_blank">http://www.gluster.org/mailman/listinfo/gluster-users</a><br class="gmail_msg"><br><br></blockquote></div><br class="gmail_msg"><br clear="all" class="gmail_msg"><br class="gmail_msg"></div></div><span class="m_-2010779676140610534HOEnZb gmail_msg"><font color="#888888" class="gmail_msg">-- <br class="gmail_msg"><div class="m_-2010779676140610534m_-7665095754714168145gmail_signature gmail_msg" data-smartmail="gmail_signature"><div class="gmail_msg"><div class="gmail_msg"><div class="gmail_msg"><br class="gmail_msg"></div><div class="gmail_msg">~ Atin (atinm)<br class="gmail_msg"></div></div></div></div><br><br></font></span></div><br><br></blockquote></div><br class="gmail_msg"><br clear="all" class="gmail_msg"><br class="gmail_msg">-- <br class="gmail_msg"><div class="m_-2010779676140610534gmail_signature gmail_msg" data-smartmail="gmail_signature"><div class="gmail_msg"><div class="gmail_msg"><div class="gmail_msg"><br class="gmail_msg"></div><div class="gmail_msg">~ Atin (atinm)<br class="gmail_msg"></div></div></div></div><br><br></div><br><br></div></blockquote></div><br class="gmail_msg"></div></div></div></blockquote></div></div><div dir="ltr">-- <br></div><div data-smartmail="gmail_signature">- Atin (atinm)</div>