<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Mon, Mar 14, 2016 at 12:12 PM, Atin Mukherjee <span dir="ltr">&lt;<a href="mailto:amukherj@redhat.com" target="_blank">amukherj@redhat.com</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><span class=""><br>
<br>
On 03/14/2016 10:52 AM, ABHISHEK PALIWAL wrote:<br>
&gt; Hi Team,<br>
&gt;<br>
&gt; I am facing some issue with peer status and because of that remove-brick<br>
&gt; on replica volume is getting failed.<br>
&gt;<br>
&gt; Here. is the scenario what I am doing with gluster:<br>
&gt;<br>
&gt; 1. I have two boards A &amp; B and gluster is running on both of the boards.<br>
&gt; 2. On  board I have created a replicated volume with one brick on each<br>
&gt; board.<br>
&gt; 3. Created one glusterfs mount point where both of brick are mounted.<br>
&gt; 4. start the volume with nfs.disable=true.<br>
&gt; 5. Till now everything is in sync between both of bricks.<br>
&gt;<br>
&gt; Now when I manually plug-out the board B from the slot and plug-in it again.<br>
&gt;<br>
&gt; 1. After bootup the board B I have started the glusted on the board B.<br>
&gt;<br>
&gt; Following are the some gluster command output on Board B after the step 1.<br>
&gt;<br>
&gt; # gluster peer status<br>
&gt; Number of Peers: 2<br>
&gt;<br>
&gt; Hostname: 10.32.0.48<br>
&gt; Uuid: f4ebe3c5-b6a4-4795-98e0-732337f76faf<br>
&gt; State: Accepted peer request (Connected)<br>
&gt;<br>
&gt; Hostname: 10.32.0.48<br>
&gt; Uuid: 4bf982c0-b21b-415c-b870-e72f36c7f2e7<br>
&gt; State: Peer is connected and Accepted (Connected)<br>
&gt;<br>
&gt; Why this peer status is showing two peer with different UUID?<br>
</span>GlusterD doesn&#39;t generate a new UUID on init if it has already generated<br>
an UUID earlier. This clearly indicates that on reboot of board B<br>
content of /var/lib/glusterd were wiped off. I&#39;ve asked this question to<br>
you multiple times that is it the case?<br></blockquote><div><br></div><div>Yes I am following the same which is mentioned in the link:<br><br><a href="http://www.gluster.org/community/documentation/index.php/Resolving_Peer_Rejected">http://www.gluster.org/community/documentation/index.php/Resolving_Peer_Rejected</a><br><br></div><div>but why it is showing two peer enteries? <br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
<div><div class="h5">&gt;<br>
&gt; # gluster volume info<br>
&gt;<br>
&gt; Volume Name: c_glusterfs<br>
&gt; Type: Replicate<br>
&gt; Volume ID: c11f1f13-64a0-4aca-98b5-91d609a4a18d<br>
&gt; Status: Started<br>
&gt; Number of Bricks: 1 x 2 = 2<br>
&gt; Transport-type: tcp<br>
&gt; Bricks:<br>
&gt; Brick1: 10.32.0.48:/opt/lvmdir/c2/brick<br>
&gt; Brick2: 10.32.1.144:/opt/lvmdir/c2/brick<br>
&gt; Options Reconfigured:<br>
&gt; performance.readdir-ahead: on<br>
&gt; network.ping-timeout: 4<br>
&gt; nfs.disable: on<br>
&gt; # gluster volume heal c_glusterfs info<br>
&gt; c_glusterfs: Not able to fetch volfile from glusterd<br>
&gt; Volume heal failed.<br>
&gt; # gluster volume status c_glusterfs<br>
&gt; Status of volume: c_glusterfs<br>
&gt; Gluster process                             TCP Port  RDMA Port  Online<br>
&gt; Pid<br>
&gt; ------------------------------------------------------------------------------<br>
&gt;<br>
&gt; Brick 10.32.1.144:/opt/lvmdir/c2/brick      N/A       N/A        N<br>
&gt; N/A<br>
&gt; Self-heal Daemon on localhost               N/A       N/A        Y<br>
&gt; 3922<br>
&gt;<br>
&gt; Task Status of Volume c_glusterfs<br>
&gt; ------------------------------------------------------------------------------<br>
&gt;<br>
&gt; There are no active volume tasks<br>
&gt; --<br>
&gt;<br>
&gt; At the same time Board A have the following gluster commands outcome:<br>
&gt;<br>
&gt; # gluster peer status<br>
&gt; Number of Peers: 1<br>
&gt;<br>
&gt; Hostname: 10.32.1.144<br>
&gt; Uuid: c6b64e36-76da-4e98-a616-48e0e52c7006<br>
&gt; State: Peer in Cluster (Connected)<br>
&gt;<br>
&gt; Why it is showing the older UUID of host 10.32.1.144 when this UUID has<br>
&gt; been changed and new UUID is 267a92c3-fd28-4811-903c-c1d54854bda9<br>
&gt;<br>
&gt;<br>
&gt; # gluster volume heal c_glusterfs info<br>
&gt; c_glusterfs: Not able to fetch volfile from glusterd<br>
&gt; Volume heal failed.<br>
&gt; # gluster volume status c_glusterfs<br>
&gt; Status of volume: c_glusterfs<br>
&gt; Gluster process                             TCP Port  RDMA Port  Online<br>
&gt; Pid<br>
&gt; ------------------------------------------------------------------------------<br>
&gt;<br>
&gt; Brick 10.32.0.48:/opt/lvmdir/c2/brick       49169     0          Y<br>
&gt; 2427<br>
&gt; Brick 10.32.1.144:/opt/lvmdir/c2/brick      N/A       N/A        N<br>
&gt; N/A<br>
&gt; Self-heal Daemon on localhost               N/A       N/A        Y<br>
&gt; 3388<br>
&gt; Self-heal Daemon on 10.32.1.144             N/A       N/A        Y<br>
&gt; 3922<br>
&gt;<br>
&gt; Task Status of Volume c_glusterfs<br>
&gt; ------------------------------------------------------------------------------<br>
&gt;<br>
&gt; There are no active volume tasks<br>
&gt;<br>
&gt; As you see in the &quot;gluster volume status&quot; showing that Brick<br>
&gt; &quot;10.32.1.144:/opt/lvmdir/c2/brick &quot; is offline so We have tried to<br>
&gt; remove it but getting &quot;volume remove-brick c_glusterfs replica 1<br>
&gt; 10.32.1.144:/opt/lvmdir/c2/brick force : FAILED : Incorrect brick<br>
&gt; 10.32.1.144:/opt/lvmdir/c2/brick for volume c_glusterfs&quot; error on the<br>
&gt; Board A.<br>
&gt;<br>
&gt; Please reply on this post because I am always getting this error in this<br>
&gt; scenario.<br>
&gt;<br>
&gt; For more detail I am also adding the logs of both of the board which<br>
&gt; having some manual created file in which you can find the output of<br>
&gt; glulster command from both of the boards<br>
&gt;<br>
&gt; in logs<br>
&gt; 00030 is board A<br>
&gt; 00250 is board B.<br>
</div></div>This attachment doesn&#39;t help much. Could you attach full glusterd log<br>
files from both the nodes?<br>
<span class="">&gt;<br></span></blockquote><div>inside this attachment you will found full glusterd log file 00300/glusterd/ and 002500/glusterd/ <br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><span class="">
&gt; Thanks in advance waiting for the reply.<br>
&gt;<br>
&gt; Regards,<br>
&gt; Abhishek<br>
&gt;<br>
&gt;<br>
&gt; Regards<br>
&gt; Abhishek Paliwal<br>
&gt;<br>
&gt;<br>
</span>&gt; _______________________________________________<br>
&gt; Gluster-devel mailing list<br>
&gt; <a href="mailto:Gluster-devel@gluster.org">Gluster-devel@gluster.org</a><br>
&gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-devel" rel="noreferrer" target="_blank">http://www.gluster.org/mailman/listinfo/gluster-devel</a><br>
&gt;<br>
</blockquote></div><br><br clear="all"><br>-- <br><div class="gmail_signature"><div dir="ltr"><br><br><br><br>Regards<br>
Abhishek Paliwal<br>
</div></div>
</div></div>