<div dir="ltr">Sweet!  Here is the baseline:<div><br></div><div><div>[root@gqas001 ~]# gluster v rebalance testvol status</div><div>                                    Node Rebalanced-files          size       scanned      failures       skipped               status   run time in secs</div><div>                               ---------      -----------   -----------   -----------   -----------   -----------         ------------     --------------</div><div>                               localhost          1328575        81.1GB       9402953             0             0            completed           98500.00</div><div>      <a href="http://gqas012.sbu.lab.eng.bos.redhat.com">gqas012.sbu.lab.eng.bos.redhat.com</a>                0        0Bytes       8000011             0             0            completed           51982.00</div><div>      <a href="http://gqas003.sbu.lab.eng.bos.redhat.com">gqas003.sbu.lab.eng.bos.redhat.com</a>                0        0Bytes       8000011             0             0            completed           51982.00</div><div>      <a href="http://gqas004.sbu.lab.eng.bos.redhat.com">gqas004.sbu.lab.eng.bos.redhat.com</a>          1326290        81.0GB       9708625             0             0            completed           98500.00</div><div>      <a href="http://gqas013.sbu.lab.eng.bos.redhat.com">gqas013.sbu.lab.eng.bos.redhat.com</a>                0        0Bytes       8000011             0             0            completed           51982.00</div><div>      <a href="http://gqas014.sbu.lab.eng.bos.redhat.com">gqas014.sbu.lab.eng.bos.redhat.com</a>                0        0Bytes       8000011             0             0            completed           51982.00</div><div>volume rebalance: testvol: success: </div></div><div><br></div><div>I&#39;ll have a run on the patch started tomorrow.</div><div><br></div><div>-b</div></div><div class="gmail_extra"><br><div class="gmail_quote">On Wed, Apr 29, 2015 at 12:51 PM, Nithya Balachandran <span dir="ltr">&lt;<a href="mailto:nbalacha@redhat.com" target="_blank">nbalacha@redhat.com</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class=""><br>
Doh my mistake, I thought it was merged.  I was just running with the<br>
upstream 3.7 daily.  Can I use this run as my baseline and then I can run<br>
next time on the patch to show the % improvement?  I&#39;ll wipe everything and<br>
try on the patch, any idea when it will be merged?<br>
<br>
</span>Yes, it would be very useful to have this run as the baseline. The patch has just been merged in master. It should be backported to 3.7 in a day or so.<br>
<br>
Regards,<br>
Nithya<br>
<div class="HOEnZb"><div class="h5"><br>
<br>
&gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; On Wed, Apr 22, 2015 at 1:10 AM, Nithya Balachandran<br>
&gt; &gt; &gt; &gt; &gt; &lt;<a href="mailto:nbalacha@redhat.com">nbalacha@redhat.com</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; wrote:<br>
&gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; That sounds great. Thanks.<br>
&gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; Regards,<br>
&gt; &gt; &gt; &gt; &gt; &gt; Nithya<br>
&gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; ----- Original Message -----<br>
&gt; &gt; &gt; &gt; &gt; &gt; From: &quot;Benjamin Turner&quot; &lt;<a href="mailto:bennyturns@gmail.com">bennyturns@gmail.com</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; To: &quot;Nithya Balachandran&quot; &lt;<a href="mailto:nbalacha@redhat.com">nbalacha@redhat.com</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; Cc: &quot;Susant Palai&quot; &lt;<a href="mailto:spalai@redhat.com">spalai@redhat.com</a>&gt;, &quot;Gluster Devel&quot; &lt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; <a href="mailto:gluster-devel@gluster.org">gluster-devel@gluster.org</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; Sent: Wednesday, 22 April, 2015 12:14:14 AM<br>
&gt; &gt; &gt; &gt; &gt; &gt; Subject: Re: [Gluster-devel] Rebalance improvement design<br>
&gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; I am setting up a test env now, I&#39;ll have some feedback for you<br>
&gt; this<br>
&gt; &gt; &gt; &gt; &gt; &gt; week.<br>
&gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; -b<br>
&gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; On Tue, Apr 21, 2015 at 11:36 AM, Nithya Balachandran<br>
&gt; &gt; &gt; &gt; &gt; &gt; &lt;<a href="mailto:nbalacha@redhat.com">nbalacha@redhat.com</a><br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; wrote:<br>
&gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Hi Ben,<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Did you get a chance to try this out?<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Regards,<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Nithya<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; ----- Original Message -----<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; From: &quot;Susant Palai&quot; &lt;<a href="mailto:spalai@redhat.com">spalai@redhat.com</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; To: &quot;Benjamin Turner&quot; &lt;<a href="mailto:bennyturns@gmail.com">bennyturns@gmail.com</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Cc: &quot;Gluster Devel&quot; &lt;<a href="mailto:gluster-devel@gluster.org">gluster-devel@gluster.org</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Sent: Monday, April 13, 2015 9:55:07 AM<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Subject: Re: [Gluster-devel] Rebalance improvement design<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Hi Ben,<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;   Uploaded a new patch here:<br>
&gt; <a href="http://review.gluster.org/#/c/9657/" target="_blank">http://review.gluster.org/#/c/9657/</a>.<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;   We<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;   can<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; start perf test on it. :)<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Susant<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; ----- Original Message -----<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; From: &quot;Susant Palai&quot; &lt;<a href="mailto:spalai@redhat.com">spalai@redhat.com</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; To: &quot;Benjamin Turner&quot; &lt;<a href="mailto:bennyturns@gmail.com">bennyturns@gmail.com</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Cc: &quot;Gluster Devel&quot; &lt;<a href="mailto:gluster-devel@gluster.org">gluster-devel@gluster.org</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Sent: Thursday, 9 April, 2015 3:40:09 PM<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Subject: Re: [Gluster-devel] Rebalance improvement design<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Thanks Ben. RPM is not available and I am planning to refresh<br>
&gt; the<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; patch<br>
&gt; &gt; &gt; &gt; &gt; &gt; in<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; two days with some more regression fixes. I think we can run<br>
&gt; the<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; tests<br>
&gt; &gt; &gt; &gt; &gt; &gt; post<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; that. Any larger data-set will be good(say 3 to 5 TB).<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Thanks,<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Susant<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; ----- Original Message -----<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; From: &quot;Benjamin Turner&quot; &lt;<a href="mailto:bennyturns@gmail.com">bennyturns@gmail.com</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; To: &quot;Vijay Bellur&quot; &lt;<a href="mailto:vbellur@redhat.com">vbellur@redhat.com</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Cc: &quot;Susant Palai&quot; &lt;<a href="mailto:spalai@redhat.com">spalai@redhat.com</a>&gt;, &quot;Gluster Devel&quot; &lt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; <a href="mailto:gluster-devel@gluster.org">gluster-devel@gluster.org</a>&gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Sent: Thursday, 9 April, 2015 2:10:30 AM<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Subject: Re: [Gluster-devel] Rebalance improvement design<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; I have some rebalance perf regression stuff I have been<br>
&gt; working on,<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; is<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; there an RPM with these patches anywhere so that I can try it<br>
&gt; on my<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; systems? If not I&#39;ll just build from:<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; git fetch git:// <a href="http://review.gluster.org/glusterfs" target="_blank">review.gluster.org/glusterfs</a><br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; refs/changes/57/9657/8<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; &amp;&amp;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; git cherry-pick FETCH_HEAD<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; I will have _at_least_ 10TB of storage, how many TBs of data<br>
&gt; should<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; I<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; run<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; with?<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; -b<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; On Tue, Apr 7, 2015 at 9:07 AM, Vijay Bellur &lt;<br>
&gt; <a href="mailto:vbellur@redhat.com">vbellur@redhat.com</a> &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; wrote:<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; On 04/07/2015 03:08 PM, Susant Palai wrote:<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Here is one test performed on a 300GB data set and around<br>
&gt; 100%(1/2<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; the<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; time) improvement was seen.<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; [root@gprfs031 ~]# gluster v i<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Volume Name: rbperf<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Type: Distribute<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Volume ID: 35562662-337e-4923-b862- d0bbb0748003<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Status: Started<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Number of Bricks: 4<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Transport-type: tcp<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Bricks:<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Brick1: gprfs029-10ge:/bricks/ gprfs029/brick1<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Brick2: gprfs030-10ge:/bricks/ gprfs030/brick1<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Brick3: gprfs031-10ge:/bricks/ gprfs031/brick1<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Brick4: gprfs032-10ge:/bricks/ gprfs032/brick1<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Added server 32 and started rebalance force.<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Rebalance stat for new changes:<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; [root@gprfs031 ~]# gluster v rebalance rbperf status<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Node Rebalanced-files size scanned failures skipped status run<br>
&gt; time<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; in<br>
&gt; &gt; &gt; &gt; &gt; &gt; secs<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; --------- ----------- ----------- ----------- -----------<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; -----------<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; ------------ --------------<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; localhost 74639 36.1GB 297319 0 0 completed 1743.00<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; 172.17.40.30 67512 33.5GB 269187 0 0 completed 1395.00<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; gprfs029-10ge 79095 38.8GB 284105 0 0 completed 1559.00<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; gprfs032-10ge 0 0Bytes 0 0 0 completed 402.00<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; volume rebalance: rbperf: success:<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Rebalance stat for old model:<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; [root@gprfs031 ~]# gluster v rebalance rbperf status<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Node Rebalanced-files size scanned failures skipped status run<br>
&gt; time<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; in<br>
&gt; &gt; &gt; &gt; &gt; &gt; secs<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; --------- ----------- ----------- ----------- -----------<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; -----------<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; ------------ --------------<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; localhost 86493 42.0GB 634302 0 0 completed 3329.00<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; gprfs029-10ge 94115 46.2GB 687852 0 0 completed 3328.00<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; gprfs030-10ge 74314 35.9GB 651943 0 0 completed 3072.00<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; gprfs032-10ge 0 0Bytes 594166 0 0 completed 1943.00<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; volume rebalance: rbperf: success:<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; This is interesting. Thanks for sharing &amp; well done! Maybe we<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; should<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; attempt a much larger data set and see how we fare there :).<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Regards,<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Vijay<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; ______________________________ _________________<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Gluster-devel mailing list<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; <a href="mailto:Gluster-devel@gluster.org">Gluster-devel@gluster.org</a><br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; <a href="http://www.gluster.org/" target="_blank">http://www.gluster.org/</a> mailman/listinfo/gluster-devel<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; _______________________________________________<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Gluster-devel mailing list<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; <a href="mailto:Gluster-devel@gluster.org">Gluster-devel@gluster.org</a><br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-devel" target="_blank">http://www.gluster.org/mailman/listinfo/gluster-devel</a><br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; _______________________________________________<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; Gluster-devel mailing list<br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; <a href="mailto:Gluster-devel@gluster.org">Gluster-devel@gluster.org</a><br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-devel" target="_blank">http://www.gluster.org/mailman/listinfo/gluster-devel</a><br>
&gt; &gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; &gt; _______________________________________________<br>
&gt; &gt; &gt; &gt; Gluster-devel mailing list<br>
&gt; &gt; &gt; &gt; <a href="mailto:Gluster-devel@gluster.org">Gluster-devel@gluster.org</a><br>
&gt; &gt; &gt; &gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-devel" target="_blank">http://www.gluster.org/mailman/listinfo/gluster-devel</a><br>
&gt; &gt; &gt; &gt;<br>
&gt; &gt; &gt; _______________________________________________<br>
&gt; &gt; &gt; Gluster-devel mailing list<br>
&gt; &gt; &gt; <a href="mailto:Gluster-devel@gluster.org">Gluster-devel@gluster.org</a><br>
&gt; &gt; &gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-devel" target="_blank">http://www.gluster.org/mailman/listinfo/gluster-devel</a><br>
&gt; &gt; &gt;<br>
&gt; &gt;<br>
&gt;<br>
</div></div></blockquote></div><br></div>