<p dir="ltr">I think you&#39;ll find it&#39;s the write-behind that was killing you. Write-behind opens you up to a number of data consistency issues, and I strongly disrecommend it unless you have a rock-solid infrastructure from the writer all the way to the disk the data ultimately sits on.</p>
<p dir="ltr">I bet that if you re-enabled read-ahead, you won&#39;t see the problem. Just leave write-behind off.<br>
</p>
<p dir="ltr"></p>
<p dir="ltr">On Sat, Jul 18, 2015, 10:44 AM Roman &lt;<a href="mailto:romeo.r@gmail.com">romeo.r@gmail.com</a>&gt; wrote:</p>
<blockquote><p dir="ltr">solved after I&#39;ve added (thanks to Niels de Vos) these options to the volumes:<br></p>
<p dir="ltr">performance.read-ahead: off</p>
<p dir="ltr">performance.write-behind: off<br>
</p>
</blockquote>
<blockquote><p dir="ltr"><br></p>
<p dir="ltr">2015-07-15 17:23 GMT+03:00 Roman &lt;<a href="mailto:romeo.r@gmail.com">romeo.r@gmail.com</a>&gt;:</p>
</blockquote>
<blockquote><blockquote><p dir="ltr">hey,<br></p>
<p dir="ltr">I&#39;ve updated the bug, if some1 has some ideas - share plz.</p>
<p dir="ltr"><a href="https://bugzilla.redhat.com/show_bug.cgi?id=1242913">https://bugzilla.redhat.com/show_bug.cgi?id=1242913</a><br><br><br></p>
<p dir="ltr">2015-07-14 19:14 GMT+03:00 Kaushal M &lt;<a href="mailto:kshlmster@gmail.com">kshlmster@gmail.com</a>&gt;:</p>
</blockquote>
</blockquote>
<blockquote><blockquote><blockquote><p dir="ltr">Just a wild guess. What is the filesystem used for the debian 8<br>
installation? It could be the culprit.<br></p>
<p dir="ltr">On Tue, Jul 14, 2015 at 7:27 PM, Roman &lt;<a href="mailto:romeo.r@gmail.com">romeo.r@gmail.com</a>&gt; wrote:<br>
&gt; I&#39;ve done this way: installed debian8 on local disks using netinstall iso,<br>
&gt; created a template of it and then cloned (full clone) it to glusterfs<br>
&gt; storage backend. VM boots and runs fine... untill I start to install<br>
&gt; something massive (DE ie). Last time it was mate failed to install due to<br>
&gt; python-gtk2 package problems (complaing that it could not compile it)<br>
&gt;</p>
<p dir="ltr">&gt; 2015-07-14 16:37 GMT+03:00 Scott Harvanek &lt;<a href="mailto:scott.harvanek@login.com">scott.harvanek@login.com</a>&gt;:<br>
&gt;&gt;<br>
&gt;&gt; What happens if you install from a full CD and not a net-install?<br>
&gt;&gt;<br>
&gt;&gt; Limit the variables.  Currently you are relying on remote mirrors and<br>
&gt;&gt; Internet connectivity.<br>
&gt;&gt;<br>
&gt;&gt; It&#39;s either a Proxmox or Debian issue, I really don&#39;t think it&#39;s Gluster.<br>
&gt;&gt; We have hundreds of Jessie installs running on GlusterFS backends.<br>
&gt;&gt;<br>
&gt;&gt; --<br>
&gt;&gt; Scott H.<br>
&gt;&gt; Login, LLC.<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; Roman<br>
&gt;&gt; July 14, 2015 at 9:30 AM<br>
&gt;&gt; Hey,<br>
&gt;&gt;<br>
&gt;&gt; thanks for reply.<br>
&gt;&gt; If it would be networking related, it would affect everything. But it is<br>
&gt;&gt; only debian 8 which won&#39;t install.<br>
&gt;&gt; And yes, i did iperf test between gluster and proxmox nodes. Its ok.<br>
&gt;&gt; Installation fails on every node, where i try to install d8. Sometimes it<br>
&gt;&gt; goes well (today 1 of 6 tries was fine). Other distros install fine.<br>
&gt;&gt; Sometimes installation process finishes, but VM won&#39;t start, just hangs<br>
&gt;&gt; with errors like in this attached.<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; --<br>
&gt;&gt; Best regards,<br>
&gt;&gt; Roman.<br>
&gt;&gt; Scott Harvanek<br>
&gt;&gt; July 14, 2015 at 9:17 AM<br>
&gt;&gt; We don&#39;t have this issue, I&#39;ll take a stab tho-<br>
&gt;&gt;<br>
&gt;&gt; Have you confirmed everything is good on the network side of things?<br>
&gt;&gt; MTU/Loss/Errors?<br>
&gt;&gt;<br>
&gt;&gt; Is your inconsistency linked to one specific brick? Have you tried running<br>
&gt;&gt; a replica instead of distributed?<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; _______________________________________________<br>
&gt;&gt; Gluster-users mailing list</p>
<p dir="ltr">&gt;&gt; <a href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a><br>
&gt;&gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-users">http://www.gluster.org/mailman/listinfo/gluster-users</a><br>
&gt;&gt; Roman<br>
&gt;&gt; July 14, 2015 at 6:38 AM<br>
&gt;&gt; here is one of the errors example. its like files that debian installer<br>
&gt;&gt; copies to the virtual disk that is located on glusterfs storage are getting<br>
&gt;&gt; corrupted.<br>
&gt;&gt; in-target is /dev/vda1<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; --<br>
&gt;&gt; Best regards,<br>
&gt;&gt; Roman.<br>
&gt;&gt; _______________________________________________<br>
&gt;&gt; Gluster-users mailing list<br>
&gt;&gt; <a href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a><br>
&gt;&gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-users">http://www.gluster.org/mailman/listinfo/gluster-users</a><br>
&gt;&gt; Roman<br>
&gt;&gt; July 14, 2015 at 4:50 AM<br>
&gt;&gt; Ubuntu 14.04 LTS base install and then mate install were fine!<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; --<br>
&gt;&gt; Best regards,<br>
&gt;&gt; Roman.<br>
&gt;&gt; _______________________________________________<br>
&gt;&gt; Gluster-users mailing list<br>
&gt;&gt; <a href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a><br>
&gt;&gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-users">http://www.gluster.org/mailman/listinfo/gluster-users</a><br>
&gt;&gt; Roman<br>
&gt;&gt; July 13, 2015 at 7:35 PM<br>
&gt;&gt; Bah... the randomness of this issue is killing me.<br>
&gt;&gt; Not only HA volumes are affected. Got an error during installation of d8<br>
&gt;&gt; with mate (on python-gtk2 pkg) on Distributed volume also.<br>
&gt;&gt; I&#39;ve checked the MD5SUM of installation iso, its ok.<br>
&gt;&gt;<br>
&gt;&gt; Shortly after that on the same VE node I installed D7 with Gnome without<br>
&gt;&gt; any problem on the HA glusterf volume.<br>
&gt;&gt;<br>
&gt;&gt; And on the same VE node I&#39;ve installed D8 with both Mate and Gnome using<br>
&gt;&gt; local storage disks without problems. There is a bug somewhere in gluster or<br>
&gt;&gt; qemu... Proxmox uses RH kernel btw:<br>
&gt;&gt;<br>
&gt;&gt; Linux services 2.6.32-37-pve<br>
&gt;&gt; QEMU emulator version 2.2.1<br>
&gt;&gt; glusterfs 3.6.4<br>
&gt;&gt;<br>
&gt;&gt; any ideas?<br>
&gt;&gt; I&#39;m ready to help to investigate this bug.<br>
&gt;&gt; When sun will shine, I&#39;ll try to install latest Ubuntu also. But now I&#39;m<br>
&gt;&gt; going to sleep.<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; --<br>
&gt;&gt; Best regards,<br>
&gt;&gt; Roman.<br>
&gt;&gt; _______________________________________________<br>
&gt;&gt; Gluster-users mailing list<br>
&gt;&gt; <a href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a><br>
&gt;&gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-users">http://www.gluster.org/mailman/listinfo/gluster-users</a><br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt; --<br>
&gt; Best regards,<br>
&gt; Roman.<br>
&gt;<br>
&gt; _______________________________________________<br>
&gt; Gluster-users mailing list<br>
&gt; <a href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a><br>
&gt; <a href="http://www.gluster.org/mailman/listinfo/gluster-users">http://www.gluster.org/mailman/listinfo/gluster-users</a><br>
</p>
</blockquote>
</blockquote>
</blockquote>
<blockquote><blockquote><p dir="ltr"><br><br></p>
<p dir="ltr">-- </p>
<p dir="ltr">Best regards,<br>
Roman.<br>
</p>
</blockquote>
</blockquote>
<blockquote><p dir="ltr"><br><br></p>
<p dir="ltr">-- </p>
<p dir="ltr">Best regards,<br>
Roman.</p>
<p dir="ltr">_______________________________________________<br>
Gluster-users mailing list<br>
<a href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a><br>
<a href="http://www.gluster.org/mailman/listinfo/gluster-users">http://www.gluster.org/mailman/listinfo/gluster-users</a><br>
</p>
</blockquote>
<p dir="ltr"><br>
</p>