<html><body><div style="font-family: times new roman,new york,times,serif; font-size: 12pt; color: #000000"><div>Hi,<br></div><div><br></div><div>Because of the bugs:</div><div><a href="https://bugzilla.redhat.com/show_bug.cgi?id=1350880">https://bugzilla.redhat.com/show_bug.cgi?id=1350880</a></div><div><a href="https://bugzilla.redhat.com/show_bug.cgi?id=1352482">https://bugzilla.redhat.com/show_bug.cgi?id=1352482</a></div><div><br></div><div>3.7.11 is not a good version to be on for Qemu use case, please update to 3.7.13, which has fix for both the bugs.<br></div><div><br></div><div>W.R.T your original permission denied issue, please check the firewall settings, and also check if its not selinux issue.<br></div><div><br></div><div>Regards,<br></div><div>Poornima<br></div><hr id="zwchr"><blockquote style="border-left:2px solid #1010FF;margin-left:5px;padding-left:5px;color:#000;font-weight:normal;font-style:normal;text-decoration:none;font-family:Helvetica,Arial,sans-serif;font-size:12pt;"><b>From: </b>"Stephen Howell" &lt;stephen@allthatwemight.be&gt;<br><b>To: </b>gluster-devel@gluster.org<br><b>Sent: </b>Saturday, August 20, 2016 7:54:48 AM<br><b>Subject: </b>[Gluster-devel] Glusterfs 3.7.11 with LibGFApi in Qemu on Ubuntu Xenial does not work<br><div><br></div><div dir="ltr">I would like to follow up on a previous thread. I have here 3 machines running Ubuntu. All were running 14.04 LTS and of these two have been upgraded to 16.04. They all run QEMU with a shared GlusterFS mount for storing VM images. Libgfapi was configured and running on all hosts with 14.04 but has stopped recently with 16.04.<div><br></div><div>I can see exactly the same problems as mentioned here on the 16.04 machines, with these packages:</div><div><br></div><div><div>ii &nbsp;glusterfs-client &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 3.7.14-ubuntu1~xenial1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;clustered file-system (client package)</div><div>ii &nbsp;glusterfs-common &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 3.7.14-ubuntu1~xenial1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;GlusterFS common libraries and translator modules</div><div>ii &nbsp;glusterfs-server &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 3.7.14-ubuntu1~xenial1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;clustered file-system (server package)</div><div>ii &nbsp;qemu-block-extra:amd64 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 1:2.5+dfsg-5ubuntu10.2glusterfs3.7.14xenial1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;extra block backend modules for qemu-system and qemu-utils</div><div>ii &nbsp;qemu-kvm &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 1:2.5+dfsg-5ubuntu10.2glusterfs3.7.14xenial1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;QEMU Full virtualization</div><div>ii &nbsp;qemu-system-common &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 1:2.5+dfsg-5ubuntu10.2glusterfs3.7.14xenial1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;QEMU full system emulation binaries (common files)</div><div>ii &nbsp;qemu-system-x86 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;1:2.5+dfsg-5ubuntu10.2glusterfs3.7.14xenial1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;QEMU full system emulation binaries (x86)</div><div>ii &nbsp;qemu-utils &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 1:2.5+dfsg-5ubuntu10.2glusterfs3.7.14xenial1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;QEMU utilities</div></div><div><br></div><div>Packages on the 14.04 instance:</div><div><br></div><div><div>ii &nbsp;glusterfs-client &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 3.7.13-ubuntu1~trusty1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;clustered file-system (client package)</div><div>ii &nbsp;glusterfs-common &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 3.7.13-ubuntu1~trusty1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;GlusterFS common libraries and translator modules</div><div>ii &nbsp;glusterfs-server &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 3.7.13-ubuntu1~trusty1 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; amd64 &nbsp; &nbsp; &nbsp; &nbsp;clustered file-system (server package)</div><div>ii &nbsp;qemu-common &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;2.0.0+dfsg-2ubuntu1.24glusterfs3.7.12trusty1 all &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;dummy transitional package from qemu-common to qemu-keymaps</div><div>ii &nbsp;qemu-keymaps &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 2.0.0+dfsg-2ubuntu1.24glusterfs3.7.12trusty1 all &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;QEMU keyboard maps</div><div>ii &nbsp;qemu-kvm &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 2.0.0+dfsg-2ubuntu1.24glusterfs3.7.12trusty1 amd64 &nbsp; &nbsp; &nbsp; &nbsp;QEMU Full virtualization</div><div>ii &nbsp;qemu-system-common &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 2.0.0+dfsg-2ubuntu1.24glusterfs3.7.12trusty1 amd64 &nbsp; &nbsp; &nbsp; &nbsp;QEMU full system emulation binaries (common files)</div><div>ii &nbsp;qemu-system-x86 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;2.0.0+dfsg-2ubuntu1.24glusterfs3.7.12trusty1 amd64 &nbsp; &nbsp; &nbsp; &nbsp;QEMU full system emulation binaries (x86)</div><div>ii &nbsp;qemu-utils &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 2.0.0+dfsg-2ubuntu1.24glusterfs3.7.12trusty1 amd64 &nbsp; &nbsp; &nbsp; &nbsp;QEMU utilities</div></div><div><br></div><div><br></div><div>As you can see I am using Andre (monotek)'s packages to employ the Gluster protocol in QEMU under Ubuntu (not compiled by default). The versions of Gluster are similar and have indeed been identical in my prior testing. The relevant volume options were set, apparmour rules were added and the setup worked without issue serving block devices over libgfapi for 10+ VMs. However on upgrading to 16.04 there are issues relating to QEMU being unable to access the Gluster volume file when starting a VM. I can use qemu-img to create a blank file using the Gluster profocol but I cannot then start a VM using that file.&nbsp;</div><div><br></div><div>Error message:</div><div><br></div><div>&nbsp;[MSGID: 104007] [glfs-mgmt.c:637:glfs_mgmt_getspec_cbk] 0-glfs-mgmt: failed to fetch volume file (key:VM) [Invalid argument] [2016-08-20 11:28:02.985483] E [MSGID: 104024] [glfs-mgmt.c:738:mgmt_rpc_notify] 0-glfs-mgmt: failed to connect with remote-host: 127.0.0.1 (Permission denied) [Permission denied] 2016-08-20T11:28:03.979968Z qemu-system-x86_64: -drive file=gluster://<a href="http://127.0.0.1/VM/vm1.qcow2,format=qcow2,if=none,id=drive-virtio-disk0,cache=none" target="_blank">127.0.0.1/VM/vm1.qcow2,format=qcow2,if=none,id=drive-virtio-disk0,cache=none</a>: Gluster connection failed for server=127.0.0.1 port=0 volume=VM image=vm1.qcow2 transport=tcp: Permission denied<br></div><div><br></div><div>Any assistance on changes to permissions or apparmour in 16.04 would be greatly appreciated.</div><div><br></div><div>thanks</div><div>Stephen</div></div>
<br>_______________________________________________<br>Gluster-devel mailing list<br>Gluster-devel@gluster.org<br>http://www.gluster.org/mailman/listinfo/gluster-devel</blockquote><div><br></div></div></body></html>