<html>
<head>
<style><!--
.hmmessage P
{
margin:0px;
padding:0px
}
body.hmmessage
{
font-size: 12pt;
font-family:Calibri
}
--></style></head>
<body class='hmmessage'><div dir='ltr'>Thank you very much.<div>I just noticed even without ganesha nfs i see this kind of traffic to the lo address.</div><div>and the warning message about the health status only happen when i hit 100% brick utilization, so it should be fine anyway.</div><div>I'll keep digging.</div><div><br></div><div>Thanks again.<br><br><br>
<div class="ecxmoz-signature">-- <br>
<br>
<font color="#3366ff"><font color="#000000">Respectfully<b><br>
    </b><b>Mahdi A. Mahdi</b></font></font><font color="#3366ff"><br><br></font><font color="#3366ff"></font></div><br><br><div>&gt; Subject: Re: [Gluster-users] NFS-Ganesha lo traffic<br>&gt; To: mahdi.adnan@outlook.com<br>&gt; CC: gluster-users@gluster.org; nfs-ganesha-devel@lists.sourceforge.net<br>&gt; From: skoduri@redhat.com<br>&gt; Date: Wed, 10 Aug 2016 11:05:50 +0530<br>&gt; <br>&gt; <br>&gt; <br>&gt; On 08/09/2016 09:06 PM, Mahdi Adnan wrote:<br>&gt; &gt; Hi,<br>&gt; &gt; Thank you for your reply.<br>&gt; &gt;<br>&gt; &gt; The traffic is related to GlusterFS;<br>&gt; &gt;<br>&gt; &gt; 18:31:20.419056 IP 192.168.208.134.49058 &gt; 192.168.208.134.49153: Flags<br>&gt; &gt; [.], ack 3876, win 24576, options [nop,nop,TS val 247718812 ecr<br>&gt; &gt; 247718772], length 0<br>&gt; &gt; 18:31:20.419080 IP 192.168.208.134.49056 &gt; 192.168.208.134.49154: Flags<br>&gt; &gt; [.], ack 11625, win 24576, options [nop,nop,TS val 247718812 ecr<br>&gt; &gt; 247718772], length 0<br>&gt; &gt; 18:31:20.419084 IP 192.168.208.134.49060 &gt; 192.168.208.134.49152: Flags<br>&gt; &gt; [.], ack 9861, win 24576, options [nop,nop,TS val 247718812 ecr<br>&gt; &gt; 247718772], length 0<br>&gt; &gt; 18:31:20.419088 IP 192.168.208.134.49054 &gt; 192.168.208.134.49155: Flags<br>&gt; &gt; [.], ack 4393, win 24568, options [nop,nop,TS val 247718812 ecr<br>&gt; &gt; 247718772], length 0<br>&gt; &gt; 18:31:20.420084 IP 192.168.208.134.49052 &gt; 192.168.208.134.49156: Flags<br>&gt; &gt; [.], ack 5525, win 24576, options [nop,nop,TS val 247718813 ecr<br>&gt; &gt; 247718773], length 0<br>&gt; &gt; 18:31:20.420092 IP 192.168.208.134.49049 &gt; 192.168.208.134.49158: Flags<br>&gt; &gt; [.], ack 6657, win 24576, options [nop,nop,TS val 247718813 ecr<br>&gt; &gt; 247718773], length 0<br>&gt; &gt; 18:31:20.421065 IP 192.168.208.134.49050 &gt; 192.168.208.134.49157: Flags<br>&gt; &gt; [.], ack 4729, win 24570, options [nop,nop,TS val 247718814 ecr<br>&gt; &gt; 247718774], length 0<br>&gt; &gt;<br>&gt; <br>&gt; Looks like that is the traffic coming to the bricks local to that node <br>&gt; (&gt;4915* ports are used by glusterfs brick processes). It could be from <br>&gt; nfs-ganesha or any other glusterfs client processes (like self-heal <br>&gt; daemon etc). Do you see this traffic even when there is no active I/O <br>&gt; from the nfs-client? If so, it could be from the self-heal daemon then. <br>&gt; Verify if there are any files/directories to be healed.<br>&gt; <br>&gt; &gt; Screenshot from wireshark can be found in the attachments.<br>&gt; &gt; 208.134 is the server IP address, and it's looks like it talking to<br>&gt; &gt; itself via the lo interface, im wondering if this is a normal behavior<br>&gt; &gt; or not.<br>&gt; yes. It is the expected behavior when there are clients actively <br>&gt; accessing the volumes.<br>&gt; <br>&gt; &gt; and regarding the Ganesha server logs, how can i debug it to find why<br>&gt; &gt; the servers not responding to the requests on time ?<br>&gt; <br>&gt; I suggest again to take tcpdump. Sometimes nfs-ganesha server (glusterfs <br>&gt; client) may have to communicate with all the bricks over the network <br>&gt; (like LOOKUP) and that may result in delay if there are lots of bricks <br>&gt; involved. Try capturing packets from the node where the nfs-ganesha <br>&gt; server is running and examine the packets between any of the NFS-client <br>&gt; request and its corresponding reply packet.<br>&gt; <br>&gt; I usually use below cmd to capture the packets on all the interfaces -<br>&gt; #tcpdump -i any -s 0 -w /var/tmp/nfs.pcap tcp and not port 22<br>&gt; <br>&gt; Thanks,<br>&gt; Soumya<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt; --<br>&gt; &gt;<br>&gt; &gt; Respectfully*<br>&gt; &gt; **Mahdi A. Mahdi*<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;&gt; Subject: Re: [Gluster-users] NFS-Ganesha lo traffic<br>&gt; &gt;&gt; To: mahdi.adnan@outlook.com<br>&gt; &gt;&gt; From: skoduri@redhat.com<br>&gt; &gt;&gt; CC: gluster-users@gluster.org; nfs-ganesha-devel@lists.sourceforge.net<br>&gt; &gt;&gt; Date: Tue, 9 Aug 2016 18:02:01 +0530<br>&gt; &gt;&gt;<br>&gt; &gt;&gt;<br>&gt; &gt;&gt;<br>&gt; &gt;&gt; On 08/09/2016 03:33 PM, Mahdi Adnan wrote:<br>&gt; &gt;&gt; &gt; Hi,<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; Im using NFS-Ganesha to access my volume, it's working fine for now but<br>&gt; &gt;&gt; &gt; im seeing lots of traffic on the Loopback interface, in fact it's the<br>&gt; &gt;&gt; &gt; same amount of traffic on the bonding interface, can anyone please<br>&gt; &gt;&gt; &gt; explain to me why is this happening ?<br>&gt; &gt;&gt;<br>&gt; &gt;&gt; Could you please capture packets on those interfaces using tcpdump and<br>&gt; &gt;&gt; examine the traffic?<br>&gt; &gt;&gt;<br>&gt; &gt;&gt; &gt; also, i got the following error in the ganesha log file;<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; 09/08/2016 11:35:54 : epoch 57a5da0c : gfs04 :<br>&gt; &gt;&gt; &gt; ganesha.nfsd-1646[dbus_heartbeat] dbus_heartbeat_cb :DBUS :WARN :Health<br>&gt; &gt;&gt; &gt; status is unhealthy. Not sending heartbeat<br>&gt; &gt;&gt; &gt; 09/08/2016 11:46:04 : epoch 57a5da0c : gfs04 :<br>&gt; &gt;&gt; &gt; ganesha.nfsd-1646[dbus_heartbeat] dbus_heartbeat_cb :DBUS :WARN :Health<br>&gt; &gt;&gt; &gt; status is unhealthy. Not sending heartbeat<br>&gt; &gt;&gt; &gt; 09/08/2016 11:54:39 : epoch 57a5da0c : gfs04 :<br>&gt; &gt;&gt; &gt; ganesha.nfsd-1646[dbus_heartbeat] dbus_heartbeat_cb :DBUS :WARN :Health<br>&gt; &gt;&gt; &gt; status is unhealthy. Not sending heartbeat<br>&gt; &gt;&gt; &gt; 09/08/2016 12:06:04 : epoch 57a5da0c : gfs04 :<br>&gt; &gt;&gt; &gt; ganesha.nfsd-1646[dbus_heartbeat] dbus_heartbeat_cb :DBUS :WARN :Health<br>&gt; &gt;&gt; &gt; status is unhealthy. Not sending heartbeat<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; is it something i should care about ?<br>&gt; &gt;&gt;<br>&gt; &gt;&gt; Above warnings are thrown when the outstanding rpc request queue count<br>&gt; &gt;&gt; doesn't change within two heartbeats, in other words the server may be<br>&gt; &gt;&gt; taking a while to process the requests and responding slowly to its<br>&gt; &gt; clients.<br>&gt; &gt;&gt;<br>&gt; &gt;&gt; Thanks,<br>&gt; &gt;&gt; Soumya<br>&gt; &gt;&gt;<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; My ganesha config is the following;<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; EXPORT{<br>&gt; &gt;&gt; &gt; Export_Id = 1 ;<br>&gt; &gt;&gt; &gt; Path = "/vlm02";<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; FSAL {<br>&gt; &gt;&gt; &gt; name = GLUSTER;<br>&gt; &gt;&gt; &gt; hostname = "gfs04";<br>&gt; &gt;&gt; &gt; volume = "vlm02";<br>&gt; &gt;&gt; &gt; }<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; Access_type = RW;<br>&gt; &gt;&gt; &gt; Disable_ACL = TRUE;<br>&gt; &gt;&gt; &gt; Squash = No_root_squash;<br>&gt; &gt;&gt; &gt; Protocols = "3" ;<br>&gt; &gt;&gt; &gt; Transports = "TCP";<br>&gt; &gt;&gt; &gt; }<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; Im accessing it via a floating ip assigned by CTDB.<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; Thank you.<br>&gt; &gt;&gt; &gt; --<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; Respectfully*<br>&gt; &gt;&gt; &gt; **Mahdi A. Mahdi*<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt;<br>&gt; &gt;&gt; &gt; _______________________________________________<br>&gt; &gt;&gt; &gt; Gluster-users mailing list<br>&gt; &gt;&gt; &gt; Gluster-users@gluster.org<br>&gt; &gt;&gt; &gt; http://www.gluster.org/mailman/listinfo/gluster-users<br>&gt; &gt;&gt; &gt;<br></div></div>                                               </div></body>
</html>