<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;
        mso-fareast-language:EN-US;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:#0563C1;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:#954F72;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        mso-fareast-language:EN-US;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:72.0pt 72.0pt 72.0pt 72.0pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-IN" link="#0563C1" vlink="#954F72">
<div class="WordSection1">
<p class="MsoNormal">Hi,<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">I have a requirement to completely disable gluster caching and measure performance on PCIe SSD drive.&nbsp; Below is my vol configuration for disabling performance.<o:p></o:p></p>
<p class="MsoNormal">With these settings, I still see raw SSD speed doesn&#8217;t match with the numbers shown by fio with gfapi &nbsp;engine i.,e fio shows speed of 1.5GB/s but raw speed measured at SSD using iostat is around 250-300MB/s, not sure where the rest is coming
 from.<o:p></o:p></p>
<p class="MsoNormal">My assumption was if gluster caching is completely disabled, fio speed should be very close to raw SSD speed. Can anyone please guide me in understanding the same?<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">[root@vsan-blr4 prashanth]# gluster vol info<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">Volume Name: fvol_tun<o:p></o:p></p>
<p class="MsoNormal">Type: Distribute<o:p></o:p></p>
<p class="MsoNormal">Volume ID: 0beec43e-7f75-40e6-8153-075cbd7c3fc8<o:p></o:p></p>
<p class="MsoNormal">Status: Started<o:p></o:p></p>
<p class="MsoNormal">Number of Bricks: 2<o:p></o:p></p>
<p class="MsoNormal">Transport-type: rdma<o:p></o:p></p>
<p class="MsoNormal">Bricks:<o:p></o:p></p>
<p class="MsoNormal">Brick1: 192.168.1.3:/fdata/fbrick1/fvol_tun<o:p></o:p></p>
<p class="MsoNormal">Brick2: 192.168.1.4:/fdata/fbrick1/fvol_tun<o:p></o:p></p>
<p class="MsoNormal">Options Reconfigured:<o:p></o:p></p>
<p class="MsoNormal">performance.cache-size: 32MB<o:p></o:p></p>
<p class="MsoNormal">performance.write-behind-window-size: 524288<o:p></o:p></p>
<p class="MsoNormal">performance.flush-behind: off<o:p></o:p></p>
<p class="MsoNormal">performance.write-behind: off<o:p></o:p></p>
<p class="MsoNormal">performance.io-cache: off<o:p></o:p></p>
<p class="MsoNormal">diagnostics.count-fop-hits: on<o:p></o:p></p>
<p class="MsoNormal">diagnostics.latency-measurement: on<o:p></o:p></p>
<p class="MsoNormal">performance.readdir-ahead: on<o:p></o:p></p>
<p class="MsoNormal">server.allow-insecure: on<o:p></o:p></p>
<p class="MsoNormal">auth.allow: 192.168.1.*<o:p></o:p></p>
<p class="MsoNormal">performance.io-thread-count: 32<o:p></o:p></p>
<p class="MsoNormal">diagnostics.brick-log-level: TRACE<o:p></o:p></p>
<p class="MsoNormal">diagnostics.client-log-level: TRACE<o:p></o:p></p>
<p class="MsoNormal">debug.trace: write-behind<o:p></o:p></p>
<p class="MsoNormal">debug.log-file: yes<o:p></o:p></p>
<p class="MsoNormal">debug.include-ops: yes<o:p></o:p></p>
<p class="MsoNormal">performance.strict-o-direct: on<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
<p class="MsoNormal">-Prashanth<o:p></o:p></p>
<p class="MsoNormal"><o:p>&nbsp;</o:p></p>
</div>
<p class="MsoNormal"><span style="font-size:10.0pt;font-family:&quot;Arial&quot;,sans-serif"><strong>HGST E-mail
Confidentiality Notice &amp; Disclaimer:</strong><br>This e-mail and any files transmitted with it may contain confidential
or legally privileged information of HGST and are intended solely for the use
of the individual or entity to which they are addressed. If you are not the
intended recipient, any disclosure, copying, distribution or any action taken
or omitted to be taken in reliance on it, is prohibited.&nbsp; If you have received this e-mail in error,
please notify the sender immediately and delete the e-mail in its entirety from
your system.<o:p></o:p></span></p></body>
</html>