<html>
  <head>
    <meta content="text/html; charset=windows-1252"
      http-equiv="Content-Type">
  </head>
  <body bgcolor="#FFFFFF" text="#000000">
    <br>
    <div class="moz-cite-prefix">On 02/18/2015 10:52 AM, Olav Peeters
      wrote:<br>
    </div>
    <blockquote cite="mid:54E4DF7B.8070103@gmail.com" type="cite">
      <meta content="text/html; charset=windows-1252"
        http-equiv="Content-Type">
      <div class="moz-cite-prefix">Hi all,<br>
        I'm have this problem after upgrading from 3.5.3 to 3.6.2.<br>
        At the moment I am still waiting for a heal to finish (on a 31TB
        volume with 42 bricks, replicated over three nodes).<br>
        <br>
        Tom,<br>
        how did you remove the duplicates?<br>
        with 42 bricks I will not be able to do this manually..<br>
        Did a:<br>
        find $brick_root -type f -size 0 -perm 1000 -exec /bin/rm {} \;<br>
        work for you?<br>
        <br>
        Should this type of thing ideally not be checked and mended by a
        heal?<br>
      </div>
    </blockquote>
    <br>
    This problem should never happen. If it does, yes, I believe this
    should be recognized by gluster and fixed. The problem is, nobody's
    been able to reproduce this in a lab and those that have found it
    have only found it in production. Since those in production want it
    fixed quickly, there's generally no ability to go back and forth
    with the developers to adequately identify the problem and file a
    proper bug report.<br>
    <br>
    If you have the time to figure out what happened, please file a bug
    report and provide any feedback the developers need to be able to
    reproduce this problem. <br>
    <br>
    <a class="moz-txt-link-freetext" href="https://bugzilla.redhat.com/enter_bug.cgi?product=GlusterFS">https://bugzilla.redhat.com/enter_bug.cgi?product=GlusterFS</a><br>
    <br>
    <blockquote cite="mid:54E4DF7B.8070103@gmail.com" type="cite">
      <div class="moz-cite-prefix"> <br>
        Does anyone have an idea yet how this happens in the first
        place? Can it be connected to upgrading?<br>
      </div>
    </blockquote>
    <br>
    You have given me one clue, above, that may be relevant. "I am
    waiting for a heal to finish". One guess would be that if you have
    volumes in an unhealed state and upgrade while unhealed, perhaps
    that may be a possible issue.<br>
    <br>
    <blockquote cite="mid:54E4DF7B.8070103@gmail.com" type="cite">
      <div class="moz-cite-prefix"> <br>
        Cheers,<br>
        Olav<br>
        On 01/01/15 03:07, <a moz-do-not-send="true"
          class="moz-txt-link-abbreviated"
          href="mailto:tbenzvi@3vgeomatics.com">tbenzvi@3vgeomatics.com</a>
        wrote:<br>
      </div>
      <blockquote
cite="mid:20141231190720.b2b02683b6fce9ed61e10e2e9bfae354.1100adfcd4.mailapi@email04.secureserver.net"
        type="cite">
        <div>No, the files can be read on a newly mounted client! I went
          ahead and deleted all of the link files associated with these
          duplicates, and then remounted the volume. The problem is
          fixed!</div>
        <div>Thanks again for the help, Joe and Vijay.</div>
        <div> </div>
        <div>Tom</div>
        <div> </div>
        <blockquote class="threadBlockQuote" style="border-left: 2px
          solid #C2C2C2; padding-left: 3px; margin-left: 4px;">---------
          Original Message ---------
          <div>Subject: Re: [Gluster-users] Hundreds of duplicate files<br>
            From: "Vijay Bellur" <a moz-do-not-send="true"
              class="moz-txt-link-rfc2396E"
              href="mailto:vbellur@redhat.com">&lt;vbellur@redhat.com&gt;</a><br>
            Date: 12/28/14 3:23 am<br>
            To: <a moz-do-not-send="true"
              class="moz-txt-link-abbreviated"
              href="mailto:tbenzvi@3vgeomatics.com">tbenzvi@3vgeomatics.com</a>,
            <a moz-do-not-send="true" class="moz-txt-link-abbreviated"
              href="mailto:gluster-users@gluster.org">gluster-users@gluster.org</a><br>
            <br>
            On 12/28/2014 01:20 PM, <a moz-do-not-send="true"
              class="moz-txt-link-abbreviated"
              href="mailto:tbenzvi@3vgeomatics.com">tbenzvi@3vgeomatics.com</a>
            wrote:<br>
            &gt; Hi Vijay,<br>
            &gt; Yes the files are still readable from the .glusterfs
            path.<br>
            &gt; There is no explicit error. However, trying to read a
            text file in<br>
            &gt; python simply gives me null characters:<br>
            &gt;<br>
            &gt; &gt;&gt;&gt; open('ott_mf_itab').readlines()<br>
            &gt;
['\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00\x00']<br>
            &gt;<br>
            &gt; And reading binary files does the same<br>
            &gt;<br>
            <br>
            Is this behavior seen with a freshly mounted client too?<br>
            <br>
            -Vijay<br>
            <br>
            &gt; --------- Original Message ---------<br>
            &gt; Subject: Re: [Gluster-users] Hundreds of duplicate
            files<br>
            &gt; From: "Vijay Bellur" <a moz-do-not-send="true"
              class="moz-txt-link-rfc2396E"
              href="mailto:vbellur@redhat.com">&lt;vbellur@redhat.com&gt;</a><br>
            &gt; Date: 12/27/14 9:57 pm<br>
            &gt; To: <a moz-do-not-send="true"
              class="moz-txt-link-abbreviated"
              href="mailto:tbenzvi@3vgeomatics.com">tbenzvi@3vgeomatics.com</a>,
            <a moz-do-not-send="true" class="moz-txt-link-abbreviated"
              href="mailto:gluster-users@gluster.org">gluster-users@gluster.org</a><br>
            &gt;<br>
            &gt; On 12/28/2014 10:13 AM, <a moz-do-not-send="true"
              class="moz-txt-link-abbreviated"
              href="mailto:tbenzvi@3vgeomatics.com">tbenzvi@3vgeomatics.com</a>
            wrote:<br>
            &gt; &gt; Thanks Joe, I've read your blog post as well as
            your post<br>
            &gt; regarding the<br>
            &gt; &gt; .glusterfs directory.<br>
            &gt; &gt; I found some unneeded duplicate files which were
            not being read<br>
            &gt; &gt; properly. I then deleted the link file from the
            brick. This always<br>
            &gt; &gt; removes the duplicate file from the listing, but
            the file does not<br>
            &gt; &gt; always become readable. If I also delete the
            associated file in the<br>
            &gt; &gt; .glusterfs directory on that brick, then some more
            files become<br>
            &gt; &gt; readable. However this solution still doesn't work
            for all files.<br>
            &gt; &gt; I know the file on the brick is not corrupt as it
            can be read<br>
            &gt; directly<br>
            &gt; &gt; from the brick directory.<br>
            &gt;<br>
            &gt; For files that are not readable from the client, can
            you check if the<br>
            &gt; file is readable from the .glusterfs/ path?<br>
            &gt;<br>
            &gt; What is the specific error that is seen while trying to
            read one such<br>
            &gt; file from the client?<br>
            &gt;<br>
            &gt; Thanks,<br>
            &gt; Vijay<br>
            &gt;<br>
            &gt;<br>
            &gt;<br>
            &gt; _______________________________________________<br>
            &gt; Gluster-users mailing list<br>
            &gt; <a moz-do-not-send="true"
              class="moz-txt-link-abbreviated"
              href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a><br>
            &gt; <a moz-do-not-send="true"
              class="moz-txt-link-freetext"
              href="http://www.gluster.org/mailman/listinfo/gluster-users">http://www.gluster.org/mailman/listinfo/gluster-users</a><br>
            &gt;<br>
          </div>
        </blockquote>
        <br>
        <fieldset class="mimeAttachmentHeader"></fieldset>
        <br>
        <pre wrap="">_______________________________________________
Gluster-users mailing list
<a moz-do-not-send="true" class="moz-txt-link-abbreviated" href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a>
<a moz-do-not-send="true" class="moz-txt-link-freetext" href="http://www.gluster.org/mailman/listinfo/gluster-users">http://www.gluster.org/mailman/listinfo/gluster-users</a></pre>
      </blockquote>
      <br>
      <br>
      <fieldset class="mimeAttachmentHeader"></fieldset>
      <br>
      <pre wrap="">_______________________________________________
Gluster-users mailing list
<a class="moz-txt-link-abbreviated" href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a>
<a class="moz-txt-link-freetext" href="http://www.gluster.org/mailman/listinfo/gluster-users">http://www.gluster.org/mailman/listinfo/gluster-users</a></pre>
    </blockquote>
    <br>
  </body>
</html>