<html><head><meta http-equiv="Content-Type" content="text/html charset=windows-1252"></head><body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;">Hi,<div><br></div><div>In addition of all split brains reported, is it normal to notice thousands and thousands (several tens nay hundreds of thousands) broken symlinks browsing the .glusterfs directory on each brick?&nbsp;</div><div>For the moment, i just synchronized one remote directory (around 30TB and a few million files) into my new volume. No other operations on files on this volume has yet been done.</div><div>How can I fix it? Can I delete these dead-symlinks? How can I fix all my split-brains?&nbsp;</div><div><br></div><div>Here is an example of a ls:</div><div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[root@cl-storage3 ~]# cd /export/brick_home/brick1/data/.glusterfs/7b/d2/</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[root@cl-storage3 d2]# ll</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">total 8,7M</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; &nbsp; 13706 drwx------ &nbsp; 2 root&nbsp; &nbsp; &nbsp; root&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 8,0K 26 juil. 17:22 <span style="color: #5e34ff"><b>.</b></span></span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">2147483784 drwx------ 258 root&nbsp; &nbsp; &nbsp; root&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 8,0K 20 juil. 23:07 <span style="color: #5e34ff"><b>..</b></span></span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">2148444137 -rwxrwxrwx &nbsp; 2 baaden&nbsp; &nbsp; baaden_team &nbsp; &nbsp; 173K 22 mai&nbsp; &nbsp; 2008 <span style="color: #2de621"><b>7bd200dd-1774-4395-9065-605ae30ec18b</b></span></span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1559384 -rw-rw-r-- &nbsp; 2 tarus &nbsp; &nbsp; amyloid_team&nbsp; &nbsp; 4,3K 19 juin &nbsp; 2013 7bd2155c-7a05-4edc-ae77-35ed7e16afbc</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp; &nbsp; 287295 lrwxrwxrwx &nbsp; 1 root&nbsp; &nbsp; &nbsp; root&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 58 20 juil. 23:38 <span style="color: #e52100"><b>7bd2370a-100b-411e-89a4-d184da9f0f88</b></span> -&gt; <span style="color: #e5e5e5; background-color: #991200"><b>../../a7/59/a759de6f-cdf5-43dd-809a-baf81d103bf7/prop-base</b></span></span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">2149090201 -rw-rw-r-- &nbsp; 2 tarus &nbsp; &nbsp; amyloid_team &nbsp; &nbsp; 76K&nbsp; 8 mars &nbsp; 2014 7bd2497f-d24b-4b19-a1c5-80a4956e56a1</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">2148561174 -rw-r--r-- &nbsp; 2 tran&nbsp; &nbsp; &nbsp; derreumaux_team&nbsp; 575 14 févr. 07:54 7bd25db0-67f5-43e5-a56a-52cf8c4c60dd</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1303943 -rw-r--r-- &nbsp; 2 tran&nbsp; &nbsp; &nbsp; derreumaux_team&nbsp; 576 10 févr. 06:06 7bd25e97-18be-4faf-b122-5868582b4fd8</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1308607 -rw-r--r-- &nbsp; 2 tran&nbsp; &nbsp; &nbsp; derreumaux_team 414K 16 juin&nbsp; 11:05 7bd2618f-950a-4365-a753-723597ef29f5</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; &nbsp; 45745 -rw-r--r-- &nbsp; 2 letessier admin_team &nbsp; &nbsp; &nbsp; 585&nbsp; 5 janv.&nbsp; 2012 7bd265c7-e204-4ee8-8717-e4a0c393fb0f</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">2148144918 -rw-rw-r-- &nbsp; 2 tarus &nbsp; &nbsp; amyloid_team&nbsp; &nbsp; 107K 28 févr.&nbsp; 2014 7bd26c5b-d48a-481a-9ca6-2dc27768b5ad</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; &nbsp; 13705 -rw-rw-r-- &nbsp; 2 tarus &nbsp; &nbsp; amyloid_team &nbsp; &nbsp; 25K&nbsp; 4 juin &nbsp; 2014 7bd27e4c-46ba-4f21-a766-389bfa52fd78</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1633627 -rw-rw-r-- &nbsp; 2 tarus &nbsp; &nbsp; amyloid_team &nbsp; &nbsp; 75K 12 mars &nbsp; 2014 7bd28631-90af-4c16-8ff0-c3d46d5026c6</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1329165 -rw-r--r-- &nbsp; 2 tran&nbsp; &nbsp; &nbsp; derreumaux_team&nbsp; 175 15 juin&nbsp; 23:40 7bd2957e-a239-4110-b3d8-b4926c7f060b</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp; &nbsp; 797803 lrwxrwxrwx &nbsp; 2 baaden&nbsp; &nbsp; baaden_team &nbsp; &nbsp; &nbsp; 26&nbsp; 2 avril&nbsp; 2007 <span style="color: #e52100"><b>7bd29933-1c80-4c6b-ae48-e64e4da874cb</b></span> -&gt; <span style="color: #e5e5e5; background-color: #991200"><b>../divided/a7/2a7o.pdb1.gz</b></span></span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1532463 -rw-rw-rw- &nbsp; 2 baaden&nbsp; &nbsp; baaden_team &nbsp; &nbsp; 1,8M&nbsp; 2 nov. &nbsp; 2009 7bd29d70-aeb4-4eca-ac55-fae2d46ba911</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1411112 -rw-r--r-- &nbsp; 2 sterpone&nbsp; sterpone_team &nbsp; 3,1K&nbsp; 2 mai&nbsp; &nbsp; 2012 7bd2a5eb-62a4-47fc-b149-31e10bd3c33d</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">2148865896 -rw-r--r-- &nbsp; 2 tran&nbsp; &nbsp; &nbsp; derreumaux_team 2,1M 15 juin&nbsp; 23:46 7bd2ae9c-18ca-471f-a54a-6e4aec5aea89</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">2148762578 -rw-rw-r-- &nbsp; 2 tarus &nbsp; &nbsp; amyloid_team&nbsp; &nbsp; 154K 11 mars &nbsp; 2014 7bd2b7d7-7745-4842-b7b4-400791c1d149</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp; &nbsp; 149216 -rw-r--r-- &nbsp; 2 vamparys&nbsp; sacquin_team&nbsp; &nbsp; 241K 17 mai&nbsp; &nbsp; 2013 7bd2ba98-6a42-40ea-87ea-acb607d73cb5</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">2148977923 -rwxr-xr-x &nbsp; 2 murail&nbsp; &nbsp; baaden_team&nbsp; &nbsp; &nbsp; 23K 18 juin &nbsp; 2012 <span style="color: #2de621"><b>7bd2cf57-19e7-451c-885d-fd02fd988d43</b></span></span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1176623 -rw-rw-r-- &nbsp; 2 tarus &nbsp; &nbsp; amyloid_team&nbsp; &nbsp; 227K&nbsp; 8 mars &nbsp; 2014 7bd2d92c-7ec8-4af8-9043-49d1908a99dc</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1172122 lrwxrwxrwx &nbsp; 2 sterpone&nbsp; sterpone_team &nbsp; &nbsp; 61 17 avril 12:49 <span style="color: #e52100"><b>7bd2d96e-e925-45f0-a26a-56b95c084122</b></span> -&gt; <span style="color: #e5e5e5; background-color: #991200"><b>../../../../../src/libs/ck-libs/ParFUM-Tops-Dev/ParFUM_TOPS.h</b></span></span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp;&nbsp; 1385933 -rw-r--r-- &nbsp; 2 tran&nbsp; &nbsp; &nbsp; derreumaux_team 2,9M 16 juin&nbsp; 05:29 7bd2df54-17d2-4644-96b7-f8925a67ec1e</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">&nbsp; &nbsp; 745899 lrwxrwxrwx &nbsp; 1 root&nbsp; &nbsp; &nbsp; root&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; 58 22 juil. 09:50 <span style="color: #28efef"><b>7bd2df83-ce58-4a17-aca8-a32b71e953d4</b></span> -&gt; <span style="color: #5e34ff"><b>../../5c/39/5c39010f-fa77-49df-8df6-8d72cf74fd64/model_009</b></span></span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">2149100186 -rw-rw-r-- &nbsp; 2 tarus &nbsp; &nbsp; amyloid_team&nbsp; &nbsp; 494K 17 mars &nbsp; 2014 7bd2e865-a2f4-4d90-ab29-dccebe2e3440</span></div></div><div><br></div><div><br></div><div><br></div><div>Best.</div><div>Geoffrey<br><div apple-content-edited="true">
------------------------------------------------------<br>Geoffrey Letessier<br>Responsable informatique &amp; ingénieur&nbsp;système<br>UPR 9080 - CNRS - Laboratoire de&nbsp;Biochimie Théorique<br>Institut de Biologie Physico-Chimique<br>13, rue Pierre et Marie Curie - 75005&nbsp;Paris<br>Tel: 01 58 41 50 93 - eMail:&nbsp;<a href="mailto:geoffrey.letessier@ibpc.fr">geoffrey.letessier@ibpc.fr</a>
</div>
<br><div><div>Le 27 juil. 2015 à 22:57, Geoffrey Letessier &lt;<a href="mailto:geoffrey.letessier@cnrs.fr">geoffrey.letessier@cnrs.fr</a>&gt; a écrit :</div><br class="Apple-interchange-newline"><blockquote type="cite"><meta http-equiv="Content-Type" content="text/html charset=windows-1252"><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;">Dears,<div><br></div><div>For a couple of weeks (more than one month), our computing production is stopped due to several -but amazing- troubles with GlusterFS.&nbsp;</div><div><br></div><div>After having noticed a big problem with incorrect quota size accounted for many many files, i decided under the guidance of Gluster team support to upgrade my storage cluster from version 3.5.3 to the latest (3.7.2-3) because these bugs are theoretically fixed in this branch. Now, since i’ve done this upgrade, it’s the amazing mess and i cannot restart the production.</div><div>Indeed :</div><div><span class="Apple-tab-span" style="white-space:pre">        </span>1&nbsp;- RDMA protocol is not working and hang my system / shell commands; only TCP protocol (over Infiniband) is more or less operational &nbsp; - it’s not a blocking point but…&nbsp;</div><div><span class="Apple-tab-span" style="white-space:pre">        </span>2 - read/write performance relatively low</div><div><span class="Apple-tab-span" style="white-space:pre">        </span>3&nbsp;- thousands split-brains are appeared.</div><div><br></div><div>So, for the moment, i believe GlusterFS 3.7 is not actually production ready.&nbsp;</div><div><br></div><div>Concerning the third point: after having destroy all my volumes (RAID re-init, new partition, GlusterFS volumes, etc.), recreate the main one, I tried to back-transfert my data from archive/backup server info this new volume and I note a lot of errors in my mount log file, as your can read in this extract:</div><div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-26 22:35:16.962815] I [afr-self-heal-entry.c:565:afr_selfheal_entry_do] 0-vol_home-replicate-0: performing entry selfheal on 865083fa-984e-44bd-aacf-b8195789d9e0</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-26 22:35:16.965896] E [afr-self-heal-entry.c:249:afr_selfheal_detect_gfid_and_type_mismatch] 0-vol_home-replicate-0: Gfid mismatch detected for &lt;865083fa-984e-44bd-aacf-b8195789d9e0/job.pbs&gt;, e944d444-66c5-40a4-9603-7c190ad86013 on vol_home-client-1 and 820f9bcc-a0f6-40e0-bcec-28a76b4195ea on vol_home-client-0. Skipping conservative merge on the file.</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-26 22:35:16.975206] I [afr-self-heal-entry.c:565:afr_selfheal_entry_do] 0-vol_home-replicate-0: performing entry selfheal on 29382d8d-c507-4d2e-b74d-dbdcb791ca65</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-26 22:35:28.719935] E [afr-self-heal-entry.c:249:afr_selfheal_detect_gfid_and_type_mismatch] 0-vol_home-replicate-0: Gfid mismatch detected for &lt;29382d8d-c507-4d2e-b74d-dbdcb791ca65/res_1BVK_r_u_1IBR_l_u_Cond.1IBR_l_u.1BVK_r_u.UB.global.dat.txt&gt;, 951c5ffb-ca38-4630-93f3-8e4119ab0bd8 on vol_home-client-1 and 5ae663ca-e896-4b92-8ec5-5b15422ab861 on vol_home-client-0. Skipping conservative merge on the file.</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-26 22:35:29.764891] I [afr-self-heal-entry.c:565:afr_selfheal_entry_do] 0-vol_home-replicate-0: performing entry selfheal on 865083fa-984e-44bd-aacf-b8195789d9e0</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-26 22:35:29.768339] E [afr-self-heal-entry.c:249:afr_selfheal_detect_gfid_and_type_mismatch] 0-vol_home-replicate-0: Gfid mismatch detected for &lt;865083fa-984e-44bd-aacf-b8195789d9e0/job.pbs&gt;, e944d444-66c5-40a4-9603-7c190ad86013 on vol_home-client-1 and 820f9bcc-a0f6-40e0-bcec-28a76b4195ea on vol_home-client-0. Skipping conservative merge on the file.</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-26 22:35:29.775037] I [afr-self-heal-entry.c:565:afr_selfheal_entry_do] 0-vol_home-replicate-0: performing entry selfheal on 29382d8d-c507-4d2e-b74d-dbdcb791ca65</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-26 22:35:29.776857] E [afr-self-heal-entry.c:249:afr_selfheal_detect_gfid_and_type_mismatch] 0-vol_home-replicate-0: Gfid mismatch detected for &lt;29382d8d-c507-4d2e-b74d-dbdcb791ca65/res_1BVK_r_u_1IBR_l_u_Cond.1IBR_l_u.1BVK_r_u.UB.global.dat.txt&gt;, 951c5ffb-ca38-4630-93f3-8e4119ab0bd8 on vol_home-client-1 and 5ae663ca-e896-4b92-8ec5-5b15422ab861 on vol_home-client-0. Skipping conservative merge on the file.</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-26 22:35:29.800535] W [MSGID: 108008] [afr-self-heal-name.c:353:afr_selfheal_name_gfid_mismatch_check] 0-vol_home-replicate-0: GFID mismatch for &lt;gfid:29382d8d-c507-4d2e-b74d-dbdcb791ca65&gt;/res_1BVK_r_u_1IBR_l_u_Cond.1IBR_l_u.1BVK_r_u.UB.global.dat.txt 951c5ffb-ca38-4630-93f3-8e4119ab0bd8 on vol_home-client-1 and 5ae663ca-e896-4b92-8ec5-5b15422ab861 on vol_home-client-0</span></div></div><div><br></div><div>And when I try to browse some folders (still in mount log file):</div><div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-27 09:00:19.005763] I [afr-self-heal-entry.c:565:afr_selfheal_entry_do] 0-vol_home-replicate-0: performing entry selfheal on 2ac27442-8be0-4985-b48f-3328a86a6686</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0); position: static; z-index: auto;"><span style="font-size: 9px;">[2015-07-27 09:00:22.322316] E [afr-self-heal-entry.c:249:afr_selfheal_detect_gfid_and_type_mismatch] 0-vol_home-replicate-0: Gfid mismatch detected for &lt;2ac27442-8be0-4985-b48f-3328a86a6686/md0012588.gro&gt;, 9c635868-054b-4a13-b974-0ba562991586 on vol_home-client-1 and 1943175c-b336-4b33-aa1c-74a1c51f17b9 on vol_home-client-0. Skipping conservative merge on the file.</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-27 09:00:23.008771] I [afr-self-heal-entry.c:565:afr_selfheal_entry_do] 0-vol_home-replicate-0: performing entry selfheal on 2ac27442-8be0-4985-b48f-3328a86a6686</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-27 08:59:50.359187] W [MSGID: 108008] [afr-self-heal-name.c:353:afr_selfheal_name_gfid_mismatch_check] 0-vol_home-replicate-0: GFID mismatch for &lt;gfid:2ac27442-8be0-4985-b48f-3328a86a6686&gt;/md0012588.gro 9c635868-054b-4a13-b974-0ba562991586 on vol_home-client-1 and 1943175c-b336-4b33-aa1c-74a1c51f17b9 on vol_home-client-0</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-27 09:00:02.500419] W [MSGID: 108008] [afr-self-heal-name.c:353:afr_selfheal_name_gfid_mismatch_check] 0-vol_home-replicate-0: GFID mismatch for &lt;gfid:2ac27442-8be0-4985-b48f-3328a86a6686&gt;/md0012590.gro b22aec09-2be3-41ea-a976-7b8d0e6f61f0 on vol_home-client-1 and ec100f9e-ec48-4b29-b75e-a50ec6245de6 on vol_home-client-0</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-27 09:00:02.506925] W [MSGID: 108008] [afr-self-heal-name.c:353:afr_selfheal_name_gfid_mismatch_check] 0-vol_home-replicate-0: GFID mismatch for &lt;gfid:2ac27442-8be0-4985-b48f-3328a86a6686&gt;/md0009059.gro 0485c093-11ca-4829-b705-e259668ebd8c on vol_home-client-1 and e83a492b-7f8c-4b32-a76e-343f984142fe on vol_home-client-0</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-27 09:00:23.001121] W [MSGID: 108008] [afr-read-txn.c:241:afr_read_txn] 0-vol_home-replicate-0: Unreadable subvolume -1 found with event generation 2. (Possible split-brain)</span></div><div style="margin: 0px; font-family: Menlo; color: rgb(255, 255, 255); background-color: rgb(0, 0, 0);"><span style="font-size: 9px;">[2015-07-27 09:00:26.231262] E [afr-self-heal-entry.c:249:afr_selfheal_detect_gfid_and_type_mismatch] 0-vol_home-replicate-0: Gfid mismatch detected for &lt;2ac27442-8be0-4985-b48f-3328a86a6686/md0012588.gro&gt;, 9c635868-054b-4a13-b974-0ba562991586 on vol_home-client-1 and 1943175c-b336-4b33-aa1c-74a1c51f17b9 on vol_home-client-0. Skipping conservative merge on the file.</span></div><div><br></div><div>And, above all, browsing folder I get a lot of input/ouput errors.</div><div><br></div><div>Currently I have 6.2M inodes and roughly 30TB in my "new" volume.</div><div><br></div><div>For the moment, Quota is disable to increase the IO performance during the back-transfert…&nbsp;</div><div><br></div><div>Your can also find in attachments:</div><div><span class="Apple-tab-span" style="white-space:pre">        </span>- an "ls" result</div><div><span class="Apple-tab-span" style="white-space:pre">        </span>- a split-brain research result</div><div><span class="Apple-tab-span" style="white-space:pre">        </span>- the volume information and status</div><div><span class="Apple-tab-span" style="white-space:pre">        </span>- a complete volume heal info</div><div><br></div><div>Hoping this can help your to help me to fix all my problems and reopen the computing production.</div><div><br></div><div>Thanks in advance,</div><div>Geoffrey</div><div><br class="webkit-block-placeholder"></div><div>PS: «&nbsp;Erreur d’Entrée/Sortie&nbsp;» = «&nbsp;Input / Output Error&nbsp;»&nbsp;</div><div apple-content-edited="true">
------------------------------------------------------<br>Geoffrey Letessier<br>Responsable informatique &amp; ingénieur&nbsp;système<br>UPR 9080 - CNRS - Laboratoire de&nbsp;Biochimie Théorique<br>Institut de Biologie Physico-Chimique<br>13, rue Pierre et Marie Curie - 75005&nbsp;Paris<br>Tel: 01 58 41 50 93 - eMail:&nbsp;<a href="mailto:geoffrey.letessier@ibpc.fr">geoffrey.letessier@ibpc.fr</a>
</div><div><br class="webkit-block-placeholder"></div>
</div></div><span>&lt;ls_example.txt&gt;</span><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;"><meta http-equiv="Content-Type" content="text/html charset=windows-1252"><div></div></div><span>&lt;split_brain__20150725.txt&gt;</span><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;"><meta http-equiv="Content-Type" content="text/html charset=windows-1252"><div></div></div><span>&lt;vol_home_healinfo.txt&gt;</span><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;"><meta http-equiv="Content-Type" content="text/html charset=windows-1252"><div></div></div><span>&lt;vol_home_info.txt&gt;</span><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;"><meta http-equiv="Content-Type" content="text/html charset=windows-1252"><div></div></div><span>&lt;vol_home_status.txt&gt;</span><meta http-equiv="Content-Type" content="text/html charset=windows-1252"><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;"><div></div></div></blockquote></div><br></div></body></html>