<p dir="ltr">What does zpool status report?</p>
<br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Mon, May 12, 2025, 2:41 AM Noskov, Dr. Sergey via lustre-discuss <<a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">





<div lang="DE" link="#467886" vlink="#96607D" style="word-wrap:break-word">
<div class="m_-605191154740664886WordSection1">
<p class="MsoNormal"><span style="font-size:12.0pt">Hi everyone,<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">we have a problem and I would be very grateful for help or advice.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">We are using ZFS for metadata and object storage target in our Lustre. One of the pools is a draid3:12d:42c:2s-0 is became no longer importable after one of the disks
 failed.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">on startup zpool import:<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">pool: l1fs-OST010b<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">     id: 6548008278833985886<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">  state: FAULTED<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">status: One or more devices contains corrupted data.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">action: The pool cannot be imported due to damaged devices or data.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">   see:
<a href="https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-5E" target="_blank" rel="noreferrer">https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-5E</a><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">   ...<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">the commands<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">zpool import -f l1fs-OST010b<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">zpool import -F l1fs-OST010b<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">zpool import -F -X l1fs-OST010b<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">yield:<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">cannot import 'l1fs-OST010b': I/O error<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">                Destroy and re-create the pool from<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">                a backup source.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">zdb -e ends very quickly with the I/O error<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">Some tool said there is missing metadata in the zpool.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">Does anyone have any productive advice for us other than what is on the website<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><a href="https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-5E" target="_blank" rel="noreferrer">https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-5E</a><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">?<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">Now the question: how do we proceed if we have to reformat the OST?<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">At the moment we see the plan as:<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">Disable the broken OST (or is it possible to use the same name for OST?)<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">create a new pool and integrate it into the Lustre<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">What do we do with the files on the broken OST, can we just delete them now? Can the difference in metadata and object targets be repaired with Lustre-FSCK or somehow?<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:12.0pt">Thanks in advance</span></p>
<p class="MsoNormal"><u></u> <u></u></p>
<div>
<p class="MsoNormal"><span lang="EN-US" style="color:black">With best regards</span><span lang="EN-US" style="font-family:"Calibri",sans-serif;color:black"><u></u><u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="color:black"> <u></u><u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="color:black">Sergey Noskov<u></u><u></u></span></p>
<p class="MsoNormal"><span lang="EN-US" style="color:black"> </span><span style="color:black"><u></u><u></u></span></p>
</div>
<p class="MsoNormal"><u></u> <u></u></p>
</div>
</div>

_______________________________________________<br>
lustre-discuss mailing list<br>
<a href="mailto:lustre-discuss@lists.lustre.org" target="_blank" rel="noreferrer">lustre-discuss@lists.lustre.org</a><br>
<a href="http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org" rel="noreferrer noreferrer" target="_blank">http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org</a><br>
</blockquote></div>