<html><head><meta http-equiv="content-type" content="text/html; charset=utf-8"></head><body dir="auto">Andreas,<div>Thanks for the update. I should point out that the documentation for -C is incorrect in that it states all the OSTs in the file system will be used, but in actuality it is all the OSTs in the selected &nbsp;pool will be used.&nbsp;</div><div>John<br><br><div dir="ltr">Sent from my iPhone</div><div dir="ltr"><br><blockquote type="cite">On May 17, 2024, at 11:37 AM, Andreas Dilger &lt;adilger@ddn.com&gt; wrote:<br><br></blockquote></div><blockquote type="cite"><div dir="ltr">\ufeff

<meta http-equiv="Content-Type" content="text/html; charset=utf-8">


There is a patch inflight that adds "-C -N" -&gt; "N stripes per OST", N &lt;= 32. &nbsp;This also changes "-C -1" to be the same as "-c -1" (ie. 1-stripe per OST), which was discussed and decided to be the more sensible option than using 2000 stripes for a file. If there
 is a need for a 2000-stripe file, "-C 2000" can still be used.&nbsp;
<div><br>
</div>
<div><a href="https://review.whamcloud.com/54192">https://review.whamcloud.com/54192</a><br>
<div><br id="lineBreakAtBeginningOfSignature">
<div dir="ltr">Cheers, Andreas</div>
<div dir="ltr"><br>
<blockquote type="cite">On May 17, 2024, at 17:32, Nathan Dauchy via lustre-discuss &lt;lustre-discuss@lists.lustre.org&gt; wrote:<br>
<br>
</blockquote>
</div>
<blockquote type="cite">
<div dir="ltr">\ufeff
<div class="elementToProof" style="font-family: Aptos, Aptos_EmbeddedFont, Aptos_MSFontService, Calibri, Helvetica, sans-serif; font-size: 11pt; color: rgb(0, 0, 0);">
John,</div>
<div class="elementToProof" style="font-family: Aptos, Aptos_EmbeddedFont, Aptos_MSFontService, Calibri, Helvetica, sans-serif; font-size: 11pt; color: rgb(0, 0, 0);">
<br>
</div>
<div class="elementToProof" style="font-family: Aptos, Aptos_EmbeddedFont, Aptos_MSFontService, Calibri, Helvetica, sans-serif; font-size: 11pt; color: rgb(0, 0, 0);">
I believe the lfs-setstripe man page is incorrect (or at least misleading) in this case. I recall seeing 2000 hardcoded as a maximum, so it appears to be picking that.</div>
<div class="elementToProof" style="font-family: Aptos, Aptos_EmbeddedFont, Aptos_MSFontService, Calibri, Helvetica, sans-serif; font-size: 11pt; color: rgb(0, 0, 0);">
<br>
</div>
<div class="elementToProof" style="font-family: Aptos, Aptos_EmbeddedFont, Aptos_MSFontService, Calibri, Helvetica, sans-serif; color: rgb(0, 0, 0);">
<span style="font-size: 14.6667px; background-color: rgb(255, 255, 255);">Using "-C -1" to put a single stripe on each OST wouldn't have any benefit over "-c -1".
</span><span style="font-size: 11pt;">&nbsp; IMHO, it would probably be more useful to have negative values represent number of stripes per OST. \U0001f642</span></div>
<div class="elementToProof" style="font-family: Aptos, Aptos_EmbeddedFont, Aptos_MSFontService, Calibri, Helvetica, sans-serif; font-size: 11pt; color: rgb(0, 0, 0);">
<br>
</div>
<div class="elementToProof" style="font-family: Aptos, Aptos_EmbeddedFont, Aptos_MSFontService, Calibri, Helvetica, sans-serif; font-size: 11pt; color: rgb(0, 0, 0);">
-Nathan</div>
<div id="appendonsend"></div>
<hr style="display:inline-block;width:98%" tabindex="-1">
<div id="divRplyFwdMsg" dir="ltr"><font face="Calibri, sans-serif" style="font-size:11pt" color="#000000"><b>From:</b> lustre-discuss &lt;lustre-discuss-bounces@lists.lustre.org&gt; on behalf of John Bauer &lt;bauerj@iodoctors.com&gt;<br>
<b>Sent:</b> Friday, May 17, 2024 8:48 AM<br>
<b>To:</b> lustre-discuss &lt;lustre-discuss@lists.lustre.org&gt;<br>
<b>Subject:</b> [lustre-discuss] Unexpected result with overstriping</font>
<div>&nbsp;</div>
</div>
<div>
<table bgcolor="#FFEB9C" border="1">
<tbody>
<tr>
<td><font face="verdana" color="black" size="1"><b>External email: Use caution opening links or attachments</b>
</font></td>
</tr>
</tbody>
</table>
<br>
<div>
<p>Good morning all,</p>
<p>I am playing around with overstriping a bit and I found a behavior that, to me, would seem unexpected.&nbsp; The documentation for -C -1&nbsp; indicates that the file should be striped over all available OSTs.&nbsp; The pool, which happens to be the default, is ssd-pool
 which has 32 OSTs.&nbsp; I got a stripeCount of 2000.&nbsp; Is this as expected?<font face="Courier New, Courier, monospace"><br>
</font></p>
<p><font face="Courier New, Courier, monospace">pfe20.jbauer2 213&gt; rm -f /nobackup/jbauer2/ddd.dat<br>
pfe20.jbauer2 214&gt; lfs setstripe -C -1 /nobackup/jbauer2/ddd.dat<br>
pfe20.jbauer2 215&gt; lfs getstripe /nobackup/jbauer2/ddd.dat<br>
/nobackup/jbauer2/ddd.dat<br>
lmm_stripe_count:&nbsp; 2000<br>
lmm_stripe_size:&nbsp;&nbsp; 1048576<br>
lmm_pattern:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; raid0,overstriped<br>
lmm_layout_gen:&nbsp;&nbsp;&nbsp; 0<br>
lmm_stripe_offset: 119<br>
lmm_pool:&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; ssd-pool<br>
&nbsp;&nbsp; &nbsp;obdidx&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; &nbsp;objid&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; &nbsp;objid&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; &nbsp;group<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 119&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 52386287&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x31f59ef&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 123&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 52347947&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x31ec42b&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 127&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 52734487&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x324aa17&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 121&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 52839396&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x32643e4&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 131&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 52742709&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x324ca35&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 116&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 52242659&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x31d28e3&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 117&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 51831125&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x316e155&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 124&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 52425218&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x31ff202&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 125&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 52402722&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x31f9a22&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0<br>
&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 106&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 52700581&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp; 0x32425a5&nbsp;&nbsp;&nbsp; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; 0</font></p>
edited for brevity<br>
<p><br>
</p>
</div>
</div>
<span>_______________________________________________</span><br>
<span>lustre-discuss mailing list</span><br>
<span>lustre-discuss@lists.lustre.org</span><br>
<span>http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org</span><br>
</div>
</blockquote>
</div>
</div>


</div></blockquote></div></body></html>