<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=Windows-1252">
</head>
<body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;">
<div>Before you remounted as ldiskfs, what is the output of</div>
<div>  mount -t lustre</div>
<div>  lfs df -hi</div>
<div>  lfs df -h</div>
<div><br>
</div>
<div>the first command is to verify fs is actually mounted as lustre.</div>
<div></div>
<div>Alex.</div>
<br>
<div>
<div>On Apr 22, 2015, at 4:23 PM, Colin Faber <<a href="mailto:cfaber@gmail.com">cfaber@gmail.com</a>> wrote:</div>
<br class="Apple-interchange-newline">
<blockquote type="cite">
<div dir="ltr">You could look at your MDT partition directly, either unmount it and remount as ldiskfs and examine where your space is going, or use debugfs to do the same, with it mounted.
<div><br>
</div>
</div>
<div class="gmail_extra"><br>
<div class="gmail_quote">On Wed, Apr 22, 2015 at 11:57 AM, Radu Popescu <span dir="ltr">
<<a href="mailto:radu.popescu@amoma.com" target="_blank">radu.popescu@amoma.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<div style="word-wrap:break-word">
<div>
<div style="word-wrap:break-word">
<div style="word-wrap:break-word">
<div style="letter-spacing: normal; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; word-spacing: 0px; word-wrap: break-word;">
Hi,</div>
<div style="letter-spacing: normal; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; word-spacing: 0px; word-wrap: break-word;">
<br>
</div>
<div style="letter-spacing: normal; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; word-spacing: 0px; word-wrap: break-word;">
changelog is not enabled. Iíve checked /proc/fs/lustre/mdd/NAMEOFMDT/changelog_users and got:</div>
<div style="letter-spacing: normal; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; word-spacing: 0px; word-wrap: break-word;">
<br>
</div>
<div style="text-align:start;text-indent:0px;word-wrap:break-word">current index: 0<br>
ID    index</div>
<div style="text-align:start;text-indent:0px;word-wrap:break-word"><br>
</div>
<div style="text-align:start;text-indent:0px;word-wrap:break-word">Thanks,</div>
<div style="text-align:start;text-indent:0px;word-wrap:break-word">Radu</div>
<div style="letter-spacing: normal; text-align: start; text-indent: 0px; text-transform: none; white-space: normal; word-spacing: 0px; word-wrap: break-word;">
<br>
</div>
</div>
</div>
</div>
<div>
<div class="h5"><br>
<div>
<blockquote type="cite">
<div>On 22 Apr 2015, at 19:52, Colin Faber <<a href="mailto:cfaber@gmail.com" target="_blank">cfaber@gmail.com</a>> wrote:</div>
<br>
<div>
<div dir="ltr">Do you have changelogs enabled?</div>
<div class="gmail_extra"><br>
<div class="gmail_quote">On Wed, Apr 22, 2015 at 2:14 AM, Radu Popescu <span dir="ltr">
<<a href="mailto:radu.popescu@amoma.com" target="_blank">radu.popescu@amoma.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin: 0px 0px 0px 0.8ex; border-left-width: 1px; border-left-color: rgb(204, 204, 204); border-left-style: solid; padding-left: 1ex; position: static; z-index: auto;">
<div style="word-wrap:break-word">
<div>Hi,</div>
<div><br>
</div>
<div>I have the following Lustre setup:</div>
<div><br>
</div>
<div>- servers</div>
<div>- number: 9</div>
<div>- Lustre version: 2.5.3</div>
<div>- OS: CentOS 6.6<br>
- RPM URL: <a href="https://downloads.hpdd.intel.com/public/lustre/lustre-2.5.3/el6/server/RPMS/" target="_blank">https://downloads.hpdd.intel.com/public/lustre/lustre-2.5.3/el6/server/RPMS/</a></div>
<div><br>
</div>
<div>- clients</div>
<div>- number: 90</div>
<div>- Lustre version: 2.5.56</div>
<div>- OS: Debian Wheezy</div>
<div>- Packages were manually created from sources</div>
<div>- all clients have all 9 Lustre mountpoints</div>
<div><br>
</div>
<div>Lustre setup:</div>
<div><br>
</div>
<div>MGS + MDT + OST all stay on a single LUN which has a VG (160GB) created and 3 LVs for each of the partitions, all mounted on each server:</div>
<div><br>
</div>
<div>MGS - 4GB</div>
<div>MDT - 78.12GB</div>
<div>OST - 78.14GB</div>
<div><br>
</div>
<div>(Iíve chosen a comparable size for MDT and OST because of the small file size)</div>
<div>- Total number of files is at around 16 million, sizes between <1K and 1.7MB. They are not equally spread on all mountpoints so letís say I have a 2M maximum number of files on a Lustre volume.</div>
<div><br>
</div>
<div>My problem is that MDT partition is getting full. Inodes are fine, only 3% used, which is ok, but the space used is > 50% used, and constantly dropping. So I think that within a week, Iíll be out of storage on all MDT partitions. And I didnít specify any
 special options when creating MDT partitions, so bytes per inode should be at 16K (default setting).</div>
<div><br>
</div>
<div>Anyone has any ideas?</div>
<div><br>
</div>
<div>Thanks,</div>
<div>Radu</div>
</div>
<br>
_______________________________________________<br>
lustre-discuss mailing list<br>
<a href="mailto:lustre-discuss@lists.lustre.org" target="_blank">lustre-discuss@lists.lustre.org</a><br>
<a href="http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org" target="_blank">http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org</a><br>
<br>
</blockquote>
</div>
<br>
</div>
</div>
</blockquote>
</div>
<br>
</div>
</div>
</div>
</blockquote>
</div>
<br>
</div>
_______________________________________________<br>
lustre-discuss mailing list<br>
<a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a><br>
http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org<br>
</blockquote>
</div>
<br>
</body>
</html>