<html><head><meta http-equiv="content-type" content="text/html; charset=GB2312"><style>body { line-height: 1.5; }body { font-size: 10.5pt; font-family: \u03a2\u017a; color: rgb(0, 0, 0); line-height: 1.5; }</style></head><body> 
<div style="FONT-FAMILY: Tahoma"><span></span>Hello,&nbsp;</div><div style="FONT-FAMILY: Tahoma"><br></div><div style="FONT-FAMILY: Tahoma">One OST of our system can not be mounted in lustre mode after an severe disk error and an 5 days' e2fsck. &nbsp;Here are errors we got during the mount operation.</div><div style="FONT-FAMILY: Tahoma">#grep FID /var/log/messages</div><div style="FONT-FAMILY: Tahoma"><span style="color: rgb(0, 0, 0); background-color: rgba(0, 0, 0, 0);">Jul&nbsp;17&nbsp;20:15:21&nbsp;oss04&nbsp;kernel:&nbsp;LustreError:&nbsp;13089:0:(osd_oi.c:653:osd_oi_insert())&nbsp;lustre-OST0036:&nbsp;the&nbsp;FID&nbsp;[0x200000005:0x1:0x0]&nbsp;is&nbsp;used&nbsp;by&nbsp;two&nbsp;objects:&nbsp;86/3303188178&nbsp;48085/1708371613<br>Jul&nbsp;17&nbsp;20:38:41&nbsp;oss04&nbsp;kernel:&nbsp;LustreError:&nbsp;13988:0:(osd_oi.c:653:osd_oi_insert())&nbsp;lustre-OST0036:&nbsp;the&nbsp;FID&nbsp;[0x200000005:0x1:0x0]&nbsp;is&nbsp;used&nbsp;by&nbsp;two&nbsp;objects:&nbsp;86/3303188178&nbsp;48086/3830163079<br>Jul&nbsp;17&nbsp;20:49:55&nbsp;oss04&nbsp;kernel:&nbsp;LustreError:&nbsp;14221:0:(osd_oi.c:653:osd_oi_insert())&nbsp;lustre-OST0036:&nbsp;the&nbsp;FID&nbsp;[0x200000005:0x1:0x0]&nbsp;is&nbsp;used&nbsp;by&nbsp;two&nbsp;objects:&nbsp;86/3303188178&nbsp;48087/538285899<br>Jul&nbsp;18&nbsp;11:39:25&nbsp;oss04&nbsp;kernel:&nbsp;LustreError:&nbsp;31071:0:(osd_oi.c:653:osd_oi_insert())&nbsp;lustre-OST0036:&nbsp;the&nbsp;FID&nbsp;[0x200000005:0x1:0x0]&nbsp;is&nbsp;used&nbsp;by&nbsp;two&nbsp;objects:&nbsp;86/3303188178&nbsp;48088/2468309129<br>Jul&nbsp;18&nbsp;11:39:56&nbsp;oss04&nbsp;kernel:&nbsp;LustreError:&nbsp;31170:0:(osd_oi.c:653:osd_oi_insert())&nbsp;lustre-OST0036:&nbsp;the&nbsp;FID&nbsp;[0x200000005:0x1:0x0]&nbsp;is&nbsp;used&nbsp;by&nbsp;two&nbsp;objects:&nbsp;86/3303188178&nbsp;48089/2021195118<br>Jul&nbsp;18&nbsp;12:04:31&nbsp;oss04&nbsp;kernel:&nbsp;LustreError:&nbsp;32127:0:(osd_oi.c:653:osd_oi_insert())&nbsp;lustre-OST0036:&nbsp;the&nbsp;FID&nbsp;[0x200000005:0x1:0x0]&nbsp;is&nbsp;used&nbsp;by&nbsp;two&nbsp;objects:&nbsp;86/3303188178&nbsp;48090/956682248<br></span></div><div style="FONT-FAMILY: Tahoma"><br></div><div style="FONT-FAMILY: Tahoma">and the mount operation is failed with error -17</div><div style="FONT-FAMILY: Tahoma"><span style="color: rgb(0, 0, 0); background-color: rgba(0, 0, 0, 0);">Jul&nbsp;18&nbsp;12:04:31&nbsp;oss04&nbsp;kernel:&nbsp;LustreError:&nbsp;32127:0:(osd_oi.c:653:osd_oi_insert())&nbsp;lustre-OST0036:&nbsp;the&nbsp;FID&nbsp;[0x200000005:0x1:0x0]&nbsp;is&nbsp;used&nbsp;by&nbsp;two&nbsp;objects:&nbsp;86/3303188178&nbsp;48090/956682248<br>Jul&nbsp;18&nbsp;12:04:31&nbsp;oss04&nbsp;kernel:&nbsp;LustreError:&nbsp;32127:0:(qsd_lib.c:418:qsd_qtype_init())&nbsp;lustre-OST0036:&nbsp;can't&nbsp;open&nbsp;slave&nbsp;index&nbsp;copy&nbsp;[0x200000006:0x20000:0x0]&nbsp;-17<br>Jul&nbsp;18&nbsp;12:04:31&nbsp;oss04&nbsp;kernel:&nbsp;LustreError:&nbsp;32127:0:(obd_mount_server.c:1723:server_fill_super())&nbsp;Unable&nbsp;to&nbsp;start&nbsp;targets:&nbsp;-17<br>Jul&nbsp;18&nbsp;12:04:31&nbsp;oss04&nbsp;kernel:&nbsp;Lustre:&nbsp;Failing&nbsp;over&nbsp;lustre-OST0036<br>Jul&nbsp;18&nbsp;12:04:32&nbsp;oss04&nbsp;kernel:&nbsp;Lustre:&nbsp;server&nbsp;umount&nbsp;lustre-OST0036&nbsp;complete</span></div><div style="FONT-FAMILY: Tahoma"><br></div><div style="FONT-FAMILY: Tahoma">If you run e2fsck again, the command will claim that the inode 480xx has two reference and remove&nbsp;<span style="font-size: 10.5pt; line-height: 1.5; background-color: window;">480xxx to Lost+Found.&nbsp;</span></div><div style="FONT-FAMILY: Tahoma">#&nbsp;e2fsck&nbsp;-f&nbsp;/dev/sdn&nbsp;<br>e2fsck&nbsp;1.42.12.wc1&nbsp;(15-Sep-2014)<br>Pass&nbsp;1:&nbsp;Checking&nbsp;inodes,&nbsp;blocks,&nbsp;and&nbsp;sizes<br>Pass&nbsp;2:&nbsp;Checking&nbsp;directory&nbsp;structure<br>Pass&nbsp;3:&nbsp;Checking&nbsp;directory&nbsp;connectivity<br>Pass&nbsp;4:&nbsp;Checking&nbsp;reference&nbsp;counts<br>Unattached&nbsp;inode&nbsp;48090<br>Connect&nbsp;to&nbsp;/lost+found&lt;y&gt;?&nbsp;yes<br>Inode&nbsp;48090&nbsp;ref&nbsp;count&nbsp;is&nbsp;2,&nbsp;should&nbsp;be&nbsp;1.&nbsp;&nbsp;Fix&lt;y&gt;?&nbsp;yes<br>Pass&nbsp;5:&nbsp;Checking&nbsp;group&nbsp;summary&nbsp;information<br><br>lustre-OST0036:&nbsp;*****&nbsp;FILE&nbsp;SYSTEM&nbsp;WAS&nbsp;MODIFIED&nbsp;*****<br>lustre-OST0036:&nbsp;238443/549322752&nbsp;files&nbsp;(4.4%&nbsp;non-contiguous),&nbsp;1737885841/2197287936&nbsp;blocks<br></div><div style="FONT-FAMILY: Tahoma"><span style="font-size: 10.5pt; line-height: 1.5; background-color: window;"><br></span></div><div style="FONT-FAMILY: Tahoma">Is it possible to find the file corresponding to&nbsp;<span style="font-size: 10.5pt; line-height: 1.5; background-color: window;">86/3303188178 and delete it ?</span></div><div style="FONT-FAMILY: Tahoma"><span style="font-size: 10.5pt; line-height: 1.5; background-color: window;"><br></span></div><div style="FONT-FAMILY: Tahoma">P.S &nbsp;1. in ldiskfs mode, &nbsp;most of the disk files are OK to read, while some of them are red.&nbsp;</div><div style="FONT-FAMILY: Tahoma">&nbsp; &nbsp; &nbsp; &nbsp;2. &nbsp;there are about 240'000 objects in the OST.&nbsp;</div><div style="FONT-FAMILY: Tahoma">&nbsp;&nbsp;<span style="background-color: rgba(0, 0, 0, 0); font-size: 10.5pt; line-height: 1.5;">[root@oss04&nbsp;d0]#&nbsp;df&nbsp;-i&nbsp;/lustre/ostc</span></div><span style="font-family: Tahoma; color: rgb(0, 0, 0); background-color: rgba(0, 0, 0, 0);">Filesystem&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;Inodes&nbsp;&nbsp;IUsed&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;IFree&nbsp;IUse%&nbsp;Mounted&nbsp;on<br>/dev/sdn&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;549322752&nbsp;238443&nbsp;549084309&nbsp;&nbsp;&nbsp;&nbsp;1%&nbsp;/lustre/ostc<br></span><div style="FONT-FAMILY: Tahoma"><span style="font-size: 10.5pt; line-height: 1.5; background-color: window;">&nbsp; &nbsp; &nbsp; &nbsp;3. &nbsp;Lustre Version 2.5.3, &nbsp;e2fsprog version&nbsp;</span></div><div style="FONT-FAMILY: Tahoma"><span style="font-size: 10.5pt; line-height: 1.5; background-color: window;"><br></span></div><div style="FONT-FAMILY: Tahoma">&nbsp;Thank You!</div><div style="FONT-FAMILY: Tahoma"><br></div>
<div></div>
<div><div style="font-family: \u03a2\u017a, Tahoma; font-size: 14px; line-height: normal;">====================================================================</div><div style="font-family: \u03a2\u017a, Tahoma; font-size: 14px; line-height: normal;">Computing center,the Institute of High Energy Physics, CAS, China</div><div style="font-family: \u03a2\u017a, Tahoma; font-size: 14px; line-height: normal;">Wang Lu &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Tel: (+86) 10 8823 6087</div><div style="font-family: \u03a2\u017a, Tahoma; font-size: 14px; line-height: normal;">P.O. Box 918-7 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; Fax: (+86) 10 8823 6839</div><div style="font-family: \u03a2\u017a, Tahoma; font-size: 14px; line-height: normal;">Beijing 100049&nbsp; P.R. China &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Email: Lu.Wang@ihep.ac.cn</div><div style="font-family: \u03a2\u017a, Tahoma; font-size: 14px; line-height: normal;">===================================================================</div></div>
</body></html>