<HTML>
<HEAD>
<TITLE>Re: [Lustre-discuss] new OST not mounting up</TITLE>
</HEAD>
<BODY>
<FONT FACE="Calibri, Verdana, Helvetica, Arial"><SPAN STYLE='font-size:11pt'>Ok, try this.. &nbsp;I know you&#8217;ve done it already, but it may help us to understand:<BR>
<BR>
1. reboot both the ost and the MGS machine<BR>
2. run tunefs.lustre &#8212;writeconf /dev/&lt;device&gt;<BR>
3. mount the mgs, then the ost<BR>
4. run dmesg on both servers so we can see what that first mount failure says.<BR>
<BR>
Since this also looks like they are on the same machine we may only get one dmesg output here.. &nbsp;Also it looks like you are having trouble communicating with the server at times. Is it possible there are communication errors.<BR>
<BR>
What version of lustre is this?<BR>
<BR>
evan<BR>
<BR>
On 3/1/09 5:19 PM, &quot;Mag Gam&quot; &lt;<a href="magawake@gmail.com">magawake@gmail.com</a>&gt; wrote:<BR>
<BR>
</SPAN></FONT><BLOCKQUOTE><FONT FACE="Calibri, Verdana, Helvetica, Arial"><SPAN STYLE='font-size:11pt'>OK, I did a tunefs.lustre --writeconf /dev/<BR>
<BR>
and tried to mount it up, still the same error. &quot;Operation already in<BR>
progress&quot;. The target service is already running.<BR>
<BR>
I am not sure whatelse I can try...<BR>
<BR>
Any suggestions?<BR>
<BR>
TIA<BR>
<BR>
On Sat, Feb 28, 2009 at 8:39 AM, Mag Gam &lt;<a href="magawake@gmail.com">magawake@gmail.com</a>&gt; wrote:<BR>
&gt; (sorry adding the entire list for Evan's reponse)<BR>
&gt;<BR>
&gt; Thankyou got getting back to me on this.<BR>
&gt; So, when I try to mount the **new** ost I keep getting these messages.<BR>
&gt;<BR>
&gt; For some reason the new OST is active on the MGS side which I am not<BR>
&gt; sure why. &nbsp;I think I made a mistake by trying to mount up a new OST<BR>
&gt; while clients were still active.<BR>
&gt;<BR>
&gt;<BR>
&gt; When I try to activaste &nbsp;the bad OST.I get this message.<BR>
&gt;<BR>
&gt; Lustre: 11647:0:(ldlm_lib.c:736:target_handle_connect())<BR>
&gt; lfs001-OST0005: cookie lfs001-mdtlov_UUID seen on new NID<BR>
&gt; mds_ip_addr@tcp when existing NID 0@lo is already connected<BR>
&gt; Feb 27 11:59:01 oss_server kernel: Lustre:<BR>
&gt; 11647:0:(ldlm_lib.c:736:target_handle_connect()) Skipped 4 previous<BR>
&gt; similar messages<BR>
&gt; Feb 27 11:59:01 mds_server kernel: Lustre:<BR>
&gt; 3426:0:(import.c:411:import_select_connection()) lfs001-OST0005-osc:<BR>
&gt; tried all connections, increasing latency to 51s<BR>
&gt; Feb 27 11:59:01 oss_server kernel: LustreError:<BR>
&gt; 11647:0:(ldlm_lib.c:1614:target_send_reply_msg()) @@@ processing error<BR>
&gt; (-114) &nbsp;req@ffff8104251a4400 x388745/t0 o8-&gt;&lt;?&gt;@&lt;?&gt;:0/0 lens 240/144 e<BR>
&gt; 0 to 0 dl 1235754041 ref 1 fl Interpret:/0/0 rc -114/0<BR>
&gt; Feb 27 11:59:01 mds_server kernel: Lustre:<BR>
&gt; 3426:0:(import.c:411:import_select_connection()) Skipped 6 previous<BR>
&gt; similar messages<BR>
&gt; Feb 27 11:59:01 mds_server kernel: LustreError: 11-0: an error<BR>
&gt; occurred while communicating with oss_ip@tcp. The ost_connect<BR>
&gt; operation failed with -114<BR>
&gt; Feb 27 11:59:01 mds_server kernel: LustreError: Skipped 12 previous<BR>
&gt; similar messages<BR>
&gt;<BR>
&gt;<BR>
&gt; &nbsp;oss_server kernel: LustreError:<BR>
&gt; 11556:0:(ldlm_lib.c:1614:target_send_reply_msg()) @@@ processing error<BR>
&gt; (-114) &nbsp;req@ffff81042150a000 x388953/t0 o8-&gt;&lt;?&gt;@&lt;?&gt;:0/0 lens 240/144 e<BR>
&gt; 0 to 0 dl 1235754240 ref 1 fl Interpret:/0/0 rc -114/0<BR>
&gt;<BR>
&gt;<BR>
&gt;<BR>
&gt; Also, I was wondering if there was a way to reset the state of my OST.<BR>
&gt; Its keep thinking its already mounted. Even after a reboot. Any way to<BR>
&gt; say &quot;hey, I am not mounted&quot; ? :-)<BR>
&gt;<BR>
&gt; TIA<BR>
&gt;<BR>
&gt; On Sat, Feb 28, 2009 at 8:38 AM, Mag Gam &lt;<a href="magawake@gmail.com">magawake@gmail.com</a>&gt; wrote:<BR>
&gt;&gt; Thankyou got getting back to me on this.<BR>
&gt;&gt; So, when I try to mount the **new** ost I keep getting these messages.<BR>
&gt;&gt;<BR>
&gt;&gt; For some reason the new OST is active on the MGS side which I am not<BR>
&gt;&gt; sure why. &nbsp;I think I made a mistake by trying to mount up a new OST<BR>
&gt;&gt; while clients were still active.<BR>
&gt;&gt;<BR>
&gt;&gt;<BR>
&gt;&gt;<BR>
&gt;&gt;<BR>
&gt;&gt; When I try to activaste &nbsp;the bad OST.I get this message.<BR>
&gt;&gt;<BR>
&gt;&gt; Lustre: 11647:0:(ldlm_lib.c:736:target_handle_connect())<BR>
&gt;&gt; lfs001-OST0005: cookie lfs001-mdtlov_UUID seen on new NID<BR>
&gt;&gt; mds_ip_addr@tcp when existing NID 0@lo is already connected<BR>
&gt;&gt; Feb 27 11:59:01 oss_server kernel: Lustre:<BR>
&gt;&gt; 11647:0:(ldlm_lib.c:736:target_handle_connect()) Skipped 4 previous<BR>
&gt;&gt; similar messages<BR>
&gt;&gt; Feb 27 11:59:01 mds_server kernel: Lustre:<BR>
&gt;&gt; 3426:0:(import.c:411:import_select_connection()) lfs001-OST0005-osc:<BR>
&gt;&gt; tried all connections, increasing latency to 51s<BR>
&gt;&gt; Feb 27 11:59:01 oss_server kernel: LustreError:<BR>
&gt;&gt; 11647:0:(ldlm_lib.c:1614:target_send_reply_msg()) @@@ processing error<BR>
&gt;&gt; (-114) &nbsp;req@ffff8104251a4400 x388745/t0 o8-&gt;&lt;?&gt;@&lt;?&gt;:0/0 lens 240/144 e<BR>
&gt;&gt; 0 to 0 dl 1235754041 ref 1 fl Interpret:/0/0 rc -114/0<BR>
&gt;&gt; Feb 27 11:59:01 mds_server kernel: Lustre:<BR>
&gt;&gt; 3426:0:(import.c:411:import_select_connection()) Skipped 6 previous<BR>
&gt;&gt; similar messages<BR>
&gt;&gt; Feb 27 11:59:01 mds_server kernel: LustreError: 11-0: an error<BR>
&gt;&gt; occurred while communicating with oss_ip@tcp. The ost_connect<BR>
&gt;&gt; operation failed with -114<BR>
&gt;&gt; Feb 27 11:59:01 mds_server kernel: LustreError: Skipped 12 previous<BR>
&gt;&gt; similar messages<BR>
&gt;&gt;<BR>
&gt;&gt;<BR>
&gt;&gt; &nbsp;oss_server kernel: LustreError:<BR>
&gt;&gt; 11556:0:(ldlm_lib.c:1614:target_send_reply_msg()) @@@ processing error<BR>
&gt;&gt; (-114) &nbsp;req@ffff81042150a000 x388953/t0 o8-&gt;&lt;?&gt;@&lt;?&gt;:0/0 lens 240/144 e<BR>
&gt;&gt; 0 to 0 dl 1235754240 ref 1 fl Interpret:/0/0 rc -114/0<BR>
&gt;&gt;<BR>
&gt;&gt;<BR>
&gt;&gt;<BR>
&gt;&gt; Also, I was wondering if there was a way to reset the state of my OST.<BR>
&gt;&gt; Its keep thinking its already mounted. Even after a reboot. Any way to<BR>
&gt;&gt; say &quot;hey, I am not mounted&quot; ? :-)<BR>
&gt;&gt;<BR>
&gt;&gt; Would a writeconf help on the OST? I am hesitant to run one on it.<BR>
&gt;&gt;<BR>
&gt;&gt; TIA<BR>
&gt;&gt;<BR>
&gt;&gt; On Fri, Feb 27, 2009 at 11:41 AM, Evan Felix &lt;<a href="evan.felix@pnl.gov">evan.felix@pnl.gov</a>&gt; wrote:<BR>
&gt;&gt;&gt; Mag,<BR>
&gt;&gt;&gt;<BR>
&gt;&gt;&gt; Can you send us the output from your kernel log after you try the mount<BR>
&gt;&gt;&gt; command that is failing?<BR>
&gt;&gt;&gt;<BR>
&gt;&gt;&gt; Just run 'dmesg' and send us the last 20 lines or so..<BR>
&gt;&gt;&gt;<BR>
&gt;&gt;&gt; evan<BR>
&gt;&gt;&gt;<BR>
&gt;&gt;&gt;<BR>
&gt;&gt;&gt; On 2/26/09 7:12 PM, &quot;Mag Gam&quot; &lt;<a href="magawake@gmail.com">magawake@gmail.com</a>&gt; wrote:<BR>
&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt; Any ideas?<BR>
&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt; I am still unable to mount this new OST. &nbsp;I stopped the client hang<BR>
&gt;&gt;&gt;&gt; problem by disabling the OST via lctl but crazy problem indeed.<BR>
&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt; I would love to know how to activate the OST.<BR>
&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt; On Wed, Feb 25, 2009 at 4:43 PM, Mag Gam &lt;<a href="magawake@gmail.com">magawake@gmail.com</a>&gt; wrote:<BR>
&gt;&gt;&gt;&gt;&gt; Hello.<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt; We created an OST on an OSS. But when I try to mount up the OST, it<BR>
&gt;&gt;&gt;&gt;&gt; keeps saying.<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt; mount.lustre /dev/vg/ost002 /vol/srv1/ost002<BR>
&gt;&gt;&gt;&gt;&gt; mount.lustre: mount /dev/vg/ost002 at /vol/srv1/ost002 failed:<BR>
&gt;&gt;&gt;&gt;&gt; Operation already in progress<BR>
&gt;&gt;&gt;&gt;&gt; The target service is already running. (/dev/vg/ost002)<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt; However,<BR>
&gt;&gt;&gt;&gt;&gt; mount | grep -i ost002<BR>
&gt;&gt;&gt;&gt;&gt; Nothing is mounted up....<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt; lctl is even showing this OST and also the client is able to see it.<BR>
&gt;&gt;&gt;&gt;&gt; lfs df -h<BR>
&gt;&gt;&gt;&gt;&gt; ...<BR>
&gt;&gt;&gt;&gt;&gt; lfs001-OST0005_UUID &nbsp;&nbsp;&nbsp;&nbsp;492.2G &nbsp;&nbsp;&nbsp;445.2G &nbsp;&nbsp;&nbsp;&nbsp;22.0G &nbsp;&nbsp;90%<BR>
&gt;&gt;&gt;&gt;&gt; /lfs/srv5/lfs001[OST:5]<BR>
&gt;&gt;&gt;&gt;&gt; ...<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt; The MDS/OSS Version:<BR>
&gt;&gt;&gt;&gt;&gt; lustre: 1.6.5.52<BR>
&gt;&gt;&gt;&gt;&gt; kernel: patchless<BR>
&gt;&gt;&gt;&gt;&gt; build:<BR>
&gt;&gt;&gt;&gt;&gt; 1.6.5.52-19691231190000-PRISTINE-.var.tmp.linux-2.6.18.x86_64-2.6.18-prep<BR>
&gt;&gt;&gt;&gt;&gt; 2.6.18 = Kernel Version<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt; I don't think its bugzilla 11564, because my lustre fs name is only 6<BR>
&gt;&gt;&gt;&gt;&gt; characters long.<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt; Also, when the client tries to access the new OST's space, it simple<BR>
&gt;&gt;&gt;&gt;&gt; hangs. It placed it in &quot;bloc<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt; Any thoughts about this?<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt;&gt; TIA<BR>
&gt;&gt;&gt;&gt;&gt;<BR>
&gt;&gt;&gt;&gt; _______________________________________________<BR>
&gt;&gt;&gt;&gt; Lustre-discuss mailing list<BR>
&gt;&gt;&gt;&gt; <a href="Lustre-discuss@lists.lustre.org">Lustre-discuss@lists.lustre.org</a><BR>
&gt;&gt;&gt;&gt; <a href="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</a><BR>
&gt;&gt;&gt;<BR>
&gt;&gt;&gt;<BR>
&gt;&gt;<BR>
&gt;<BR>
<BR>
</SPAN></FONT></BLOCKQUOTE>
</BODY>
</HTML>