<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:x="urn:schemas-microsoft-com:office:excel" xmlns:p="urn:schemas-microsoft-com:office:powerpoint" xmlns:a="urn:schemas-microsoft-com:office:access" xmlns:dt="uuid:C2F41010-65B3-11d1-A29F-00AA00C14882" xmlns:s="uuid:BDC6E3F0-6DA3-11d1-A2A3-00AA00C14882" xmlns:rs="urn:schemas-microsoft-com:rowset" xmlns:z="#RowsetSchema" xmlns:b="urn:schemas-microsoft-com:office:publisher" xmlns:ss="urn:schemas-microsoft-com:office:spreadsheet" xmlns:c="urn:schemas-microsoft-com:office:component:spreadsheet" xmlns:odc="urn:schemas-microsoft-com:office:odc" xmlns:oa="urn:schemas-microsoft-com:office:activation" xmlns:html="http://www.w3.org/TR/REC-html40" xmlns:q="http://schemas.xmlsoap.org/soap/envelope/" xmlns:rtc="http://microsoft.com/officenet/conferencing" xmlns:D="DAV:" xmlns:Repl="http://schemas.microsoft.com/repl/" xmlns:mt="http://schemas.microsoft.com/sharepoint/soap/meetings/" xmlns:x2="http://schemas.microsoft.com/office/excel/2003/xml" xmlns:ppda="http://www.passport.com/NameSpace.xsd" xmlns:ois="http://schemas.microsoft.com/sharepoint/soap/ois/" xmlns:dir="http://schemas.microsoft.com/sharepoint/soap/directory/" xmlns:ds="http://www.w3.org/2000/09/xmldsig#" xmlns:dsp="http://schemas.microsoft.com/sharepoint/dsp" xmlns:udc="http://schemas.microsoft.com/data/udc" xmlns:xsd="http://www.w3.org/2001/XMLSchema" xmlns:sub="http://schemas.microsoft.com/sharepoint/soap/2002/1/alerts/" xmlns:ec="http://www.w3.org/2001/04/xmlenc#" xmlns:sp="http://schemas.microsoft.com/sharepoint/" xmlns:sps="http://schemas.microsoft.com/sharepoint/soap/" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:udcs="http://schemas.microsoft.com/data/udc/soap" xmlns:udcxf="http://schemas.microsoft.com/data/udc/xmlfile" xmlns:udcp2p="http://schemas.microsoft.com/data/udc/parttopart" xmlns:wf="http://schemas.microsoft.com/sharepoint/soap/workflow/" xmlns:dsss="http://schemas.microsoft.com/office/2006/digsig-setup" xmlns:dssi="http://schemas.microsoft.com/office/2006/digsig" xmlns:mdssi="http://schemas.openxmlformats.org/package/2006/digital-signature" xmlns:mver="http://schemas.openxmlformats.org/markup-compatibility/2006" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns:mrels="http://schemas.openxmlformats.org/package/2006/relationships" xmlns:spwp="http://microsoft.com/sharepoint/webpartpages" xmlns:ex12t="http://schemas.microsoft.com/exchange/services/2006/types" xmlns:ex12m="http://schemas.microsoft.com/exchange/services/2006/messages" xmlns:pptsl="http://schemas.microsoft.com/sharepoint/soap/SlideLibrary/" xmlns:spsl="http://microsoft.com/webservices/SharePointPortalServer/PublishedLinksService" xmlns:Z="urn:schemas-microsoft-com:" xmlns:st="&#1;" xmlns="http://www.w3.org/TR/REC-html40">

<head>
<meta http-equiv=Content-Type content="text/html; charset=us-ascii">
<meta name=Generator content="Microsoft Word 12 (filtered medium)">
<style>
<!--
 /* Font Definitions */
 @font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:Tahoma;
        panose-1:2 11 6 4 3 5 4 4 2 4;}
 /* Style Definitions */
 p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        margin-bottom:.0001pt;
        font-size:12.0pt;
        font-family:"Times New Roman","serif";}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-reply;
        font-family:"Calibri","sans-serif";
        color:#1F497D;}
.MsoChpDefault
        {mso-style-type:export-only;}
@page Section1
        {size:612.0pt 792.0pt;
        margin:72.0pt 72.0pt 72.0pt 72.0pt;}
div.Section1
        {page:Section1;}
-->
</style>
<!--[if gte mso 9]><xml>
 <o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
 <o:shapelayout v:ext="edit">
  <o:idmap v:ext="edit" data="1" />
 </o:shapelayout></xml><![endif]-->
</head>

<body lang=EN-US link=blue vlink=purple>

<div class=Section1>

<p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";
color:#1F497D'>I think the problem you have, as Cliff alluded to, is a mismatch
between your kernel version &nbsp;and the Luster kernel version modules.&nbsp; <o:p></o:p></span></p>

<p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";
color:#1F497D'><o:p>&nbsp;</o:p></span></p>

<p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";
color:#1F497D'>You have kernel &#8220;<b>2.6.18-92.el5</b>&#8221; and are
installing Lustre &#8220;<b>2.6.18_92.1.17.el5</b>&#8221;&nbsp;&nbsp; Note the &#8220;<b>.1.17&#8221;
is </b>significant as the modules will end up in the wrong directory.&nbsp;
There is an update to CentOS to bring the kernel to the matching <b>2.6.18_92.1.17.el5
</b>version you can pull it off the CentOS mirror site in the updates directory.<o:p></o:p></span></p>

<p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";
color:#1F497D'><o:p>&nbsp;</o:p></span></p>

<p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";
color:#1F497D'><o:p>&nbsp;</o:p></span></p>

<p class=MsoNormal><span style='font-size:10.0pt;color:#1F497D'>Ron. <o:p></o:p></span></p>

<p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";
color:#1F497D'><o:p>&nbsp;</o:p></span></p>

<div style='border:none;border-left:solid blue 1.5pt;padding:0cm 0cm 0cm 4.0pt'>

<div>

<div style='border:none;border-top:solid #B5C4DF 1.0pt;padding:3.0pt 0cm 0cm 0cm'>

<p class=MsoNormal><b><span style='font-size:10.0pt;font-family:"Tahoma","sans-serif"'>From:</span></b><span
style='font-size:10.0pt;font-family:"Tahoma","sans-serif"'>
lustre-discuss-bounces@lists.lustre.org
[mailto:lustre-discuss-bounces@lists.lustre.org] <b>On Behalf Of </b>Carlos
Santana<br>
<b>Sent:</b> June 17, 2009 11:21 AM<br>
<b>To:</b> lustre-discuss@lists.lustre.org<br>
<b>Subject:</b> Re: [Lustre-discuss] Lustre installation and configuration
problems<o:p></o:p></span></p>

</div>

</div>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

<p class=MsoNormal style='margin-bottom:12.0pt'>And is there any specific
installation order for patchless client? Could someone please share it with me?
<br>
<br>
-<br>
CS. <o:p></o:p></p>

<div>

<p class=MsoNormal>On Wed, Jun 17, 2009 at 10:18 AM, Carlos Santana &lt;<a
href="mailto:neubyr@gmail.com">neubyr@gmail.com</a>&gt; wrote:<o:p></o:p></p>

<p class=MsoNormal>Huh... :( Sorry to bug you guys again... <br>
<br>
I am planning to make a fresh start now as nothing seems to have worked for me.
If you have any comments/feedback please share them. <br>
<br>
I would like to confirm installation order before I make a fresh start. From
Arden's experience: <a
href="http://lists.lustre.org/pipermail/lustre-discuss/2009-June/010710.html"
target="_blank">http://lists.lustre.org/pipermail/lustre-discuss/2009-June/010710.html</a>
, the lusre-module is installed last. As I was installing Lustre 1.8, I was
referring 1.8 operations manual <a
href="http://manual.lustre.org/index.php?title=Main_Page" target="_blank">http://manual.lustre.org/index.php?title=Main_Page</a>
. The installation order in the manual is different than what Arden has
suggested. <br>
<br>
Will it make a difference in configuration at later stage? Which one should I
follow now? <br>
Any comments? <br>
<br>
Thanks,<br>
<span style='color:#888888'>CS. </span><o:p></o:p></p>

<div>

<div>

<p class=MsoNormal style='margin-bottom:12.0pt'><o:p>&nbsp;</o:p></p>

<div>

<p class=MsoNormal>On Wed, Jun 17, 2009 at 12:35 AM, Carlos Santana &lt;<a
href="mailto:neubyr@gmail.com" target="_blank">neubyr@gmail.com</a>&gt; wrote:<o:p></o:p></p>

<p class=MsoNormal>Thanks Cliff.<br>
<br>
The depmod -a was successful before as well. I am using CentOS 5.2<br>
box. Following are the packages installed:<br>
[root@localhost tmp]# rpm -qa | grep -i lustre<br>
lustre-modules-1.8.0-2.6.18_92.1.17.el5_lustre.1.8.0smp<o:p></o:p></p>

<div>

<p class=MsoNormal style='margin-bottom:12.0pt'>lustre-1.8.0-2.6.18_92.1.17.el5_lustre.1.8.0smp<o:p></o:p></p>

</div>

<p class=MsoNormal>[root@localhost tmp]# uname -a<o:p></o:p></p>

<div>

<p class=MsoNormal style='margin-bottom:12.0pt'>Linux localhost.localdomain
2.6.18-92.el5 #1 SMP Tue Jun 10 18:49:47<br>
EDT 2008 i686 i686 i386 GNU/Linux<o:p></o:p></p>

</div>

<p class=MsoNormal>And here is a output from strace for mount: <a
href="http://www.heypasteit.com/clip/8WT" target="_blank">http://www.heypasteit.com/clip/8WT</a><br>
<br>
Any further debugging hints?<br>
<br>
Thanks,<br>
<span style='color:#888888'>CS.</span><o:p></o:p></p>

<div>

<div>

<p class=MsoNormal><br>
On 6/16/09, Cliff White &lt;<a href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>&gt;
wrote:<br>
&gt; Carlos Santana wrote:<br>
&gt;&gt; The '$ modprobe -l lustre*' did not show any module on a patchless<br>
&gt;&gt; client. modprobe -v returns 'FATAL: Module lustre not found'.<br>
&gt;&gt;<br>
&gt;&gt; How do I install a patchless client?<br>
&gt;&gt; I have tried lustre-client-modules and lustre-client-ver rpm packages
in<br>
&gt;&gt; both sequences. Am I missing anything?<br>
&gt;&gt;<br>
&gt;<br>
&gt; Make sure the lustre-client-modules package matches your running kernel.<br>
&gt; Run depmod -a to be sure<br>
&gt; cliffw<br>
&gt;<br>
&gt;&gt; Thanks,<br>
&gt;&gt; CS.<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; On Tue, Jun 16, 2009 at 2:28 PM, Cliff White &lt;<a
href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a><br>
&gt;&gt; &lt;mailto:<a href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>&gt;&gt;
wrote:<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; Carlos Santana wrote:<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; The lctlt ping and 'net up' failed with
the following messages:<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; --- ---<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; [root@localhost ~]# lctl ping 10.0.0.42<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; opening /dev/lnet failed: No such device<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; hint: the kernel modules may not be loaded<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; failed to ping 10.0.0.42@tcp: No such
device<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; [root@localhost ~]# lctl network up<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; opening /dev/lnet failed: No such device<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; hint: the kernel modules may not be loaded<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; LNET configure error 19: No such device<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; Make sure modules are unloaded, then try modprobe -v.<br>
&gt;&gt; &nbsp; &nbsp; Looks like you have lnet mis-configured, if your module
options are<br>
&gt;&gt; &nbsp; &nbsp; wrong, you will see an error during the modprobe.<br>
&gt;&gt; &nbsp; &nbsp; cliffw<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; --- ---<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; I tried lustre_rmmod and depmod commands
and it did not return<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; any error messages. Any further clues?
Reinstall patchless<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; client again?<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; -<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; CS.<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; On Tue, Jun 16, 2009 at 1:32 PM, Cliff
White<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;<a href="mailto:Cliff.White@sun.com"
target="_blank">Cliff.White@sun.com</a> &lt;mailto:<a
href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a> &lt;mailto:<a
href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>&gt;&gt;&gt;
wrote:<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Carlos Santana wrote:<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;I was able to
run lustre_rmmod and depmod successfully. The<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;'$lctl
list_nids' returned the server ip address and<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; interface<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;(tcp0).<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;I tried to
mount the file system on a remote client, but it<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;failed with the
following message.<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;--- ---<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;[root@localhost
~]# mount -t lustre 10.0.0.42@tcp0:/lustre<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;/mnt/lustre<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;mount.lustre:
mount 10.0.0.42@tcp0:/lustre at /mnt/lustre<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;failed: No such
device<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Are the lustre
modules loaded?<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Check
/etc/modprobe.conf and /proc/filesystems<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Note 'alias
lustre llite' should be removed from<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; modprobe.conf<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;--- ---<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;However, the
mounting is successful on a single node<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;configuration -
with client on the same machine as MDS<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; and OST.<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Any clues?
Where to look for logs and debug messages?<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Syslog || /var/log/messages
is the normal place.<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;You can use 'lctl ping' to
verify that the client can reach<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; the server.<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Usually in these cases, it's
a network/name misconfiguration.<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Run 'tunefs.lustre --print'
on your servers, and verify that<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; mgsnode=<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;is correct.<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;cliffw<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Thanks,<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;CS.<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;On Tue, Jun 16,
2009 at 12:16 PM, Cliff White<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;&lt;<a
href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>
&lt;mailto:<a href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>
&lt;mailto:<a href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;&lt;mailto:<a
href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>
&lt;mailto:<a href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>
&lt;mailto:<a href="mailto:Cliff.White@sun.com" target="_blank">Cliff.White@sun.com</a>&gt;&gt;&gt;&gt;
wrote:<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; Carlos
Santana wrote:<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; Thanks Kevin..<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; Please
read:<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; <a
href="http://manual.lustre.org/manual/LustreManual16_HTML/ConfiguringLustre.html#50401328_pgfId-1289529"
target="_blank">http://manual.lustre.org/manual/LustreManual16_HTML/ConfiguringLustre.html#50401328_pgfId-1289529</a><br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; Those
instructions are identical for 1.6 and 1.8.<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; For
current lustre, only two commands are used for<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; configuration.<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
mkfs.lustre and mount.<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; Usually
when lustre_rmmod returns that error, you run<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; it a second<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; time,
and it will clear things. Unless you have live<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; mounts or<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; network
connections.<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; cliffw<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; I am referring to 1.8 manual, but I was also<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; referring to<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;HowTo<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; page on wiki which seems to be for 1.6. The HowTo<br>
&gt;&gt; page<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; <a
href="http://wiki.lustre.org/index.php/Lustre_Howto#Using_Supplied_Configuration_Tools"
target="_blank">http://wiki.lustre.org/index.php/Lustre_Howto#Using_Supplied_Configuration_Tools</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; mentions abt lmc, lconf, and lctl.<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; The modules are installed in the right place. The '$<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; lustre_rmmod' resulted in following o/p:<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; [root@localhost 2.6.18-92.1.17.el5_lustre.1.8.0smp]#<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;lustre_rmmod<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module obdfilter is in use<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module ost is in use<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module mds is in use<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module fsfilt_ldiskfs is in use<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module mgs is in use<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module mgc is in use by mgs<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module ldiskfs is in use by fsfilt_ldiskfs<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module lov is in use<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module lquota is in use by obdfilter,mds<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module osc is in use<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module ksocklnd is in use<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module ptlrpc is in use by<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; obdfilter,ost,mds,mgs,mgc,lov,lquota,osc<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module obdclass is in use by<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp;
obdfilter,ost,mds,fsfilt_ldiskfs,mgs,mgc,lov,lquota,osc,ptlrpc<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module lnet is in use by<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; ksocklnd,ptlrpc,obdclass<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module lvfs is in use by<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; obdfilter,ost,mds,fsfilt_ldiskfs,mgs,mgc,lov,lquota,osc,ptlrpc,obdclass<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; ERROR: Module libcfs is in use by<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;
obdfilter,ost,mds,fsfilt_ldiskfs,mgs,mgc,lov,lquota,osc,ksocklnd,ptlrpc,obdclass,lnet,lvfs<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; Do I need to shutdown these services? How can I do<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; that?<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; Thanks,<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; CS.<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; On Tue, Jun 16, 2009 at 11:36 AM, Kevin Van Maren<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &lt;<a href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a>&gt;
&lt;mailto:<a href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a>&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;&lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a>&gt;
&lt;mailto:<a href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a>&gt;&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &lt;mailto:<a href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a>&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;&lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a>&gt;&gt;
&lt;mailto:<a href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a>&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;&lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Kevin.Vanmaren@sun.com" target="_blank">Kevin.Vanmaren@sun.com</a>&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; wrote:<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;I think lconf and lmc went away with Lustre<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; 1.6. &nbsp;Are you<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; sure you<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;are looking at the 1.8 manual, and not<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; directions for 1.4?<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;/usr/sbin/lctl should be in the<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; lustre-&lt;version&gt; RPM.<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; Do a:<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;# rpm -q -l<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp;lustre-1.8.0-2.6.18_92.1.17.el5_lustre.1.8.0smp<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;Do make sure the modules are installed in the<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; right place:<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;# cd /lib/modules/`uname -r`<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;# find . | grep lustre.ko<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;If it shows up, then do:<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;# lustre_rmmod<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;# depmod<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;and try again.<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;Otherwise, figure out where your modules are<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; installed:<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;# uname -r<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;# cd /lib/modules<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;# find . | grep lustre.ko<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;You can also double-check the NID. &nbsp;On the MSD<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; server, do<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;# lctl list_nids<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;Should show 10.0.0.42@tcp0<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp; &nbsp; &nbsp;Kevin<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;
------------------------------------------------------------------------<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&nbsp;_______________________________________________<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;Lustre-discuss
mailing list<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;<a
href="mailto:Lustre-discuss@lists.lustre.org" target="_blank">Lustre-discuss@lists.lustre.org</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Lustre-discuss@lists.lustre.org" target="_blank">Lustre-discuss@lists.lustre.org</a>&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;&lt;mailto:<a
href="mailto:Lustre-discuss@lists.lustre.org" target="_blank">Lustre-discuss@lists.lustre.org</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Lustre-discuss@lists.lustre.org" target="_blank">Lustre-discuss@lists.lustre.org</a>&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;<a
href="http://lists.lustre.org/mailman/listinfo/lustre-discuss" target="_blank">http://lists.lustre.org/mailman/listinfo/lustre-discuss</a><br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;
------------------------------------------------------------------------<br>
&gt;&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp;
_______________________________________________<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; Lustre-discuss mailing list<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; <a
href="mailto:Lustre-discuss@lists.lustre.org" target="_blank">Lustre-discuss@lists.lustre.org</a><br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; &lt;mailto:<a
href="mailto:Lustre-discuss@lists.lustre.org" target="_blank">Lustre-discuss@lists.lustre.org</a>&gt;<br>
&gt;&gt; &nbsp; &nbsp; &nbsp; &nbsp; <a
href="http://lists.lustre.org/mailman/listinfo/lustre-discuss" target="_blank">http://lists.lustre.org/mailman/listinfo/lustre-discuss</a><br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;
------------------------------------------------------------------------<br>
&gt;&gt;<br>
&gt;&gt; _______________________________________________<br>
&gt;&gt; Lustre-discuss mailing list<br>
&gt;&gt; <a href="mailto:Lustre-discuss@lists.lustre.org" target="_blank">Lustre-discuss@lists.lustre.org</a><br>
&gt;&gt; <a href="http://lists.lustre.org/mailman/listinfo/lustre-discuss"
target="_blank">http://lists.lustre.org/mailman/listinfo/lustre-discuss</a><br>
&gt;<br>
&gt;<o:p></o:p></p>

</div>

</div>

</div>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

</div>

</div>

</div>

<p class=MsoNormal><o:p>&nbsp;</o:p></p>

</div>

</div>

</body>

</html>