<!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 3.2//EN">
<HTML>
<HEAD>
<META HTTP-EQUIV="Content-Type" CONTENT="text/html; charset=iso-8859-1">
<META NAME="Generator" CONTENT="MS Exchange Server version 6.5.7235.2">
<TITLE>RE: Kernel Patch Management</TITLE>
</HEAD>
<BODY>
<!-- Converted from text/plain format -->
<BR>

<P><FONT SIZE=2>So in&nbsp; order to build lustre, should I build the 2.6.18 version (the one that is supported by lustre 1.6.4.2)and then start trying building the lustre?<BR>
<BR>
Regards,<BR>
Ashok Bharat<BR>
<BR>
<BR>
<BR>
-----Original Message-----<BR>
From: lustre-discuss-bounces@lists.lustre.org on behalf of lustre-discuss-request@lists.lustre.org<BR>
Sent: Mon 3/10/2008 4:58 PM<BR>
To: lustre-discuss@lists.lustre.org<BR>
Subject: Lustre-discuss Digest, Vol 26, Issue 25<BR>
<BR>
Send Lustre-discuss mailing list submissions to<BR>
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss@lists.lustre.org<BR>
<BR>
To subscribe or unsubscribe via the World Wide Web, visit<BR>
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
or, via email, send a message with subject or body 'help' to<BR>
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-request@lists.lustre.org<BR>
<BR>
You can reach the person managing the list at<BR>
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-owner@lists.lustre.org<BR>
<BR>
When replying, please edit your Subject line so it is more specific<BR>
than &quot;Re: Contents of Lustre-discuss digest...&quot;<BR>
<BR>
<BR>
Today's Topics:<BR>
<BR>
&nbsp;&nbsp; 1. Re: Kernel Patch Management (Andreas Dilger)<BR>
&nbsp;&nbsp; 2. Re: yet another lustre error (Alex Lyashkov)<BR>
&nbsp;&nbsp; 3. Re: lustre and small files overhead (Joe Barjo)<BR>
<BR>
<BR>
----------------------------------------------------------------------<BR>
<BR>
Message: 1<BR>
Date: Mon, 10 Mar 2008 00:36:12 -0600<BR>
From: Andreas Dilger &lt;adilger@sun.com&gt;<BR>
Subject: Re: [Lustre-discuss] Kernel Patch Management<BR>
To: ashok bharat bayana &lt;ashok.bharat.bayana@iiitb.ac.in&gt;<BR>
Cc: lustre-discuss@lists.lustre.org<BR>
Message-ID: &lt;20080310063612.GF5851@webber.adilger.int&gt;<BR>
Content-Type: text/plain; charset=us-ascii<BR>
<BR>
On Mar 10, 2008&nbsp; 11:21 +0530, ashok bharat bayana wrote:<BR>
&gt; I'm trying to build lustre(1.6.4.2) version on 2.6.20.15 kernel on an x86 based machine.I'm using Ubuntu 7.10 flavour.<BR>
&gt;<BR>
&gt; While applying patches to the kernel in the series which_patch file,under the supported kernels, vanilla-2.6.20.15.series is not menioned but vanilla-2.6.18-.series is mentioned.<BR>
&gt;<BR>
&gt;&nbsp; So, can I proceed applying the series file of 2.6.18 version on a 2.6.20.15 version.<BR>
<BR>
No, making Lustre kernel patches is not so easy.&nbsp; You should instead use<BR>
a supported kernel version for the server, and use patchless Lustre clients<BR>
for any systems which cannot run on a supported kernel.<BR>
<BR>
&gt; -----Original Message-----<BR>
&gt; From: lustre-discuss-bounces@lists.lustre.org on behalf of lustre-discuss-request@lists.lustre.org<BR>
&gt; Sent: Fri 2/29/2008 12:17 PM<BR>
&gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; Subject: Lustre-discuss Digest, Vol 25, Issue 58<BR>
&gt;&nbsp;<BR>
&gt; Send Lustre-discuss mailing list submissions to<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss@lists.lustre.org<BR>
&gt;<BR>
&gt; To subscribe or unsubscribe via the World Wide Web, visit<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt; or, via email, send a message with subject or body 'help' to<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-request@lists.lustre.org<BR>
&gt;<BR>
&gt; You can reach the person managing the list at<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-owner@lists.lustre.org<BR>
&gt;<BR>
&gt; When replying, please edit your Subject line so it is more specific<BR>
&gt; than &quot;Re: Contents of Lustre-discuss digest...&quot;<BR>
&gt;<BR>
&gt;<BR>
&gt; Today's Topics:<BR>
&gt;<BR>
&gt;&nbsp;&nbsp;&nbsp; 1. Re: Configuration of lustre FS on single node<BR>
&gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; (ashok bharat bayana)<BR>
&gt;&nbsp;&nbsp;&nbsp; 2. Re: Configuration of lustre FS on single node (Amit Sharma)<BR>
&gt;&nbsp;&nbsp;&nbsp; 3. Re: Configuration of lustre FS on single node<BR>
&gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; (ashok bharat bayana)<BR>
&gt;<BR>
&gt;<BR>
&gt; ----------------------------------------------------------------------<BR>
&gt;<BR>
&gt; Message: 1<BR>
&gt; Date: Fri, 29 Feb 2008 12:07:18 +0530<BR>
&gt; From: &quot;ashok bharat bayana&quot; &lt;ashok.bharat.bayana@iiitb.ac.in&gt;<BR>
&gt; Subject: Re: [Lustre-discuss] Configuration of lustre FS on single<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; node<BR>
&gt; To: &lt;lustre-discuss@lists.lustre.org&gt;,<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; &lt;lustre-discuss@lists.lustre.org&gt;<BR>
&gt; Message-ID: &lt;8626C1B7EB748940BCDD7596134632BE850229@jal.iiitb.ac.in&gt;<BR>
&gt; Content-Type: text/plain; charset=&quot;iso-8859-1&quot;<BR>
&gt;<BR>
&gt;<BR>
&gt; Hello,<BR>
&gt; I successfully build lustre(1.6.4.2) on my system for a patchless client But I dont know how to proceed in configuring the file system.<BR>
&gt;<BR>
&gt; I'm trying to build all MDS,client and MDT's on a single node.<BR>
&gt; &gt;From the tutorials I came to know that<BR>
&gt;<BR>
&gt; First, create an MDT for the &quot;spfs&quot; file system that uses the /dev/sda disk. This MDT also acts as the MGS for the site.<BR>
&gt;<BR>
&gt; $ mkfs.lustre --fsname spfs --mdt --mgs /dev/sda<BR>
&gt;<BR>
&gt; But by triggering this command my system crashed in which the whole data is lost and again I need to install the OS.<BR>
&gt; I want help in proceeding of mounting a lustre file system.<BR>
&gt;<BR>
&gt; Thanks and Regards,<BR>
&gt; Ashok Bharat<BR>
&gt;<BR>
&gt; -----Original Message-----<BR>
&gt; From: lustre-discuss-bounces@lists.lustre.org on behalf of lustre-discuss-request@lists.lustre.org<BR>
&gt; Sent: Wed 2/27/2008 10:30 PM<BR>
&gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; Subject: Lustre-discuss Digest, Vol 25, Issue 56<BR>
&gt;&nbsp;<BR>
&gt; Send Lustre-discuss mailing list submissions to<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss@lists.lustre.org<BR>
&gt;<BR>
&gt; To subscribe or unsubscribe via the World Wide Web, visit<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt; or, via email, send a message with subject or body 'help' to<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-request@lists.lustre.org<BR>
&gt;<BR>
&gt; You can reach the person managing the list at<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-owner@lists.lustre.org<BR>
&gt;<BR>
&gt; When replying, please edit your Subject line so it is more specific<BR>
&gt; than &quot;Re: Contents of Lustre-discuss digest...&quot;<BR>
&gt;<BR>
&gt;<BR>
&gt; Today's Topics:<BR>
&gt;<BR>
&gt;&nbsp;&nbsp;&nbsp; 1. Multiple NICs per OST (Joshua Bower-Cooley)<BR>
&gt;&nbsp;&nbsp;&nbsp; 2. obd error on MGS/MDT node (Jeremy Mann)<BR>
&gt;<BR>
&gt;<BR>
&gt; ----------------------------------------------------------------------<BR>
&gt;<BR>
&gt; Message: 1<BR>
&gt; Date: Tue, 26 Feb 2008 11:55:19 -0800<BR>
&gt; From: Joshua Bower-Cooley &lt;jbowercooley@lcogt.net&gt;<BR>
&gt; Subject: [Lustre-discuss] Multiple NICs per OST<BR>
&gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; Message-ID: &lt;200802261155.19907.jbowercooley@lcogt.net&gt;<BR>
&gt; Content-Type: text/plain;&nbsp; charset=&quot;utf-8&quot;<BR>
&gt;<BR>
&gt; Hi-<BR>
&gt; I've had lustre running happily for some time over a single 10g ethernet NIC<BR>
&gt; per node. After switching to dual 10g and creating a new filesystem<BR>
&gt; (1.6.4.2), I'm seeing nothing but keep-alive packets with bad checksums.<BR>
&gt;<BR>
&gt; What is the current &quot;correct&quot; way to do this now? The manual suggest not using<BR>
&gt; bonding, but several list postings now reccommend it. Without bonding, do I<BR>
&gt; need to have my 2 switches stacked, or will Lustre recognize the division in<BR>
&gt; my subnet?<BR>
&gt;<BR>
&gt; LNET module options I've tried are:<BR>
&gt; 1) networks=&quot;tcp0(eth2,eth3)&quot;<BR>
&gt; 2) ip2nets=&quot;tcp(eth2,eth3); tcp(eth2) 10.9.[1-4].*; tcp(eth3) 10.9.[5-8].*;&quot;<BR>
&gt; and many other variations<BR>
&gt;<BR>
&gt; All other services are functional on both interfaces.<BR>
&gt;<BR>
&gt; Thanks in advance,<BR>
&gt; J Bower-Cooley<BR>
&gt; Scientific Systems Engineer<BR>
&gt; Las Cumbres Observatory Global Telescope<BR>
&gt;<BR>
&gt;<BR>
&gt; ------------------------------<BR>
&gt;<BR>
&gt; Message: 2<BR>
&gt; Date: Wed, 27 Feb 2008 09:50:08 -0600 (CST)<BR>
&gt; From: &quot;Jeremy Mann&quot; &lt;jeremy@biochem.uthscsa.edu&gt;<BR>
&gt; Subject: [Lustre-discuss] obd error on MGS/MDT node<BR>
&gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; Message-ID:<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; &lt;62901.24.173.62.147.1204127408.squirrel@biochem.uthscsa.edu&gt;<BR>
&gt; Content-Type: text/plain;charset=iso-8859-1<BR>
&gt;<BR>
&gt; Today we are starting to see obd_change_cbdata errors on our MGS/MDT node.<BR>
&gt; What does this error mean?<BR>
&gt;<BR>
&gt; Version of lustre and kernel is:<BR>
&gt;<BR>
&gt; 2.6.9-42.0.10.EL_lustre-1.6.0.1smp X86_64<BR>
&gt;<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 1<BR>
&gt; previous similar message<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; obd_change_cbdata: NULL export<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 1<BR>
&gt; previous similar message<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; obd_change_cbdata: NULL export<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 2<BR>
&gt; previous similar messages<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; obd_change_cbdata: NULL export<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 4<BR>
&gt; previous similar messages<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; obd_change_cbdata: NULL export<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 5<BR>
&gt; previous similar messages<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; obd_change_cbdata: NULL export<BR>
&gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 1<BR>
&gt; previous similar message<BR>
&gt;<BR>
&gt; --<BR>
&gt; Jeremy Mann<BR>
&gt; jeremy@biochem.uthscsa.edu<BR>
&gt;<BR>
&gt; University of Texas Health Science Center<BR>
&gt; Bioinformatics Core Facility<BR>
&gt; <A HREF="http://www.bioinformatics.uthscsa.edu">http://www.bioinformatics.uthscsa.edu</A><BR>
&gt; Phone: (210) 567-2672<BR>
&gt;<BR>
&gt;<BR>
&gt;<BR>
&gt; ------------------------------<BR>
&gt;<BR>
&gt; _______________________________________________<BR>
&gt; Lustre-discuss mailing list<BR>
&gt; Lustre-discuss@lists.lustre.org<BR>
&gt; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt;<BR>
&gt;<BR>
&gt; End of Lustre-discuss Digest, Vol 25, Issue 56<BR>
&gt; **********************************************<BR>
&gt;<BR>
&gt; -------------- next part --------------<BR>
&gt; An HTML attachment was scrubbed...<BR>
&gt; URL: <A HREF="http://lists.lustre.org/pipermail/lustre-discuss/attachments/20080229/887613dd/attachment-0001.html">http://lists.lustre.org/pipermail/lustre-discuss/attachments/20080229/887613dd/attachment-0001.html</A><BR>
&gt;<BR>
&gt; ------------------------------<BR>
&gt;<BR>
&gt; Message: 2<BR>
&gt; Date: Fri, 29 Feb 2008 12:03:09 +0530<BR>
&gt; From: Amit Sharma &lt;Amit.Sharma@Sun.COM&gt;<BR>
&gt; Subject: Re: [Lustre-discuss] Configuration of lustre FS on single<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; node<BR>
&gt; To: ashok bharat bayana &lt;ashok.bharat.bayana@iiitb.ac.in&gt;<BR>
&gt; Cc: lustre-discuss@lists.lustre.org<BR>
&gt; Message-ID: &lt;47C7A725.5050309@sun.com&gt;<BR>
&gt; Content-Type: text/plain; format=flowed; charset=ISO-8859-1<BR>
&gt;<BR>
&gt; Ashok,<BR>
&gt;<BR>
&gt; Could you let us know what are the modules that you have installed on<BR>
&gt; the system. The linux version on your system. And the steps that you<BR>
&gt; have done so far.<BR>
&gt;<BR>
&gt; thanks,<BR>
&gt; Amit<BR>
&gt; ashok bharat bayana wrote:<BR>
&gt; &gt;<BR>
&gt; &gt; Hello,<BR>
&gt; &gt; I successfully build lustre(1.6.4.2) on my system for a patchless client<BR>
&gt; &gt; But I dont know how to proceed in configuring the file system.<BR>
&gt; &gt;<BR>
&gt; &gt; I'm trying to build all MDS,client and MDT's on a single node.<BR>
&gt; &gt;&nbsp; &gt;From the tutorials I came to know that<BR>
&gt; &gt;<BR>
&gt; &gt; First, create an MDT for the &quot;spfs&quot; file system that uses the /dev/sda<BR>
&gt; &gt; disk. This MDT also acts as the MGS for the site.<BR>
&gt; &gt;<BR>
&gt; &gt; $ mkfs.lustre --fsname spfs --mdt --mgs /dev/sda<BR>
&gt; &gt;<BR>
&gt; &gt; But by triggering this command my system crashed in which the whole data<BR>
&gt; &gt; is lost and again I need to install the OS.<BR>
&gt; &gt; I want help in proceeding of mounting a lustre file system.<BR>
&gt; &gt;<BR>
&gt; &gt; Thanks and Regards,<BR>
&gt; &gt; Ashok Bharat<BR>
&gt; &gt;<BR>
&gt; &gt; -----Original Message-----<BR>
&gt; &gt; From: lustre-discuss-bounces@lists.lustre.org on behalf of<BR>
&gt; &gt; lustre-discuss-request@lists.lustre.org<BR>
&gt; &gt; Sent: Wed 2/27/2008 10:30 PM<BR>
&gt; &gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; &gt; Subject: Lustre-discuss Digest, Vol 25, Issue 56<BR>
&gt; &gt;<BR>
&gt; &gt; Send Lustre-discuss mailing list submissions to<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss@lists.lustre.org<BR>
&gt; &gt;<BR>
&gt; &gt; To subscribe or unsubscribe via the World Wide Web, visit<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt; &gt; or, via email, send a message with subject or body 'help' to<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-request@lists.lustre.org<BR>
&gt; &gt;<BR>
&gt; &gt; You can reach the person managing the list at<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-owner@lists.lustre.org<BR>
&gt; &gt;<BR>
&gt; &gt; When replying, please edit your Subject line so it is more specific<BR>
&gt; &gt; than &quot;Re: Contents of Lustre-discuss digest...&quot;<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; Today's Topics:<BR>
&gt; &gt;<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp; 1. Multiple NICs per OST (Joshua Bower-Cooley)<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp; 2. obd error on MGS/MDT node (Jeremy Mann)<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; ----------------------------------------------------------------------<BR>
&gt; &gt;<BR>
&gt; &gt; Message: 1<BR>
&gt; &gt; Date: Tue, 26 Feb 2008 11:55:19 -0800<BR>
&gt; &gt; From: Joshua Bower-Cooley &lt;jbowercooley@lcogt.net&gt;<BR>
&gt; &gt; Subject: [Lustre-discuss] Multiple NICs per OST<BR>
&gt; &gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; &gt; Message-ID: &lt;200802261155.19907.jbowercooley@lcogt.net&gt;<BR>
&gt; &gt; Content-Type: text/plain;&nbsp; charset=&quot;utf-8&quot;<BR>
&gt; &gt;<BR>
&gt; &gt; Hi-<BR>
&gt; &gt; I've had lustre running happily for some time over a single 10g ethernet NIC<BR>
&gt; &gt; per node. After switching to dual 10g and creating a new filesystem<BR>
&gt; &gt; (1.6.4.2), I'm seeing nothing but keep-alive packets with bad checksums.<BR>
&gt; &gt;<BR>
&gt; &gt; What is the current &quot;correct&quot; way to do this now? The manual suggest not<BR>
&gt; &gt; using<BR>
&gt; &gt; bonding, but several list postings now reccommend it. Without bonding, do I<BR>
&gt; &gt; need to have my 2 switches stacked, or will Lustre recognize the division in<BR>
&gt; &gt; my subnet?<BR>
&gt; &gt;<BR>
&gt; &gt; LNET module options I've tried are:<BR>
&gt; &gt; 1) networks=&quot;tcp0(eth2,eth3)&quot;<BR>
&gt; &gt; 2) ip2nets=&quot;tcp(eth2,eth3); tcp(eth2) 10.9.[1-4].*; tcp(eth3) 10.9.[5-8].*;&quot;<BR>
&gt; &gt; and many other variations<BR>
&gt; &gt;<BR>
&gt; &gt; All other services are functional on both interfaces.<BR>
&gt; &gt;<BR>
&gt; &gt; Thanks in advance,<BR>
&gt; &gt; J Bower-Cooley<BR>
&gt; &gt; Scientific Systems Engineer<BR>
&gt; &gt; Las Cumbres Observatory Global Telescope<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; ------------------------------<BR>
&gt; &gt;<BR>
&gt; &gt; Message: 2<BR>
&gt; &gt; Date: Wed, 27 Feb 2008 09:50:08 -0600 (CST)<BR>
&gt; &gt; From: &quot;Jeremy Mann&quot; &lt;jeremy@biochem.uthscsa.edu&gt;<BR>
&gt; &gt; Subject: [Lustre-discuss] obd error on MGS/MDT node<BR>
&gt; &gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; &gt; Message-ID:<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; &lt;62901.24.173.62.147.1204127408.squirrel@biochem.uthscsa.edu&gt;<BR>
&gt; &gt; Content-Type: text/plain;charset=iso-8859-1<BR>
&gt; &gt;<BR>
&gt; &gt; Today we are starting to see obd_change_cbdata errors on our MGS/MDT node.<BR>
&gt; &gt; What does this error mean?<BR>
&gt; &gt;<BR>
&gt; &gt; Version of lustre and kernel is:<BR>
&gt; &gt;<BR>
&gt; &gt; 2.6.9-42.0.10.EL_lustre-1.6.0.1smp X86_64<BR>
&gt; &gt;<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 1<BR>
&gt; &gt; previous similar message<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 1<BR>
&gt; &gt; previous similar message<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 2<BR>
&gt; &gt; previous similar messages<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 4<BR>
&gt; &gt; previous similar messages<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 5<BR>
&gt; &gt; previous similar messages<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 1<BR>
&gt; &gt; previous similar message<BR>
&gt; &gt;<BR>
&gt; &gt; --<BR>
&gt; &gt; Jeremy Mann<BR>
&gt; &gt; jeremy@biochem.uthscsa.edu<BR>
&gt; &gt;<BR>
&gt; &gt; University of Texas Health Science Center<BR>
&gt; &gt; Bioinformatics Core Facility<BR>
&gt; &gt; <A HREF="http://www.bioinformatics.uthscsa.edu">http://www.bioinformatics.uthscsa.edu</A><BR>
&gt; &gt; Phone: (210) 567-2672<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; ------------------------------<BR>
&gt; &gt;<BR>
&gt; &gt; _______________________________________________<BR>
&gt; &gt; Lustre-discuss mailing list<BR>
&gt; &gt; Lustre-discuss@lists.lustre.org<BR>
&gt; &gt; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; End of Lustre-discuss Digest, Vol 25, Issue 56<BR>
&gt; &gt; **********************************************<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; ------------------------------------------------------------------------<BR>
&gt; &gt;<BR>
&gt; &gt; _______________________________________________<BR>
&gt; &gt; Lustre-discuss mailing list<BR>
&gt; &gt; Lustre-discuss@lists.lustre.org<BR>
&gt; &gt; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt;<BR>
&gt;<BR>
&gt; --<BR>
&gt; Amit Sharma<BR>
&gt; Lustre Engineering<BR>
&gt; Sun Microsystems, Bangalore.<BR>
&gt;<BR>
&gt;<BR>
&gt; ------------------------------<BR>
&gt;<BR>
&gt; Message: 3<BR>
&gt; Date: Fri, 29 Feb 2008 12:27:53 +0530<BR>
&gt; From: &quot;ashok bharat bayana&quot; &lt;ashok.bharat.bayana@iiitb.ac.in&gt;<BR>
&gt; Subject: Re: [Lustre-discuss] Configuration of lustre FS on single<BR>
&gt; &nbsp;&nbsp;&nbsp;&nbsp;&nbsp; node<BR>
&gt; To: &quot;Amit Sharma&quot; &lt;Amit.Sharma@Sun.COM&gt;<BR>
&gt; Cc: lustre-discuss@lists.lustre.org<BR>
&gt; Message-ID: &lt;8626C1B7EB748940BCDD7596134632BE85022A@jal.iiitb.ac.in&gt;<BR>
&gt; Content-Type: text/plain; charset=&quot;iso-8859-1&quot;<BR>
&gt;<BR>
&gt;<BR>
&gt; Hi,<BR>
&gt; the kernel version I used is 2.6.20.15 and the distro is Ubuntu 7.10<BR>
&gt; The steps so far I have done are:<BR>
&gt; 1)I have downloaded the sources lustre(1.6.4.2) from CFS<BR>
&gt; 2)I tried to build lustre for a patchless client in which i triggered the command,<BR>
&gt; [lustre]$ ./configure --with-linux=/unpatched/kernel/source<BR>
&gt; 3)then I build it using make and then installed the modules using make install commands<BR>
&gt; (I'm not sure whether the modules are installed correctly or not.Isn't the modules are installed using make install cmd)<BR>
&gt; 4)Now in /usr/lib there is a lustre folder created.<BR>
&gt; (Can we setup all MDS,client and OST's on a single system? my system configuration is Intel Pentium 512 MB RAM 1.6 GHz)<BR>
&gt; Could you please tell me how to mount lustre fs in my laptop.<BR>
&gt;<BR>
&gt; Thanks and Regards,<BR>
&gt; Ashok Bharat<BR>
&gt; -----Original Message-----<BR>
&gt; From: Amit Sharma [<A HREF="mailto:Amit.Sharma@Sun.COM">mailto:Amit.Sharma@Sun.COM</A>]<BR>
&gt; Sent: Fri 2/29/2008 12:03 PM<BR>
&gt; To: ashok bharat bayana<BR>
&gt; Cc: lustre-discuss@lists.lustre.org<BR>
&gt; Subject: Re: [Lustre-discuss] Configuration of lustre FS on single node<BR>
&gt;&nbsp;<BR>
&gt; Ashok,<BR>
&gt;<BR>
&gt; Could you let us know what are the modules that you have installed on<BR>
&gt; the system. The linux version on your system. And the steps that you<BR>
&gt; have done so far.<BR>
&gt;<BR>
&gt; thanks,<BR>
&gt; Amit<BR>
&gt; ashok bharat bayana wrote:<BR>
&gt; &gt;<BR>
&gt; &gt; Hello,<BR>
&gt; &gt; I successfully build lustre(1.6.4.2) on my system for a patchless client<BR>
&gt; &gt; But I dont know how to proceed in configuring the file system.<BR>
&gt; &gt;<BR>
&gt; &gt; I'm trying to build all MDS,client and MDT's on a single node.<BR>
&gt; &gt;&nbsp; &gt;From the tutorials I came to know that<BR>
&gt; &gt;<BR>
&gt; &gt; First, create an MDT for the &quot;spfs&quot; file system that uses the /dev/sda<BR>
&gt; &gt; disk. This MDT also acts as the MGS for the site.<BR>
&gt; &gt;<BR>
&gt; &gt; $ mkfs.lustre --fsname spfs --mdt --mgs /dev/sda<BR>
&gt; &gt;<BR>
&gt; &gt; But by triggering this command my system crashed in which the whole data<BR>
&gt; &gt; is lost and again I need to install the OS.<BR>
&gt; &gt; I want help in proceeding of mounting a lustre file system.<BR>
&gt; &gt;<BR>
&gt; &gt; Thanks and Regards,<BR>
&gt; &gt; Ashok Bharat<BR>
&gt; &gt;<BR>
&gt; &gt; -----Original Message-----<BR>
&gt; &gt; From: lustre-discuss-bounces@lists.lustre.org on behalf of<BR>
&gt; &gt; lustre-discuss-request@lists.lustre.org<BR>
&gt; &gt; Sent: Wed 2/27/2008 10:30 PM<BR>
&gt; &gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; &gt; Subject: Lustre-discuss Digest, Vol 25, Issue 56<BR>
&gt; &gt;<BR>
&gt; &gt; Send Lustre-discuss mailing list submissions to<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss@lists.lustre.org<BR>
&gt; &gt;<BR>
&gt; &gt; To subscribe or unsubscribe via the World Wide Web, visit<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt; &gt; or, via email, send a message with subject or body 'help' to<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-request@lists.lustre.org<BR>
&gt; &gt;<BR>
&gt; &gt; You can reach the person managing the list at<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; lustre-discuss-owner@lists.lustre.org<BR>
&gt; &gt;<BR>
&gt; &gt; When replying, please edit your Subject line so it is more specific<BR>
&gt; &gt; than &quot;Re: Contents of Lustre-discuss digest...&quot;<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; Today's Topics:<BR>
&gt; &gt;<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp; 1. Multiple NICs per OST (Joshua Bower-Cooley)<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp; 2. obd error on MGS/MDT node (Jeremy Mann)<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; ----------------------------------------------------------------------<BR>
&gt; &gt;<BR>
&gt; &gt; Message: 1<BR>
&gt; &gt; Date: Tue, 26 Feb 2008 11:55:19 -0800<BR>
&gt; &gt; From: Joshua Bower-Cooley &lt;jbowercooley@lcogt.net&gt;<BR>
&gt; &gt; Subject: [Lustre-discuss] Multiple NICs per OST<BR>
&gt; &gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; &gt; Message-ID: &lt;200802261155.19907.jbowercooley@lcogt.net&gt;<BR>
&gt; &gt; Content-Type: text/plain;&nbsp; charset=&quot;utf-8&quot;<BR>
&gt; &gt;<BR>
&gt; &gt; Hi-<BR>
&gt; &gt; I've had lustre running happily for some time over a single 10g ethernet NIC<BR>
&gt; &gt; per node. After switching to dual 10g and creating a new filesystem<BR>
&gt; &gt; (1.6.4.2), I'm seeing nothing but keep-alive packets with bad checksums.<BR>
&gt; &gt;<BR>
&gt; &gt; What is the current &quot;correct&quot; way to do this now? The manual suggest not<BR>
&gt; &gt; using<BR>
&gt; &gt; bonding, but several list postings now reccommend it. Without bonding, do I<BR>
&gt; &gt; need to have my 2 switches stacked, or will Lustre recognize the division in<BR>
&gt; &gt; my subnet?<BR>
&gt; &gt;<BR>
&gt; &gt; LNET module options I've tried are:<BR>
&gt; &gt; 1) networks=&quot;tcp0(eth2,eth3)&quot;<BR>
&gt; &gt; 2) ip2nets=&quot;tcp(eth2,eth3); tcp(eth2) 10.9.[1-4].*; tcp(eth3) 10.9.[5-8].*;&quot;<BR>
&gt; &gt; and many other variations<BR>
&gt; &gt;<BR>
&gt; &gt; All other services are functional on both interfaces.<BR>
&gt; &gt;<BR>
&gt; &gt; Thanks in advance,<BR>
&gt; &gt; J Bower-Cooley<BR>
&gt; &gt; Scientific Systems Engineer<BR>
&gt; &gt; Las Cumbres Observatory Global Telescope<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; ------------------------------<BR>
&gt; &gt;<BR>
&gt; &gt; Message: 2<BR>
&gt; &gt; Date: Wed, 27 Feb 2008 09:50:08 -0600 (CST)<BR>
&gt; &gt; From: &quot;Jeremy Mann&quot; &lt;jeremy@biochem.uthscsa.edu&gt;<BR>
&gt; &gt; Subject: [Lustre-discuss] obd error on MGS/MDT node<BR>
&gt; &gt; To: lustre-discuss@lists.lustre.org<BR>
&gt; &gt; Message-ID:<BR>
&gt; &gt;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp; &lt;62901.24.173.62.147.1204127408.squirrel@biochem.uthscsa.edu&gt;<BR>
&gt; &gt; Content-Type: text/plain;charset=iso-8859-1<BR>
&gt; &gt;<BR>
&gt; &gt; Today we are starting to see obd_change_cbdata errors on our MGS/MDT node.<BR>
&gt; &gt; What does this error mean?<BR>
&gt; &gt;<BR>
&gt; &gt; Version of lustre and kernel is:<BR>
&gt; &gt;<BR>
&gt; &gt; 2.6.9-42.0.10.EL_lustre-1.6.0.1smp X86_64<BR>
&gt; &gt;<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 1<BR>
&gt; &gt; previous similar message<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 1<BR>
&gt; &gt; previous similar message<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 2<BR>
&gt; &gt; previous similar messages<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 4<BR>
&gt; &gt; previous similar messages<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 5<BR>
&gt; &gt; previous similar messages<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata())<BR>
&gt; &gt; obd_change_cbdata: NULL export<BR>
&gt; &gt; LustreError: 65:0:(obd_class.h:1171:obd_change_cbdata()) Skipped 1<BR>
&gt; &gt; previous similar message<BR>
&gt; &gt;<BR>
&gt; &gt; --<BR>
&gt; &gt; Jeremy Mann<BR>
&gt; &gt; jeremy@biochem.uthscsa.edu<BR>
&gt; &gt;<BR>
&gt; &gt; University of Texas Health Science Center<BR>
&gt; &gt; Bioinformatics Core Facility<BR>
&gt; &gt; <A HREF="http://www.bioinformatics.uthscsa.edu">http://www.bioinformatics.uthscsa.edu</A><BR>
&gt; &gt; Phone: (210) 567-2672<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; ------------------------------<BR>
&gt; &gt;<BR>
&gt; &gt; _______________________________________________<BR>
&gt; &gt; Lustre-discuss mailing list<BR>
&gt; &gt; Lustre-discuss@lists.lustre.org<BR>
&gt; &gt; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; End of Lustre-discuss Digest, Vol 25, Issue 56<BR>
&gt; &gt; **********************************************<BR>
&gt; &gt;<BR>
&gt; &gt;<BR>
&gt; &gt; ------------------------------------------------------------------------<BR>
&gt; &gt;<BR>
&gt; &gt; _______________________________________________<BR>
&gt; &gt; Lustre-discuss mailing list<BR>
&gt; &gt; Lustre-discuss@lists.lustre.org<BR>
&gt; &gt; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt;<BR>
&gt;<BR>
&gt; --<BR>
&gt; Amit Sharma<BR>
&gt; Lustre Engineering<BR>
&gt; Sun Microsystems, Bangalore.<BR>
&gt;<BR>
&gt; -------------- next part --------------<BR>
&gt; An HTML attachment was scrubbed...<BR>
&gt; URL: <A HREF="http://lists.lustre.org/pipermail/lustre-discuss/attachments/20080229/39e94cf4/attachment.html">http://lists.lustre.org/pipermail/lustre-discuss/attachments/20080229/39e94cf4/attachment.html</A><BR>
&gt;<BR>
&gt; ------------------------------<BR>
&gt;<BR>
&gt; _______________________________________________<BR>
&gt; Lustre-discuss mailing list<BR>
&gt; Lustre-discuss@lists.lustre.org<BR>
&gt; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
&gt;<BR>
&gt;<BR>
&gt; End of Lustre-discuss Digest, Vol 25, Issue 58<BR>
&gt; **********************************************<BR>
&gt;<BR>
<BR>
&gt; _______________________________________________<BR>
&gt; Lustre-discuss mailing list<BR>
&gt; Lustre-discuss@lists.lustre.org<BR>
&gt; <A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
<BR>
<BR>
Cheers, Andreas<BR>
--<BR>
Andreas Dilger<BR>
Sr. Staff Engineer, Lustre Group<BR>
Sun Microsystems of Canada, Inc.<BR>
<BR>
<BR>
<BR>
------------------------------<BR>
<BR>
Message: 2<BR>
Date: Mon, 10 Mar 2008 11:08:18 +0200<BR>
From: Alex Lyashkov &lt;Alexey.Lyashkov@Sun.COM&gt;<BR>
Subject: Re: [Lustre-discuss] yet another lustre error<BR>
To: Brock Palen &lt;brockp@umich.edu&gt;<BR>
Cc: lustre-discuss@lists.lustre.org<BR>
Message-ID: &lt;1205140098.1359.270.camel@bear.shadowland&gt;<BR>
Content-Type: text/plain<BR>
<BR>
On Fri, 2008-03-07 at 18:45 -0500, Brock Palen wrote:<BR>
&gt; On a file system thats been up for only 57 days,&nbsp; I have:<BR>
&gt;<BR>
<BR>
&gt; target_handle_reconnect<BR>
&gt; nobackup-MDT0000: 34b4fbea-200b-1f7c-dac0-516b8ce786fc reconnecting<BR>
&gt; ldlm_lib.c<BR>
&gt; target_handle_connect<BR>
&gt; nobackup-MDT0000: refuse reconnection from 34b4fbea-200b-1f7c-<BR>
&gt; dac0-516b8ce786fc@10.164.0.111@tcp to 0x00000100069a7000; still busy&nbsp;<BR>
&gt; with 2 active RPCs<BR>
&gt; ldlm_lib.c<BR>
&gt; target_send_reply_msg<BR>
&gt; @@@ processing error (-16)&nbsp; req@0000010019159a00 x11199816/t0 o38-<BR>
&gt;&nbsp; &gt;34b4fbea-200b-1f7c-dac0-516b8ce786fc@NET_0x200000aa4006f_UUID:-1&nbsp;<BR>
&gt; lens 304/200 ref 0 fl Interpret:/0/0 rc -16/0<BR>
&gt;<BR>
&gt;<BR>
&gt; What I see messages about active rpc's in other logs.&nbsp; What would&nbsp;<BR>
&gt; this mean?&nbsp; Is something suck someplace ?<BR>
&gt;<BR>
-16 = EBUSY. This say client reconnected to server which already work on<BR>
different request from this client. After old rpc from this client will<BR>
be finished - client will be reconnected.<BR>
<BR>
--<BR>
Alex Lyashkov &lt;Alexey.lyashkov@sun.com&gt;<BR>
Lustre Group, Sun Microsystems<BR>
<BR>
<BR>
<BR>
------------------------------<BR>
<BR>
Message: 3<BR>
Date: Mon, 10 Mar 2008 12:27:51 +0100<BR>
From: Joe Barjo &lt;jobarjo78@yahoo.fr&gt;<BR>
Subject: Re: [Lustre-discuss] lustre and small files overhead<BR>
Cc: lustre-discuss@lists.lustre.org<BR>
Message-ID: &lt;47D51B37.5070703@yahoo.fr&gt;<BR>
Content-Type: text/plain; charset=&quot;iso-8859-1&quot;<BR>
<BR>
Andreas Dilger a ?crit :<BR>
&gt; On Mar 07, 2008&nbsp; 12:49 +0100, Joe Barjo wrote:<BR>
&gt;&nbsp;&nbsp;<BR>
&gt;&gt; I made some more tests, and have setup a micro lustre cluster on lvm<BR>
&gt;&gt; volumes.<BR>
&gt;&gt; node a: MDS<BR>
&gt;&gt; node b and c: OST<BR>
&gt;&gt; node a,b,c,d,e,f: clients<BR>
&gt;&gt; Gigabit ethernet network.<BR>
&gt;&gt; Made the optimizations: lnet.debug=0, lru_size to 10000, max_dirty_mb to<BR>
&gt;&gt; 1024<BR>
&gt;&gt;&nbsp;&nbsp;&nbsp;&nbsp;<BR>
&gt;<BR>
&gt; For high RPC-rate operations using an interconnect like Infiniband is<BR>
&gt; better than ethernet.<BR>
&gt;<BR>
&gt;&nbsp;&nbsp;<BR>
infiniband is not in our budget...<BR>
&gt;&gt; The svn checkout takes 50s ( 15s on a localdisk, 25s on a local lustre<BR>
&gt;&gt; demo (with debug=0))<BR>
&gt;&gt; Launching gkrellm, a single svn checkout consumes about 20% of the MDS<BR>
&gt;&gt; system cpu with about 2.4mbyte/sec ethernet communication.<BR>
&gt;&gt;&nbsp;&nbsp;&nbsp;&nbsp;<BR>
&gt;<BR>
&gt;&nbsp;&nbsp;<BR>
&gt;&gt; About 6MByte/s disk bandwidth on OST1, up to 12-16MB/s on OST2 disk<BR>
&gt;&gt; bandwidth, network bandwidth on OST is about 10 to 20 times under disk<BR>
&gt;&gt; bandwidth.<BR>
&gt;&gt; Why so much disk bandwidth on OSTs, is it a readahead problem?<BR>
&gt;&gt;&nbsp;&nbsp;&nbsp;&nbsp;<BR>
&gt;<BR>
&gt; That does seem strange, I can't really say why.&nbsp; There is some metadata<BR>
&gt; overhead, and that is higher with small files, but I don't think it<BR>
&gt; would be 10-20x overhead.<BR>
&gt;<BR>
&gt;&nbsp;&nbsp;<BR>
The checkouted source is only 65 megabytes. So much OST disk bandwidth<BR>
is probably not normal.<BR>
Maybe you should verify this point.<BR>
Are you sure there isn't an optimazation for this? This looks like<BR>
readahead or something like that.<BR>
&gt;&gt; I launched a compilation distributed on the 6 clients:<BR>
&gt;&gt; MDS system cpu goes up to 60% system ressource (athlon 64 3500+)<BR>
&gt;&gt; 12MByte/s on the ethernet, OST goes up to the same level as previous test.<BR>
&gt;&gt;<BR>
&gt;&gt; How come is there so much network communications on the MDT?<BR>
&gt;&gt;&nbsp;&nbsp;&nbsp;&nbsp;<BR>
&gt;<BR>
&gt; Because every metadata operation has to be done on the MDS currently.<BR>
&gt; We are working toward having metadata writeback cache operations on<BR>
&gt; the client, but it doesn't happen currently.&nbsp; For operations like<BR>
&gt; compilation it is basically entirely metadata overhead.<BR>
&gt;<BR>
&gt;&nbsp;&nbsp;<BR>
&gt;&gt; As I understood that the MDS can not be load balanced, I don't see how<BR>
&gt;&gt; lustre is scalable to thousands of clients...<BR>
&gt;&gt;&nbsp;&nbsp;&nbsp;&nbsp;<BR>
&gt;<BR>
&gt; Because in many HPC environments there are very few metadata operations<BR>
&gt; in comparison to the amount of data being read/written.&nbsp; Average file<BR>
&gt; sizes are 20-30MB instead of 20-30kB.<BR>
&gt;<BR>
&gt;&nbsp;&nbsp;<BR>
&gt;&gt; It looks like lustre is not made for this kind of application<BR>
&gt;&gt;&nbsp;&nbsp;&nbsp;&nbsp;<BR>
&gt;<BR>
&gt; No, it definitely isn't tuned for small files.<BR>
&gt;&nbsp;&nbsp;<BR>
Could it be tuned one day for small files?<BR>
Which filesystem would you suggest for me?<BR>
I already tried nfs, afs<BR>
I will now try glusterfs<BR>
<BR>
Thanks for your support<BR>
<BR>
-------------- next part --------------<BR>
An HTML attachment was scrubbed...<BR>
URL: <A HREF="http://lists.lustre.org/pipermail/lustre-discuss/attachments/20080310/11e3dfa0/attachment.html">http://lists.lustre.org/pipermail/lustre-discuss/attachments/20080310/11e3dfa0/attachment.html</A><BR>
<BR>
------------------------------<BR>
<BR>
_______________________________________________<BR>
Lustre-discuss mailing list<BR>
Lustre-discuss@lists.lustre.org<BR>
<A HREF="http://lists.lustre.org/mailman/listinfo/lustre-discuss">http://lists.lustre.org/mailman/listinfo/lustre-discuss</A><BR>
<BR>
<BR>
End of Lustre-discuss Digest, Vol 26, Issue 25<BR>
**********************************************<BR>
<BR>
</FONT>
</P>

</BODY>
</HTML>