<div dir="ltr"><div class="gmail_default" style="font-family:tahoma,sans-serif;font-size:small;color:#993399">Hi Martin</div><div class="gmail_default" style="font-family:tahoma,sans-serif;font-size:small;color:#993399"><br></div><div class="gmail_default" style="font-family:tahoma,sans-serif;font-size:small;color:#993399">Thanks for your inputs. I am checking the configurations you pointed out. I will post my finding / response soon.</div><div class="gmail_default" style="font-family:tahoma,sans-serif;font-size:small;color:#993399">Sorry for the typo, i realized that i had a typo as soon as i sent that email. It was a copy paste/modification error in the email. I executed the correct command still no luck.</div><div class="gmail_default" style="font-family:tahoma,sans-serif;font-size:small;color:#993399"><br></div><div class="gmail_default" style="font-family:tahoma,sans-serif;font-size:small;color:#993399">Thanks</div><div class="gmail_default" style="font-family:tahoma,sans-serif;font-size:small;color:#993399"><br></div></div><div class="gmail_extra"><br><div class="gmail_quote">On Thu, Jul 21, 2016 at 2:33 AM, Martin Hecht <span dir="ltr">&lt;<a href="mailto:hecht@hlrs.de" target="_blank">hecht@hlrs.de</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hi,<br>
<br>
I think your client doesn&#39;t have the o2ib lnet (it should appear in the<br>
output of the lctl ping, even if you ping on the tcp lnet).<br>
In your /etc/modprobe.d/lustre.conf o2ib is associated with the ib0<br>
interface, but your /var/log/messages talks about ib1.<br>
If it is a dual port card where just one port is used, the easiest would<br>
be to plug the cable to the other interface. (If there are two ib<br>
connections, things might become a bit more complicated. There are<br>
examples for multi rail configurations using several lnets in the lustre<br>
manual, but maybe this goes too far.)<br>
<br>
With the attempt to mount via tcp (or tcp0, which is the same) I think<br>
the problem is that the file system config on the mgs doesn&#39;t contain<br>
the tcp-NIDs and/or the routes are not configured correctly. It seems<br>
the attempt to mount via tcp causes the client to use o2ib for the<br>
connections to the MDS and OSSes. So, I would recommend to get that<br>
working first and then look at tcp0 at a later stage (if you need it at<br>
all - native o2ib is more performant).<br>
<br>
Last but not least I have noticed a typo in your client mount command:<br>
<span class="">mount -t lustre 192.168.200.52@ob2:/mylustre /lustre<br>
</span>this should be &quot;o2ib&quot; here, too.<br>
<br>
best regards,<br>
Martin<br>
<span class=""><br>
On 07/20/2016 08:09 PM, sohamm wrote:<br>
&gt; Hi<br>
&gt;<br>
&gt; Any guidance/help on this is greatly appreciated.<br>
&gt;<br>
&gt; Thanks<br>
&gt;<br>
&gt; On Mon, Jul 18, 2016 at 7:25 PM, sohamm &lt;<a href="mailto:sohamm@gmail.com">sohamm@gmail.com</a>&gt; wrote:<br>
&gt;<br>
&gt;&gt; Hi Ben<br>
&gt;&gt; Both the networks have netmasks of value 255.255.255.0<br>
&gt;&gt;<br>
&gt;&gt; Thanks<br>
&gt;&gt;<br>
&gt;&gt; On Mon, Jul 18, 2016 at 10:08 AM, Ben Evans &lt;<a href="mailto:bevans@cray.com">bevans@cray.com</a>&gt; wrote:<br>
&gt;&gt;<br>
&gt;&gt;&gt; What do your netmasks look like on each network?<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; From: lustre-discuss &lt;<a href="mailto:lustre-discuss-bounces@lists.lustre.org">lustre-discuss-bounces@lists.lustre.org</a>&gt; on behalf<br>
&gt;&gt;&gt; of sohamm &lt;<a href="mailto:sohamm@gmail.com">sohamm@gmail.com</a>&gt;<br>
&gt;&gt;&gt; Date: Monday, July 18, 2016 at 1:56 AM<br>
&gt;&gt;&gt; To: &quot;<a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a>&quot; &lt;<a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a>&gt;<br>
&gt;&gt;&gt; Subject: Re: [lustre-discuss] lustre-discuss Digest, Vol 124, Issue 17<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; Hi Thomas<br>
&gt;&gt;&gt; Below are the results of the commands you suggested.<br>
&gt;&gt;&gt;<br>
</span>&gt;&gt;&gt; *From Client*<br>
<span class="">&gt;&gt;&gt; [root@dev1 ~]# lctl ping 192.168.200.52@o2ib<br>
&gt;&gt;&gt; failed to ping 192.168.200.52@o2ib: Input/output error<br>
&gt;&gt;&gt; [root@dev1 ~]# lctl ping 192.168.111.52@tcp<br>
&gt;&gt;&gt; 12345-0@lo<br>
&gt;&gt;&gt; 12345-192.168.200.52@o2ib<br>
&gt;&gt;&gt; 12345-192.168.111.52@tcp<br>
&gt;&gt;&gt; [root@dev1 ~]# mount -t lustre 192.168.111.52@tcp:/mylustre /lustre<br>
&gt;&gt;&gt; mount.lustre: mount 192.168.111.52@tcp:/mylustre at /lustre failed:<br>
&gt;&gt;&gt; Input/output error<br>
&gt;&gt;&gt; Is the MGS running?<br>
&gt;&gt;&gt; mount: mounting 192.168.111.52@tcp:/mylustre on /lustre failed: Invalid<br>
&gt;&gt;&gt; argument<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; cat /var/log/messages | tail<br>
&gt;&gt;&gt; Jul 18 01:37:04 dev1 user.warn kernel: [2250504.401397] ib1: multicast<br>
&gt;&gt;&gt; join failed for ff12:401b:ffff:0000:0000:0000:ffff:ffff, status -22<br>
&gt;&gt;&gt; Jul 18 01:37:26 dev1 user.warn kernel: [2250526.257309] LNet: No route to<br>
&gt;&gt;&gt; 12345-192.168.200.52@o2ib via &lt;?&gt; (all routers down)<br>
&gt;&gt;&gt; Jul 18 01:37:36 dev1 user.warn kernel: [2250536.481862] ib1: multicast<br>
&gt;&gt;&gt; join failed for ff12:401b:ffff:0000:0000:0000:ffff:ffff, status -22<br>
&gt;&gt;&gt; Jul 18 01:41:53 dev1 user.warn kernel: [2250792.947299] LNet: No route to<br>
&gt;&gt;&gt; 12345-192.168.200.52@o2ib via &lt;?&gt; (all routers down)<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
</span>&gt;&gt;&gt; *From MGS*<br>
<div class="HOEnZb"><div class="h5">&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# lctl ping 192.168.111.102@tcp<br>
&gt;&gt;&gt; 12345-0@lo<br>
&gt;&gt;&gt; 12345-192.168.111.102@tcp<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; Please let me know what else i can try. Looks like i am missing something<br>
&gt;&gt;&gt; with the ib config? Do i need router setup as part of lnet ?<br>
&gt;&gt;&gt; if i am able to ping mgs from client on the tcp network, it should still<br>
&gt;&gt;&gt; work ?<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; Thanks<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;&gt;&gt; On Sun, Jul 17, 2016 at 1:07 PM, &lt;<a href="mailto:lustre-discuss-request@lists.lustre.org">lustre-discuss-request@lists.lustre.org</a><br>
&gt;&gt;&gt;&gt; wrote:<br>
&gt;&gt;&gt;&gt; Send lustre-discuss mailing list submissions to<br>
&gt;&gt;&gt;&gt;         <a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; To subscribe or unsubscribe via the World Wide Web, visit<br>
&gt;&gt;&gt;&gt;         <a href="http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org" rel="noreferrer" target="_blank">http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org</a><br>
&gt;&gt;&gt;&gt; or, via email, send a message with subject or body &#39;help&#39; to<br>
&gt;&gt;&gt;&gt;         <a href="mailto:lustre-discuss-request@lists.lustre.org">lustre-discuss-request@lists.lustre.org</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; You can reach the person managing the list at<br>
&gt;&gt;&gt;&gt;         <a href="mailto:lustre-discuss-owner@lists.lustre.org">lustre-discuss-owner@lists.lustre.org</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; When replying, please edit your Subject line so it is more specific<br>
&gt;&gt;&gt;&gt; than &quot;Re: Contents of lustre-discuss digest...&quot;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Today&#39;s Topics:<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;    1. llapi_file_get_stripe() and /proc/fs/lustre/osc/  entries<br>
&gt;&gt;&gt;&gt;       (John Bauer)<br>
&gt;&gt;&gt;&gt;    2. luster client mount issues (sohamm)<br>
&gt;&gt;&gt;&gt;    3. Re:<br>
&gt;&gt;&gt;&gt; \u200b\u200b<br>
&gt;&gt;&gt;&gt; luster client mount issues (Thomas Roth)<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; ----------------------------------------------------------------------<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Message: 1<br>
&gt;&gt;&gt;&gt; Date: Sat, 16 Jul 2016 15:11:22 -0500<br>
&gt;&gt;&gt;&gt; From: John Bauer &lt;<a href="mailto:bauerj@iodoctors.com">bauerj@iodoctors.com</a>&gt;<br>
&gt;&gt;&gt;&gt; To: &quot;<a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a>&quot;<br>
&gt;&gt;&gt;&gt;         &lt;<a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a>&gt;<br>
&gt;&gt;&gt;&gt; Subject: [lustre-discuss] llapi_file_get_stripe() and<br>
&gt;&gt;&gt;&gt;         /proc/fs/lustre/osc/    entries<br>
&gt;&gt;&gt;&gt; Message-ID: &lt;<a href="mailto:03ceaaa0-b004-ae43-eaa1-437da2a5b717@iodoctors.com">03ceaaa0-b004-ae43-eaa1-437da2a5b717@iodoctors.com</a>&gt;<br>
&gt;&gt;&gt;&gt; Content-Type: text/plain; charset=&quot;utf-8&quot;; Format=&quot;flowed&quot;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; I am using *llapi_file_get_stripe()* to get the ost indexes that a file<br>
&gt;&gt;&gt;&gt; is striped on.  That part is working fine. But there are multiple Lustre<br>
&gt;&gt;&gt;&gt; file systems on the node resulting in multiple **OST0000* *in the<br>
&gt;&gt;&gt;&gt; directory /proc/fs/lustre/osc.  Is there something in the *struct<br>
&gt;&gt;&gt;&gt; lov_user_ost_data* or *struct lov_user_md* that would indicate which of<br>
&gt;&gt;&gt;&gt; the following directories pertains to the file&#39;s OST ?<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; dr-xr-xr-x 2 root root 0 Jul 16 12:31 nbp1-OST0000-osc-ffff880287ae4c00<br>
&gt;&gt;&gt;&gt; dr-xr-xr-x 2 root root 0 Jul 16 12:31 nbp2-OST0000-osc-ffff881034d99000<br>
&gt;&gt;&gt;&gt; dr-xr-xr-x 2 root root 0 Jul 16 12:31 nbp6-OST0000-osc-ffff881003cd7800<br>
&gt;&gt;&gt;&gt; dr-xr-xr-x 2 root root 0 Jul 16 12:31 nbp7-OST0000-osc-ffff880ffe051c00<br>
&gt;&gt;&gt;&gt; dr-xr-xr-x 2 root root 0 Jul 16 12:31 nbp8-OST0000-osc-ffff880ffe054c00<br>
&gt;&gt;&gt;&gt; dr-xr-xr-x 2 root root 0 Jul 16 12:31 nbp9-OST0000-osc-ffff880fcf179400<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Thanks<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; --<br>
&gt;&gt;&gt;&gt; I/O Doctors, LLC<br>
&gt;&gt;&gt;&gt; 507-766-0378<br>
&gt;&gt;&gt;&gt; <a href="mailto:bauerj@iodoctors.com">bauerj@iodoctors.com</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; -------------- next part --------------<br>
&gt;&gt;&gt;&gt; An HTML attachment was scrubbed...<br>
&gt;&gt;&gt;&gt; URL: &lt;<br>
&gt;&gt;&gt;&gt; <a href="http://lists.lustre.org/pipermail/lustre-discuss-lustre.org/attachments/20160716/95176929/attachment.html" rel="noreferrer" target="_blank">http://lists.lustre.org/pipermail/lustre-discuss-lustre.org/attachments/20160716/95176929/attachment.html</a><br>
&gt;&gt;&gt;&gt; ------------------------------<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Message: 2<br>
&gt;&gt;&gt;&gt; Date: Sat, 16 Jul 2016 14:34:35 -0700<br>
&gt;&gt;&gt;&gt; From: sohamm &lt;<a href="mailto:sohamm@gmail.com">sohamm@gmail.com</a>&gt;<br>
&gt;&gt;&gt;&gt; To: <a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a><br>
&gt;&gt;&gt;&gt; Subject: [lustre-discuss] luster client mount issues<br>
&gt;&gt;&gt;&gt; Message-ID:<br>
&gt;&gt;&gt;&gt;         &lt;<br>
&gt;&gt;&gt;&gt; <a href="mailto:CAKGc%2BeBQ%2BMCdbSrc7Ft4gd%2BzmZ6FbAZHaVhSQtpgOshYrJqhhw@mail.gmail.com">CAKGc+eBQ+MCdbSrc7Ft4gd+zmZ6FbAZHaVhSQtpgOshYrJqhhw@mail.gmail.com</a>&gt;<br>
&gt;&gt;&gt;&gt; Content-Type: text/plain; charset=&quot;utf-8&quot;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Hi<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; I am trying to mount lustre client. Below are steps and necessary<br>
&gt;&gt;&gt;&gt; information surrounding the issue. Please let me know if i am missing<br>
&gt;&gt;&gt;&gt; something<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Thanks<br>
&gt;&gt;&gt;&gt; Div<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; *Mgs:*<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# cat /etc/modprobe.d/lustre.conf<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; options lnet networks=o2ib(ib0),tcp0(eth0)<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# modprobe lnet<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# lsmod | grep lnet<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; lnet                  449065  0<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; libcfs                405839  1 lnet<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# lctl network up<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; LNET configured<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# lctl list_nids<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 192.168.200.52@o2ib<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 192.168.111.52@tcp<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; *On Client:*<br>
&gt;&gt;&gt;&gt; I am able to ping MGS on both tcp and ib network<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; [root@dev1~]# ping 192.168.111.52<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; PING 192.168.111.52 (192.168.111.52) 56(84) bytes of data.<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.111.52" rel="noreferrer" target="_blank">192.168.111.52</a>: icmp_req=1 ttl=64 time=5.81 ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.111.52" rel="noreferrer" target="_blank">192.168.111.52</a>: icmp_req=2 ttl=64 time=0.802 ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.111.52" rel="noreferrer" target="_blank">192.168.111.52</a>: icmp_req=3 ttl=64 time=0.780 ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; ^C<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; --- 192.168.111.52 ping statistics ---<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 3 packets transmitted, 3 received, 0% packet loss, time 2000ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; rtt min/avg/max/mdev = 0.780/2.464/5.811/2.366 ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; [root@dev1 ~]# ping 192.168.200.52<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; PING 192.168.200.52 (192.168.200.52) 56(84) bytes of data.<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.200.52" rel="noreferrer" target="_blank">192.168.200.52</a>: icmp_req=1 ttl=64 time=24.4 ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.200.52" rel="noreferrer" target="_blank">192.168.200.52</a>: icmp_req=2 ttl=64 time=2.14 ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.200.52" rel="noreferrer" target="_blank">192.168.200.52</a>: icmp_req=3 ttl=64 time=0.782 ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.200.52" rel="noreferrer" target="_blank">192.168.200.52</a>: icmp_req=4 ttl=64 time=9.30 ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; ^C<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; --- 192.168.200.52 ping statistics ---<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; 4 packets transmitted, 4 received, 0% packet loss, time 3005ms<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; *client mount commands*<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; mount -t lustre 192.168.111.52@tcp:/mylustre /lustre ( or)<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; mount -t lustre 192.168.111.52@tcp0:/mylustre /lustre ( or)<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; mount -t lustre 192.168.200.52@ob2:/mylustre /lustre<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; *cat /var/log/messages | tail -40*<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:03:17 dev1 user.err kernel: [2133277.466013] LustreError:<br>
&gt;&gt;&gt;&gt; 162-5:<br>
&gt;&gt;&gt;&gt; Missing mount data: check that /sbin/mount.lustre is installed.<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:03:17 dev1 user.err kernel: [2133277.466064] LustreError:<br>
&gt;&gt;&gt;&gt; 13627:0:(obd_mount.c:1325:lustre_fill_super()) Unable to mount  (-22)<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:03:23 dev1 user.warn kernel: [2133282.680519] Lustre:<br>
&gt;&gt;&gt;&gt; 12364:0:(client.c:1918:ptlrpc_expire_one_request()) @@@ Request sent has<br>
&gt;&gt;&gt;&gt; timed out for slow reply: [sent 1468702998/real 1468702998]<br>
&gt;&gt;&gt;&gt; req@ffff8801e0bc3c00 x1539427524411444/t0(0) o250-&gt;MGC192.168.111.52<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:03:24 dev1 user.err kernel: [2133283.680193] LustreError:<br>
&gt;&gt;&gt;&gt; 13628:0:(client.c:1083:ptlrpc_import_delay_req()) @@@ send limit expired<br>
&gt;&gt;&gt;&gt; req@ffff8801e0bc7000 x1539427524411448/t0(0) o101-&gt;MGC192.168.111.52@tcp<br>
&gt;&gt;&gt;&gt; @192.168.111.52@tcp:26/25 lens 328/344 e 0 to 0 dl<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:03:31 dev1 user.err kernel: [2133290.760978] LustreError:<br>
&gt;&gt;&gt;&gt; 13657:0:(client.c:1083:ptlrpc_import_delay_req()) @@@ send limit expired<br>
&gt;&gt;&gt;&gt; req@ffff8801b7159800 x1539427524411456/t0(0) o101-&gt;MGC192.168.111.52@tcp<br>
&gt;&gt;&gt;&gt; @192.168.111.52@tcp:26/25 lens 328/344 e 0 to 0 dl<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:03:43 dev1 user.warn kernel: [2133302.681412] Lustre:<br>
&gt;&gt;&gt;&gt; 12364:0:(client.c:1918:ptlrpc_expire_one_request()) @@@ Request sent has<br>
&gt;&gt;&gt;&gt; failed due to network error: [sent 1468703023/real 1468703023]<br>
&gt;&gt;&gt;&gt; req@ffff8801d6bfc800 x1539427524411460/t0(0) o250-&gt;MGC192.168.111<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:04:08 dev1 user.warn kernel: [2133327.681402] Lustre:<br>
&gt;&gt;&gt;&gt; 12364:0:(client.c:1918:ptlrpc_expire_one_request()) @@@ Request sent has<br>
&gt;&gt;&gt;&gt; failed due to network error: [sent 1468703048/real 1468703048]<br>
&gt;&gt;&gt;&gt; req@ffff8801d6bfec00 x1539427524411464/t0(0) o250-&gt;MGC192.168.111<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.err kernel: [2133334.680175] LustreError:<br>
&gt;&gt;&gt;&gt; 13628:0:(client.c:1083:ptlrpc_import_delay_req()) @@@ send limit expired<br>
&gt;&gt;&gt;&gt; req@ffff8801e0bc7000 x1539427524411452/t0(0) o101-&gt;MGC192.168.111.52@tcp<br>
&gt;&gt;&gt;&gt; @192.168.111.52@tcp:26/25 lens 328/344 e 0 to 0 dl<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.err kernel: [2133334.680316] LustreError:<br>
&gt;&gt;&gt;&gt; 15c-8:<br>
&gt;&gt;&gt;&gt; MGC192.168.111.52@tcp: The configuration from log &#39;mylustre-client&#39;<br>
&gt;&gt;&gt;&gt; failed<br>
&gt;&gt;&gt;&gt; (-5). This may be the result of communication errors between this node<br>
&gt;&gt;&gt;&gt; and<br>
&gt;&gt;&gt;&gt; the MGS, a bad configuration, or other e<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.err kernel: [2133334.680357] LustreError:<br>
&gt;&gt;&gt;&gt; 13628:0:(llite_lib.c:1046:ll_fill_super()) Unable to process log: -5<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.warn kernel: [2133334.680881] Lustre: Unmounted<br>
&gt;&gt;&gt;&gt; mylustre-client<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.err kernel: [2133334.731730] LustreError:<br>
&gt;&gt;&gt;&gt; 13628:0:(obd_mount.c:1325:lustre_fill_super()) Unable to mount  (-5)<br>
&gt;&gt;&gt;&gt; -------------- next part --------------<br>
&gt;&gt;&gt;&gt; An HTML attachment was scrubbed...<br>
&gt;&gt;&gt;&gt; URL: &lt;<br>
&gt;&gt;&gt;&gt; <a href="http://lists.lustre.org/pipermail/lustre-discuss-lustre.org/attachments/20160716/28fb2cad/attachment-0001.htm" rel="noreferrer" target="_blank">http://lists.lustre.org/pipermail/lustre-discuss-lustre.org/attachments/20160716/28fb2cad/attachment-0001.htm</a><br>
&gt;&gt;&gt;&gt; ------------------------------<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Message: 3<br>
&gt;&gt;&gt;&gt; Date: Sun, 17 Jul 2016 10:19:18 +0200<br>
&gt;&gt;&gt;&gt; From: Thomas Roth &lt;<a href="mailto:t.roth@gsi.de">t.roth@gsi.de</a>&gt;<br>
&gt;&gt;&gt;&gt; To: &lt;<a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a>&gt;<br>
&gt;&gt;&gt;&gt; Subject: Re: [lustre-discuss] luster client mount issues<br>
&gt;&gt;&gt;&gt; Message-ID: &lt;<a href="mailto:578B3F86.1060203@gsi.de">578B3F86.1060203@gsi.de</a>&gt;<br>
&gt;&gt;&gt;&gt; Content-Type: text/plain; charset=&quot;windows-1252&quot;; format=flowed<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Hi,<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; try &#39;lctl ping&#39; from your clients to the MDS to check if you get through<br>
&gt;&gt;&gt;&gt; on lnet, e.g.<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; lctl ping ping 192.168.200.52@o2ib<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; or<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; lctl ping 192.168.111.52@tcp<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; and vice versa from the MDS to the clients&#39; nids.<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Regards,<br>
&gt;&gt;&gt;&gt; Thomas<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; On 07/16/2016 11:34 PM, sohamm wrote:<br>
&gt;&gt;&gt;&gt;&gt; Hi<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; I am trying to mount lustre client. Below are steps and necessary<br>
&gt;&gt;&gt;&gt;&gt; information surrounding the issue. Please let me know if i am missing<br>
&gt;&gt;&gt;&gt;&gt; something<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Thanks<br>
&gt;&gt;&gt;&gt;&gt; Div<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; *Mgs:*<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# cat /etc/modprobe.d/lustre.conf<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; options lnet networks=o2ib(ib0),tcp0(eth0)<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# modprobe lnet<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# lsmod | grep lnet<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; lnet                  449065  0<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; libcfs                405839  1 lnet<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# lctl network up<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; LNET configured<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; [root@lustre_mgs01_vm03 ~]# lctl list_nids<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 192.168.200.52@o2ib<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 192.168.111.52@tcp<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; *On Client:*<br>
&gt;&gt;&gt;&gt;&gt; I am able to ping MGS on both tcp and ib network<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; [root@dev1~]# ping 192.168.111.52<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; PING 192.168.111.52 (192.168.111.52) 56(84) bytes of data.<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.111.52" rel="noreferrer" target="_blank">192.168.111.52</a>: icmp_req=1 ttl=64 time=5.81 ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.111.52" rel="noreferrer" target="_blank">192.168.111.52</a>: icmp_req=2 ttl=64 time=0.802 ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.111.52" rel="noreferrer" target="_blank">192.168.111.52</a>: icmp_req=3 ttl=64 time=0.780 ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; ^C<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; --- 192.168.111.52 ping statistics ---<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 3 packets transmitted, 3 received, 0% packet loss, time 2000ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; rtt min/avg/max/mdev = 0.780/2.464/5.811/2.366 ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; [root@dev1 ~]# ping 192.168.200.52<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; PING 192.168.200.52 (192.168.200.52) 56(84) bytes of data.<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.200.52" rel="noreferrer" target="_blank">192.168.200.52</a>: icmp_req=1 ttl=64 time=24.4 ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.200.52" rel="noreferrer" target="_blank">192.168.200.52</a>: icmp_req=2 ttl=64 time=2.14 ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.200.52" rel="noreferrer" target="_blank">192.168.200.52</a>: icmp_req=3 ttl=64 time=0.782 ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 64 bytes from <a href="http://192.168.200.52" rel="noreferrer" target="_blank">192.168.200.52</a>: icmp_req=4 ttl=64 time=9.30 ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; ^C<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; --- 192.168.200.52 ping statistics ---<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; 4 packets transmitted, 4 received, 0% packet loss, time 3005ms<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; *client mount commands*<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; mount -t lustre 192.168.111.52@tcp:/mylustre /lustre ( or)<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; mount -t lustre 192.168.111.52@tcp0:/mylustre /lustre ( or)<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; mount -t lustre 192.168.200.52@ob2:/mylustre /lustre<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; *cat /var/log/messages | tail -40*<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:03:17 dev1 user.err kernel: [2133277.466013] LustreError:<br>
&gt;&gt;&gt;&gt; 162-5:<br>
&gt;&gt;&gt;&gt;&gt; Missing mount data: check that /sbin/mount.lustre is installed.<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:03:17 dev1 user.err kernel: [2133277.466064] LustreError:<br>
&gt;&gt;&gt;&gt;&gt; 13627:0:(obd_mount.c:1325:lustre_fill_super()) Unable to mount  (-22)<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:03:23 dev1 user.warn kernel: [2133282.680519] Lustre:<br>
&gt;&gt;&gt;&gt;&gt; 12364:0:(client.c:1918:ptlrpc_expire_one_request()) @@@ Request sent<br>
&gt;&gt;&gt;&gt; has<br>
&gt;&gt;&gt;&gt;&gt; timed out for slow reply: [sent 1468702998/real 1468702998]<br>
&gt;&gt;&gt;&gt;&gt; req@ffff8801e0bc3c00 x1539427524411444/t0(0) o250-&gt;MGC192.168.111.52<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:03:24 dev1 user.err kernel: [2133283.680193] LustreError:<br>
&gt;&gt;&gt;&gt;&gt; 13628:0:(client.c:1083:ptlrpc_import_delay_req()) @@@ send limit<br>
&gt;&gt;&gt;&gt; expired<br>
&gt;&gt;&gt;&gt;&gt; req@ffff8801e0bc7000 x1539427524411448/t0(0)<br>
&gt;&gt;&gt;&gt; o101-&gt;MGC192.168.111.52@tcp<br>
&gt;&gt;&gt;&gt;&gt; @192.168.111.52@tcp:26/25 lens 328/344 e 0 to 0 dl<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:03:31 dev1 user.err kernel: [2133290.760978] LustreError:<br>
&gt;&gt;&gt;&gt;&gt; 13657:0:(client.c:1083:ptlrpc_import_delay_req()) @@@ send limit<br>
&gt;&gt;&gt;&gt; expired<br>
&gt;&gt;&gt;&gt;&gt; req@ffff8801b7159800 x1539427524411456/t0(0)<br>
&gt;&gt;&gt;&gt; o101-&gt;MGC192.168.111.52@tcp<br>
&gt;&gt;&gt;&gt;&gt; @192.168.111.52@tcp:26/25 lens 328/344 e 0 to 0 dl<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:03:43 dev1 user.warn kernel: [2133302.681412] Lustre:<br>
&gt;&gt;&gt;&gt;&gt; 12364:0:(client.c:1918:ptlrpc_expire_one_request()) @@@ Request sent<br>
&gt;&gt;&gt;&gt; has<br>
&gt;&gt;&gt;&gt;&gt; failed due to network error: [sent 1468703023/real 1468703023]<br>
&gt;&gt;&gt;&gt;&gt; req@ffff8801d6bfc800 x1539427524411460/t0(0) o250-&gt;MGC192.168.111<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:04:08 dev1 user.warn kernel: [2133327.681402] Lustre:<br>
&gt;&gt;&gt;&gt;&gt; 12364:0:(client.c:1918:ptlrpc_expire_one_request()) @@@ Request sent<br>
&gt;&gt;&gt;&gt; has<br>
&gt;&gt;&gt;&gt;&gt; failed due to network error: [sent 1468703048/real 1468703048]<br>
&gt;&gt;&gt;&gt;&gt; req@ffff8801d6bfec00 x1539427524411464/t0(0) o250-&gt;MGC192.168.111<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.err kernel: [2133334.680175] LustreError:<br>
&gt;&gt;&gt;&gt;&gt; 13628:0:(client.c:1083:ptlrpc_import_delay_req()) @@@ send limit<br>
&gt;&gt;&gt;&gt; expired<br>
&gt;&gt;&gt;&gt;&gt; req@ffff8801e0bc7000 x1539427524411452/t0(0)<br>
&gt;&gt;&gt;&gt; o101-&gt;MGC192.168.111.52@tcp<br>
&gt;&gt;&gt;&gt;&gt; @192.168.111.52@tcp:26/25 lens 328/344 e 0 to 0 dl<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.err kernel: [2133334.680316] LustreError:<br>
&gt;&gt;&gt;&gt; 15c-8:<br>
&gt;&gt;&gt;&gt;&gt; MGC192.168.111.52@tcp: The configuration from log &#39;mylustre-client&#39;<br>
&gt;&gt;&gt;&gt; failed<br>
&gt;&gt;&gt;&gt;&gt; (-5). This may be the result of communication errors between this node<br>
&gt;&gt;&gt;&gt; and<br>
&gt;&gt;&gt;&gt;&gt; the MGS, a bad configuration, or other e<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.err kernel: [2133334.680357] LustreError:<br>
&gt;&gt;&gt;&gt;&gt; 13628:0:(llite_lib.c:1046:ll_fill_super()) Unable to process log: -5<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.warn kernel: [2133334.680881] Lustre:<br>
&gt;&gt;&gt;&gt; Unmounted<br>
&gt;&gt;&gt;&gt;&gt; mylustre-client<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; Jul 16 17:04:15 dev1 user.err kernel: [2133334.731730] LustreError:<br>
&gt;&gt;&gt;&gt;&gt; 13628:0:(obd_mount.c:1325:lustre_fill_super()) Unable to mount  (-5)<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;&gt; _______________________________________________<br>
&gt;&gt;&gt;&gt;&gt; lustre-discuss mailing list<br>
&gt;&gt;&gt;&gt;&gt; <a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a><br>
&gt;&gt;&gt;&gt;&gt; <a href="http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org" rel="noreferrer" target="_blank">http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org</a><br>
&gt;&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; --<br>
&gt;&gt;&gt;&gt; --------------------------------------------------------------------<br>
&gt;&gt;&gt;&gt; Thomas Roth<br>
&gt;&gt;&gt;&gt; Department: HPC<br>
&gt;&gt;&gt;&gt; Location: SB3 1.262<br>
&gt;&gt;&gt;&gt; Phone: <a href="tel:%2B49-6159-71%201453" value="+496159711453">+49-6159-71 1453</a>  Fax: <a href="tel:%2B49-6159-71%202986" value="+496159712986">+49-6159-71 2986</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; GSI Helmholtzzentrum f?r Schwerionenforschung GmbH<br>
&gt;&gt;&gt;&gt; Planckstra?e 1<br>
&gt;&gt;&gt;&gt; 64291 Darmstadt<br>
&gt;&gt;&gt;&gt; <a href="http://www.gsi.de" rel="noreferrer" target="_blank">www.gsi.de</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Gesellschaft mit beschr?nkter Haftung<br>
&gt;&gt;&gt;&gt; Sitz der Gesellschaft: Darmstadt<br>
&gt;&gt;&gt;&gt; Handelsregister: Amtsgericht Darmstadt, HRB 1528<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Gesch?ftsf?hrung: Professor Dr. Karlheinz Langanke<br>
&gt;&gt;&gt;&gt; Ursula Weyrich<br>
&gt;&gt;&gt;&gt; J?rg Blaurock<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Vorsitzender des Aufsichtsrates: St Dr. Georg Sch?tte<br>
&gt;&gt;&gt;&gt; Stellvertreter: Ministerialdirigent Dr. Rolf Bernhardt<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; ------------------------------<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; Subject: Digest Footer<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; _______________________________________________<br>
&gt;&gt;&gt;&gt; lustre-discuss mailing list<br>
&gt;&gt;&gt;&gt; <a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a><br>
&gt;&gt;&gt;&gt; <a href="http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org" rel="noreferrer" target="_blank">http://lists.lustre.org/listinfo.cgi/lustre-discuss-lustre.org</a><br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; ------------------------------<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;&gt; End of lustre-discuss Digest, Vol 124, Issue 17<br>
&gt;&gt;&gt;&gt; ***********************************************<br>
&gt;&gt;&gt;&gt;<br>
&gt;&gt;&gt;<br>
&gt;<br>
<br>
<br>
<br>
</div></div></blockquote></div><br></div>