<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
{font-family:"Cambria Math";
panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
{font-family:Calibri;
panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
{font-family:Consolas;
panose-1:2 11 6 9 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
{margin:0in;
font-size:11.0pt;
font-family:"Calibri",sans-serif;}
a:link, span.MsoHyperlink
{mso-style-priority:99;
color:#0563C1;
text-decoration:underline;}
p.MsoPlainText, li.MsoPlainText, div.MsoPlainText
{mso-style-priority:99;
mso-style-link:"Plain Text Char";
margin:0in;
font-size:11.0pt;
font-family:"Calibri",sans-serif;}
span.PlainTextChar
{mso-style-name:"Plain Text Char";
mso-style-priority:99;
mso-style-link:"Plain Text";
font-family:"Calibri",sans-serif;}
span.EmailStyle25
{mso-style-type:personal-reply;
font-family:"Calibri",sans-serif;
color:windowtext;}
.MsoChpDefault
{mso-style-type:export-only;
font-size:10.0pt;}
@page WordSection1
{size:8.5in 11.0in;
margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
{page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="#0563C1" vlink="#954F72" style="word-wrap:break-word">
<div class="WordSection1">
<p class="MsoNormal">Yes I do but in the same state as server it is down. Also I have set routing to 1 on lnet;
<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"># lnetctl route show -v<o:p></o:p></p>
<p class="MsoNormal">route:<o:p></o:p></p>
<p class="MsoNormal"> - net: o2ib<o:p></o:p></p>
<p class="MsoNormal"> gateway: 10.215.25.76@o2ib2<o:p></o:p></p>
<p class="MsoNormal"> hop: -1<o:p></o:p></p>
<p class="MsoNormal"> priority: 0<o:p></o:p></p>
<p class="MsoNormal"> health_sensitivity: 1<o:p></o:p></p>
<p class="MsoNormal"> state: down<o:p></o:p></p>
<p class="MsoNormal"> type: single-hop<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b>From:</b> Horn, Chris <chris.horn@hpe.com> <br>
<b>Sent:</b> Wednesday, April 5, 2023 12:33 PM<br>
<b>To:</b> Kumar, Amit <ahkumar@mail.smu.edu>; lustre-discuss@lists.lustre.org<br>
<b>Subject:</b> Re: Lnet config serving multiple routers and clients<o:p></o:p></p>
</div>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<div style="mso-element:para-border-div;border:solid black 1.0pt;padding:2.0pt 2.0pt 2.0pt 2.0pt;background:#F4EAA5;margin-left:3.75pt;margin-right:3.75pt">
<p style="mso-margin-top-alt:3.75pt;margin-right:0in;margin-bottom:3.75pt;margin-left:0in;background:#F4EAA5;border:none;padding:0in">
<em><b><span style="font-size:8.5pt;font-family:"Arial",sans-serif;color:black">[EXTERNAL SENDER]</span></b></em><span style="font-size:18.0pt;font-family:"Arial",sans-serif;color:black"><o:p></o:p></span></p>
</div>
<p class="MsoNormal">Do you have the route to o2ib via <a href="mailto:10.215.25.76@o2ib2">
10.215.25.76@o2ib2</a> defined on the client?<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Chris Horn<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<div style="border:none;border-top:solid #B5C4DF 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal" style="margin-bottom:12.0pt"><b><span style="font-size:12.0pt;color:black">From:
</span></b><span style="font-size:12.0pt;color:black">lustre-discuss <<a href="mailto:lustre-discuss-bounces@lists.lustre.org">lustre-discuss-bounces@lists.lustre.org</a>> on behalf of Kumar, Amit via lustre-discuss <<a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a>><br>
<b>Date: </b>Wednesday, April 5, 2023 at 12:28 PM<br>
<b>To: </b><a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a> <<a href="mailto:lustre-discuss@lists.lustre.org">lustre-discuss@lists.lustre.org</a>><br>
<b>Subject: </b>[lustre-discuss] Lnet config serving multiple routers and clients<o:p></o:p></span></p>
</div>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Dear Lustre team,</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Below lustre server(showing one of many) is already serving current file system via lnet routers over o2ib1 to another cluster;
</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Now we are adding a new router to serve another new cluster and its clients over o2ib2;
</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Apparently, I can communicate via ping to lnet router’s both o2ib and o2ib2 NIDs; Likewise, from client I can ping both o2ib and o2ib2 NIDs on lnet router. But end to end communication
between client and server cannot find route to each other. </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Initially I thought it me be related to LU-11641, given I can access both NIDs on the immediate peer I am guessing it is something in my config. I wanted to see if a second set of eyes
could point out what could I be doing wrong. Any idea?</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Server is @ lustre-2.12.5-1.el7.x86_64 on CentOS7.8;
</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Lnet router is @ lustre-client-2.12.5-1.el7.x86_64 on CentOS7.8</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Client is @lustre-client-2.14.0 on ****Ubuntu 22.04***;
</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Server(<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a>)
</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Lnet router(<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a> &
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a>)</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Client (<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a>)</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">********** Server: ******************</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl net show</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">net:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: lo</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid: 0@lo</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: o2ib</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> interfaces:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> 0: ib0
</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl route show</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">route:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net: o2ib1</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> gateway:
<a href="mailto:10.212.15.16@o2ib">10.212.15.16@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net: o2ib1</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> gateway:
<a href="mailto:10.212.16.20@o2ib">10.212.16.20@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net: o2ib2</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> gateway:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">manage:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - ping:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> errno: -1</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> descr: failed to ping
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a>: Input/output error</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">************LNET router ****************</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl net show</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">net:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: lo</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid: 0@lo</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: o2ib</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> interfaces:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> 0: ib1</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: o2ib2</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: down</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> interfaces:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> 0: ib0</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl discover
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">discover:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl discover
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">discover:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl peer show</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">peer:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">************* Client *****************</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl net show</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">net:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: lo</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid: 0@lo</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: o2ib2</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> interfaces:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> 0: ibp129s0f1</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl discover
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">discover:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">manage:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - ping:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> errno: -1</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> descr: failed to ping
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a>: Input/output error</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">root@lnet1:~# lnetctl discover
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a></span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">manage:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - discover:</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> errno: -1</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> descr: failed to discover
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a>: No route to host</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> </span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Thank you,</span><o:p></o:p></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Amit</span><o:p></o:p></p>
</div>
</body>
</html>