<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
{font-family:"Cambria Math";
panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
{font-family:Calibri;
panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
{font-family:Consolas;
panose-1:2 11 6 9 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
{margin:0in;
font-size:11.0pt;
font-family:"Calibri",sans-serif;}
a:link, span.MsoHyperlink
{mso-style-priority:99;
color:#0563C1;
text-decoration:underline;}
p.MsoPlainText, li.MsoPlainText, div.MsoPlainText
{mso-style-priority:99;
mso-style-link:"Plain Text Char";
margin:0in;
font-size:11.0pt;
font-family:"Calibri",sans-serif;}
span.PlainTextChar
{mso-style-name:"Plain Text Char";
mso-style-priority:99;
mso-style-link:"Plain Text";
font-family:"Calibri",sans-serif;}
span.EmailStyle25
{mso-style-type:personal-reply;
font-family:"Calibri",sans-serif;
color:windowtext;}
.MsoChpDefault
{mso-style-type:export-only;
font-size:10.0pt;}
@page WordSection1
{size:8.5in 11.0in;
margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
{page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="#0563C1" vlink="#954F72" style="word-wrap:break-word">
<div class="WordSection1">
<p class="MsoNormal">Addendum:<o:p></o:p></p>
<p class="MsoNormal">Route shows down no idea how to plumb this. <o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"># lnetctl route show -v<o:p></o:p></p>
<p class="MsoNormal">route:<o:p></o:p></p>
<p class="MsoNormal"> - net: o2ib1<o:p></o:p></p>
<p class="MsoNormal"> gateway: 10.212.15.16@o2ib<o:p></o:p></p>
<p class="MsoNormal"> hop: -1<o:p></o:p></p>
<p class="MsoNormal"> priority: 0<o:p></o:p></p>
<p class="MsoNormal"> state: up<o:p></o:p></p>
<p class="MsoNormal"> - net: o2ib1<o:p></o:p></p>
<p class="MsoNormal"> gateway: 10.212.16.20@o2ib<o:p></o:p></p>
<p class="MsoNormal"> hop: -1<o:p></o:p></p>
<p class="MsoNormal"> priority: 0<o:p></o:p></p>
<p class="MsoNormal"> state: up<o:p></o:p></p>
<p class="MsoNormal"> - net: o2ib2<o:p></o:p></p>
<p class="MsoNormal"> gateway: 10.212.1.11@o2ib<o:p></o:p></p>
<p class="MsoNormal"> hop: -1<o:p></o:p></p>
<p class="MsoNormal"> priority: 0<o:p></o:p></p>
<p class="MsoNormal"> state: down<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<div>
<div style="border:none;border-top:solid #E1E1E1 1.0pt;padding:3.0pt 0in 0in 0in">
<p class="MsoNormal"><b>From:</b> lustre-discuss <lustre-discuss-bounces@lists.lustre.org>
<b>On Behalf Of </b>Kumar, Amit via lustre-discuss<br>
<b>Sent:</b> Wednesday, April 5, 2023 12:27 PM<br>
<b>To:</b> lustre-discuss@lists.lustre.org<br>
<b>Subject:</b> [lustre-discuss] Lnet config serving multiple routers and clients<o:p></o:p></p>
</div>
</div>
<p class="MsoNormal"><o:p> </o:p></p>
<div style="mso-element:para-border-div;border:solid black 1.0pt;padding:2.0pt 2.0pt 2.0pt 2.0pt;background:#F4EAA5;margin-left:3.75pt;margin-right:3.75pt">
<p style="mso-margin-top-alt:3.75pt;margin-right:0in;margin-bottom:3.75pt;margin-left:0in;background:#F4EAA5;border:none;padding:0in">
<em><b><span style="font-size:8.5pt;font-family:"Arial",sans-serif;color:black">[EXTERNAL SENDER]</span></b></em><span style="font-size:18.0pt;font-family:"Arial",sans-serif;color:black"><o:p></o:p></span></p>
</div>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Dear Lustre team,<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Below lustre server(showing one of many) is already serving current file system via lnet routers over o2ib1 to another cluster;
<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Now we are adding a new router to serve another new cluster and its clients over o2ib2;
<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Apparently, I can communicate via ping to lnet router’s both o2ib and o2ib2 NIDs; Likewise, from client I can ping both o2ib and o2ib2 NIDs on lnet router. But end to end communication
between client and server cannot find route to each other. <o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Initially I thought it me be related to LU-11641, given I can access both NIDs on the immediate peer I am guessing it is something in my config. I wanted to see if a second set of eyes
could point out what could I be doing wrong. Any idea?<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Server is @ lustre-2.12.5-1.el7.x86_64 on CentOS7.8;
<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Lnet router is @ lustre-client-2.12.5-1.el7.x86_64 on CentOS7.8<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Client is @lustre-client-2.14.0 on ****Ubuntu 22.04***;
<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Server(<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a>)
<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Lnet router(<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a> &
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a>)<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Client (<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a>)<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">********** Server: ******************<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl net show<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">net:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: lo<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid: 0@lo<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: o2ib<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> interfaces:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> 0: ib0
<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl route show<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">route:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net: o2ib1<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> gateway:
<a href="mailto:10.212.15.16@o2ib">10.212.15.16@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net: o2ib1<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> gateway:
<a href="mailto:10.212.16.20@o2ib">10.212.16.20@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net: o2ib2<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> gateway:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">manage:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - ping:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> errno: -1<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> descr: failed to ping
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a>: Input/output error<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">************LNET router ****************<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl net show<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">net:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: lo<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid: 0@lo<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: o2ib<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> interfaces:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> 0: ib1<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: o2ib2<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: down<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> interfaces:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> 0: ib0<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl discover
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">discover:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl discover
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">discover:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl peer show<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">peer:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.75@o2ib2">10.215.25.75@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> state: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">************* Client *****************<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl net show<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">net:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: lo<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid: 0@lo<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - net type: o2ib2<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> local NI(s):<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.74@o2ib2">10.215.25.74@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> status: up<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> interfaces:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> 0: ibp129s0f1<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl discover
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">discover:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">ping:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - primary nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> Multi-Rail: True<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> peer ni:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.212.1.11@o2ib">10.212.1.11@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - nid:
<a href="mailto:10.215.25.76@o2ib2">10.215.25.76@o2ib2</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"># lnetctl ping
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">manage:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - ping:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> errno: -1<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> descr: failed to ping
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a>: Input/output error<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">root@lnet1:~# lnetctl discover
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a><o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">manage:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> - discover:<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> errno: -1<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"> descr: failed to discover
<a href="mailto:10.212.14.9@o2ib">10.212.14.9@o2ib</a>: No route to host<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Thank you,<o:p></o:p></span></p>
<p class="MsoPlainText"><span style="font-size:10.0pt;font-family:Consolas">Amit<o:p></o:p></span></p>
</div>
</body>
</html>