家部队，因而蒋介石对它特别重视与爱护。胡宗南的第二旅在校阅中表现卓越，被蒋介石誉为“模范旅”，第三团李铁军部被列为全国陆军第一。为了奖励第二旅，蒋介石特地让胡宗南率该旅团长以上军官到南京，由蒋介石夫妇传见嘉勉，与他们一一握手。这在当时的国民政府军队中，被视为莫大的荣耀。胡宗南作为黄埔一期生中的佼佼者，再次给蒋介石留下了深刻的印象。

在这段时间，胡宗南多次或因公或因私来到南京。胡宗南当年旧游之地的南京，如今是国民政府的首都，冠盖云集，商业繁荣，达官贵人如过江之鲫。胡宗南在公事之余，却常去找当年的同学旧友，如张其昀与缪凤林等人，与他们一道寻师访友，游山赏景，谈古论今。张其昀这时是新建的中央大学一位已颇有名气的年轻史学教授。他后来回忆这期间胡宗南在南京的交游时，写道：

自（1920年）南京离别以后，直至北伐胜利，才重新聚首。……他来找我，常约缪赞虞（凤林）君，同往龙蟠里国学图书馆，拜访柳（诒徵）老师。我们是鱼相忘于江湖，他仍以出身师范的寒士自居，所谈的多半是史学、教育和南京的史迹，真可以说是儒将风流。……他爱中（央）大（学）的校景，又爱钟山的名胜。王荆公晚年隐居钟山，有诗云：“终日看山不厌山，买山终待老山间。山花落尽山长在，山水空流山自闲。”最可以形容胡先生在千军万马中涵养出闲云野鹤的风格。他每到南京，常邀作者和赞虞，往灵谷寺一带作半日的徘徊，在中央体育场和音乐厅一带，欣赏钟山的美景。……他不多讲话，但常作会心的微笑，真可谓“吉人之辞寡”了。张其昀：《追念胡宗南先生》，刊《宗南先生纪念集》，台北出版。