退役后的马连保，先后成为国家男、女篮的助理教练，并担任过八一青年队和国青男篮的主教练，培养出王治郅、刘玉栋、阿的江、范斌等篮球人才。执教国青队期间，姚明也曾受过他的指导。在《我的世界我的梦》一书中，姚明写道：“‘你的篮球智力高于你的篮球能力’！马连保教练曾教给我的这一课，我会永远记住。”

2008年自八一体工大队退休后，马连保转战CBA赛场发挥余热，先后出任山西队主教练和福建队的助理教练。2010-11赛季CBA，福建队战绩不理想打出1胜8负开局后，外籍主帅欧文斯下课后，马连保临危受命，接过了福建队的帅印。长期以来，他为国内篮坛的人才培养做出了重要贡献。