东北军还在奉天时,高吉龙那时是营长,东北军和其他军法队伍并没有什么两样,内讧,大鱼吃小鱼的现象屡有发生。当时,他们所在的那个团,是一支从深山沟里收编过来的胡子,原来的胡子老大,收编前被东北军击毙了,老二是个聪明人,人称诸老二。他知道这样和东北军硬顶是没有好果子吃的,好汉不吃眼前亏,于是他便带着一干胡子下山了,后来被收编进了东北军,诸老二被任命为团长。东北军原意是想把这伙胡子化整为零,分散着安排到其他队伍里,诸老二早就看到了这一点,他鼓动小胡子死活不依,为了稳定军心,东北军便暂时没那么做,只派了高吉龙带一营人马合并到这个团,等待时瓤取而代之。诸老二是何许人也,他出生入死,摸爬滚打,什么场面没经过?他早知道东北军没安好心,更记恨着东北军杀死他们大哥的仇。在一次队伍换防时,诸老二把队伍拉到了奉天城外,一声令下反水了。诸老二早作好了准备,事前就缴了高吉龙这个营的械,先把高吉龙等人拿下,并当场打死了几名想反抗的官兵。就这样,转眼间他们又成了胡子,连夜拉进了山里。
诸老二原想劝高吉龙归顺于他,这样一来高吉龙的一营人马也会死心塌地归顺他诸老二了。其实诸老二是很看重高吉龙的,高吉龙是正儿八经"讲武堂"毕业生,另外重要一点,高吉龙在张大帅身边干过,久经沙场,要是有他这样的人辅佐,一定会成气候的。