长孙无忌是隋朝右骁卫将军长孙晟之子,出身于鲜卑贵族河南长孙氏,世为北朝(北魏、北周、隋)重臣
但他幼年丧父,与母亲高氏、妹妹长孙氏被异母兄长孙安业赶出家门,由舅舅高士廉抚养长大。他生性聪慧,勤奋好学,博通文史,颇有计谋,与唐国公李渊的次子李世民关系甚好。高士廉见李世民才华出众,便将甥女长孙氏嫁其为妻
李渊在隋朝末年时,自晋阳(治今山西太原)起兵反隋,攻入关中,建立了唐朝,定都于长安(治今陕西西安),史称唐高祖。长孙无忌在唐军渡河之后,便到长春宫(在今陕西大荔)谒见李渊,被拜为渭北道行军典签,辅佐时封秦王的李世民。此后,长孙无忌追随李世民东征西讨,累迁比部郎中,封上党县公,成为李世民天策府的重要成员