赫连在瑜，字伯阳，长垣公主长子也，昔主待阁，有生曰，有英武气，必尚贵将，后得匈奴部子赫连朔周，数有功，上悦之，尚主，次年生在瑜，有弟在琾，在璨，具早殁。方在瑜初落草，主以朔周行伍故，恐短寿，故为其聘鸿胪卿上官氏女为妻，待长过门。
在瑜性倔而寡言，少机敏，好武，善骑射，有强识，好法儒，喜茗弈，以其父武功爵故，亦精兵道，虽生锦绣之宅，而无纨绔之气。某年其父远征，主送归时，兴至山观求卦，有狂徒二三人，欲行歹事，方在瑜侍主侧，徒手击毙歹首而色不改，徒众骇而逃窜，时年十三，一时长安之人，莫不赞将门虎子也。十六之年，娶鸿胪卿上官氏独女，次日隐名从军，自兵卒起，二年累军功至骠骑将军，衣锦而归，同年，定上谷燕氏女为侧室，又二年进门，甚爱之，次年，纳玉氏女为妾，为之所系。
太宗年间，赫连朔周病疴，时在瑜驻于上郡，奉旨归长安，至朔周殁，上喻在瑜袭爵并丁忧三载，在瑜上书固辞，时年二十又六。三载孝满，入为怀化大将军，经十载，为太宗所重，累至太尉。及太宗崩，新帝即位，封乐成侯，食邑十万，时年三十又九。