马克西米利安二世时的帝国徽章
者手里。在长期数位教皇和皇帝之间的竞争，教皇赢得选择主教的权利。在这场争执中，帝国就在日耳曼爆发了内战。削弱了皇帝们在日耳曼和意大利的统治权。当皇帝被暂时逐出教会并且投注于对抗罗马的战争时，帝国的政权就已失去效力。在未受到皇帝的干预或帮助之下，地方上的日耳曼亲王团结自己的力量并与维京人作战。在意大利，兴起中的城邦国家联合起来组成伦巴底联盟，并拒绝承认神圣罗马帝国皇帝的地位。
因此随着德意志各诸侯离心倾向的加剧，皇帝的地位不断下降。1356年卢森堡王朝的查理四世颁布《金玺诏书》（《黄金诏书》）以后，皇帝实际由王国境内七大选帝侯选举产生，他们是最古老同时也是最具权势的三大教会诸侯：美因茨大主教、科隆大主教、特里尔大主教；四大世俗领主：波希米亚国王、莱茵—普法尔茨伯爵、萨克森—维滕堡公爵，勃兰登堡藩侯，本身代表帝国的成员国不再认为皇帝与帝国有实际价值。
在日耳曼和意大利的政权，自此从皇帝身上转移到地方上的亲王和城市。皇帝的军队叛乱，占领由他们驻守的城市和城堡，并宣布这些地方被解放。而当时的皇帝为重新夺回意大利，对日耳曼地方上的亲王作了很多的让步。到了十三世纪中期，神圣罗马帝国便已名存实亡，皇位更虚置达二十年。日耳曼的亲王只关心自己所保有的东西。意大利的城邦国家并不接受日耳曼的统治者，而且他们也强大得足以防卫自己。
中古时代的皇帝是由日耳曼的亲王推选出来的，但仅徒具空名，对地方的控制力远远不及他们对自己家族庄园的掌握。几个世纪以来，日耳曼只能算是欧洲的一股小势力。
16世纪时，哈布斯堡家族试图重振皇权，但因欧洲各国和德意志诸侯的联合反对而作罢。
帝国首都
神圣罗马帝国没有明定的首都，只有日耳曼国王与皇帝的皇宫所在地，例如：马格德堡（奥托王朝）、施派尔（萨利安王朝）、布拉格（卢森堡王朝）与维也纳（哈布斯堡王朝）；除此以外还有一些重要城市，如亚琛（皇帝加冕地）、雷根斯堡（帝国议会所在地）与纽伦堡（皇室宝物保管地）。
拜占庭帝国关系
实际上，神圣罗马帝国与拜占庭帝国没什么直接关系，这里说的罗马帝国应与神圣罗马帝国加以区别。拜占庭帝国，乃是罗马帝国的君士坦丁大帝于330年迁都拜占庭，并改名为君士坦丁堡，将罗马帝国划为东、西两部分，其中的东罗马帝国，现在为做历史区分常称其为拜占庭帝国。（当时的拜占庭人仍自称为“罗马人”）
朝代变更康拉德王朝
康拉德一世（911-918年），曾任法兰克尼亚公爵，康拉德家族是和加洛林家族同样古老的家族。 911年， 孩童路易死后，由东法兰克王国四大公爵以及美因茨大主教选举为东法兰克国王。康拉德在位期间王权极其暗弱，其影响力甚至不如萨克森、士瓦本和巴伐利亚公爵。同时他和马札儿人的作战也失利，他死前，劝说其弟埃伯哈德放弃了王位要求，并提议选举他的对手萨克森公爵亨利为他的继承人。
、
