При преемниках Оттона Великого постепенно закрепился следующий порядок. Во главе государства, устроенного как феодальная федерация, стоял выборный монарх, носивший титул короля римлян (rex Romanorum, в исторических источниках этого монарха также называют германским королем, римско-германским королем и пр.). Он и только он имел право претендовать на императорский статус, получение которого по-прежнему зависело от воли папы. А тот мог отказаться короновать короля или обставить коронацию некими условиями. (Этот порядок в основе своей функционировал до XVI в., когда папы разрешили королям римлян одновременно именоваться избранными императорами и использовать императорский титул, не будучи коронованными папами). Король выбирался правителями наиболее значительных немецких субъектов имперской федераци – курфюрстами (династическую преемственность, однако, часто соблюдали; императоры при жизни могли добиться избрания своих сыновей или других наследников королями римлян, то есть соправителями, с XV в. королевский статус стал de facto наследоваться представителями дома Габсбургов). Германо-итальянскому монарху выборному, зависящему от папы, было объективно трудно добиваться сакрально-политического лидерства в западном мире и тем более верховенства над ним. Даже такой выдающийся император, как Фридрих I Барбаросса из дома Гогенштауфенов (1152—1190 гг.), реализовывал свои претензии лишь частично. Для прочих универсальное лидерство и верховенство оставалось недостижимой мечтой.
Идея единства «большой» Римской Империи умирала по мере углубления духовного раскола между Византией и Западом. В конечном счете Запад стал считать себя отдельной (а после Великого раскола в 1054 г. – единственной истинной) христианской общностью.