987年，阿达尔贝特击败匈牙利军队，将领地向东扩张到莱塔河，该河遂成为后世奥、匈两地分界线。此后，德国人大量迁入，使得当地最终德语化。而东方马克之名也为古高地德语译名Ostarr?chi逐渐取代（该词首先出现于皇帝奥托三世签发于996年的敕文之中），之后，又逐渐音转为今日奥地利之名?sterreichs。
1156年，皇帝“红胡子”腓特烈一世将奥地利马克升格为奥地利公国，脱离巴伐利亚管制，授予其小特权，并将东方马克之西直到因河的土地封赐予奥地利。奥地利公国迁都于罗马人创建的文多波纳城，将其改名为维也纳。1192年，根据乔治堡和约（GeenbergPact），奥地利吞并施蒂里亚。1229年，利奥波德六世又获得卡尔尼奥拉的大部分领地，成为神圣罗马帝国中的强大诸侯国。
但是，在1246年，腓特烈二世在同匈牙利作战时阵亡，未留儿子，其女婿巴登的赫尔曼六世也未能稳固自身的统治。
奥托卡二世时期（1251－1278）
1251年，波希米亚国王普什米塞·奥托卡二世夺取奥地利，领地北起易北河，南抵亚得里亚海，一跃成为中欧强权之一。
1274年，普什米塞·奥托卡二世在争夺神圣罗马帝国皇位的斗争中失败，哈布斯堡家族的鲁道夫一世在选举中获胜。普什米塞·奥托卡二世拒绝做效忠宣誓，遭到鲁道夫联合德意志诸侯对其讨伐。1276年，普什米塞·奥托卡二世被迫放弃奥地利，1278年8月26日，普什米塞·奥托卡二世在杜恩克鲁特战役中与鲁道夫展开决战，兵败身死。自此，奥地利落入哈布斯堡家族手中。
哈布斯堡时期（1278－1556）
1282年，鲁道夫将奥地利和施蒂里亚封给自己的两个儿子，将卡林西亚和卡尔尼奥拉另封他人。1283年，二子之一的阿尔布雷希特一世成为唯一的统治者。1298年，阿尔布雷希特一世当选罗马人民的国王，将奥地利领地交与其子鲁道夫三世掌管。1308年，他被其侄士瓦本的约翰刺杀，其子腓特烈三世被巴伐利亚的路易四世击败，丢失神圣罗马帝国的皇位和除奥地利之外的所有领地，成为普通诸侯。
1335年，奥地利公爵再次获得卡林西亚和卡尔尼奥拉。1363年，提罗尔并入奥地利，今日奥地利疆域初步形成。1382年，奥地利获得的里雅斯特，取得亚得里亚海的出海口。在1379年、1396年、1411年，哈布斯堡家族各继承者多次签订条约瓜分领地，将领地最终一分为三：下奥地利、内奥地利和上奥地利。
1438年，下奥地利的阿尔布雷希特五世自其岳父西吉斯蒙德之处继承神圣罗马帝国皇位以及匈牙利和波希米亚的王位，称阿尔布雷希特二世。自此除1742年至1745年之间外，皇位再未落出哈布斯堡家族之手。
1439年，阿尔布雷希特猝逝于军中，内奥地利的腓特烈三世继承其皇位，并成为其遗腹子拉迪斯劳斯的监护人，成功地使这个孩子先后继承匈牙利和波希米亚的王位。1457年，拉迪斯劳斯早逝。经过激烈的争夺，匈牙利贵族匈雅提·马加什于1463年获得匈牙利的王位，他并且于1485年占领下奥地利，迁都维也纳。
1477年，腓特烈三世设法安排其子马克西米连与勃艮第公国公爵大胆的查理的惟一继承人玛丽联姻，获得勃艮第的全部领地。1490年，匈牙利国王马提亚逝世，马克西米连收复下奥地利和维也纳，统一哈布斯堡家族领地。1491年，他与波西米亚兼匈牙利国王亚盖隆家族的拉迪斯劳斯二世达成协议，如果他没有直系男性后代，则由哈布斯堡家族成员继承其领地。
1493年，腓特烈三世去世，马克西米连继位成为皇帝。1494年，他再娶米兰女继承人为妻，将势力渗入意大利。这招致法国国王查理八世率军入侵意大利。马克西米连遂与教皇、西班牙、威尼斯和米兰结成神圣同盟，对抗法国和奥斯曼帝国的同盟。1496年，西班牙女继承人疯女胡安娜与马克西米连之子菲利普联姻。1516年，二人之子查理登基成为西班牙（共治）国王。同年，查理之弟斐迪南迎娶波西米亚兼匈牙利国王路易之妹，确立两国王位继承人的身份。
1519年，查理登上所有哈布斯堡家族领地的君主宝座，此时，他是西班牙的卡洛斯一世、神圣罗马帝国卡尔五世、西西里的卡洛二世、那不勒斯的卡洛四世，尼德兰和西属美洲的统治者，以及其他许多小国的君主（在其中一些国家他名义上与其母胡安娜女王共治，但胡安娜因为被疑精神失常，一直被关在一家修道院里直到1555年驾崩，对政局几无影响）。他无愧为当时欧洲最为强大的封建领主。1522年，查理将奥地利诸邦以及家族在北意大利的领地分给其弟斐迪南。查理在1556年退位时，把神圣罗马帝国皇帝的名号传给斐迪南。哈布斯堡家族分为西班牙哈布斯堡家族和奥地利哈布斯堡家族。
1526年，在第一次摩哈赤战役中，拉约什二世阵亡。斐迪南立刻根据先前的协定继承波西米亚王位，并与奥斯曼帝国支持的约翰·扎波利亚展开匈牙利王位争夺战。1529年和1532年，奥斯曼帝国苏丹苏里曼一世两次围攻维也纳。1544年，奥土达成协议，匈牙利分为三部分，西部由奥地利统治，中部由土耳其统治，扎波利亚之子日格蒙德则成为土耳其庇护下自治的特兰西瓦尼亚君主。
1554年，斐迪南又将奥地利领地一分为三：奥地利、提罗尔和施蒂里亚，交给三个儿子。
奥地利哈布斯堡时期（1556－1740）
1556年，查理五世退位，斐迪南一世正式继承奥地利大公与神圣罗马帝国的帝位，开启奥地利哈布斯堡家族的统治。
1517年，德国天主教教士马丁·路德因不满罗马教廷的赎罪券政策，发起宗教改革。自当时的马西米连一世开始，历任哈布斯堡君主都对基督新教都采取容忍政策，因此新教得以在德国广播，而且传到奥地利哈布斯堡家族治下的波希米亚。由于君主的容忍新教，哈布斯堡君主一直被选为波希米亚国王。