能在20岁即位后，立即继承父业，成功完成征服波斯的冒险。
亚历山大花费了两年的时间来建立和巩固自己在马其顿和希腊的地位。公元前334年，他进军亚洲，在格勒奈克斯一役中，击败了一支不算强大的波斯军队，占领了一些小亚细亚的城市，并沿着海岸推进。亚历山大不得不在攻下每座城池后留下驻军，因为此时波斯人掌握着提尔和西顿的舰队以及制海权，如果他身后有一个敌军的港口，波斯军队就极有可能登陆截断他的后路。在伊苏斯一役（公元前333年）中，他遭遇并击溃了大流士三世统率的一支临时拼凑的庞大军队。和一个半世纪以前渡过达达尼尔海峡的薛西斯军队一样，这支军队也是一群乌合之众，而且大批随行官员、大流士的后宫佳丽及侍从等随从人员，使军队受到掣肘。西顿向亚历山大投降，提尔却仍在顽强抵抗。亚历山大军队向它发起了猛攻，提尔城遭到了掠夺和毁灭。加沙城也遭到了同样的命运。公元前332年年底，这位胜利者又挺进埃及，终于从波斯人手中夺回了这个城市。
在埃及，亚历山大兴建了亚历山大勒塔和亚历山大城等以亚历山大命名的大城市，并用宽阔的道路将它们连接起来，以防止各城的叛乱。很快，腓尼基诸城邦的商业便都转移到这些城市中。西地中海的腓尼基人突然在历史上消失了。同时，在亚历山大等新兴的贸易城市里，很快就出现了犹太人。
公元前331年，与其前的托多梅斯、莱梅斯和尼科等人一样，亚历山大从埃及出兵征伐巴比伦。但是，不同的是，这次他取道提尔。在阿尔比勒，这个早已被人遗忘的尼尼微城废墟旁的城市，他与大流士军队遭遇，展开了决战。对阵中，波斯的战车先锋队遭到惨败，马其顿骑兵先锋队乘胜追击，击溃了波斯庞大的杂牌军，马其顿方阵大获全胜。大流士率残军仓皇撤退，无心再战，逃到了北方的米堤亚人的国家。亚历山大占领了当时依然繁华而重要的都市巴比伦，然后又挥兵直取苏萨和珀塞波利斯。在那里，他举行了盛大的庆功宴会，将曾是“王中之王”的大流士王宫付之一炬。
此后，亚历山大在中亚举行了军事大阅兵，并一直将军队开到了波斯帝国最远的边境。起初，他领兵北上，对大流士穷追不舍，在黎明时刻追上之时，大流士已被自己