正当他沉浸在这种情绪中时，他遇到了一位四处流浪的苦行僧。那时，印度有很多的苦行僧，他们在严格的戒律下生活，大部分时间都花在沉思和探究宗教的真谛上。他们似乎在寻求着人生更深刻的意义。释迦牟尼便产生了也要像他们一样生活的强烈愿望。
据传记讲，正当他在思考这个计划的时候，传来了他妻子生了头生子的消息。释迦牟尼说，“这又是一个待解的结”。
他的族人们为了庆祝这个“新结”的隆重，为他举行了喜宴和歌舞表演，他在一片欢悦祝福声中回到了家里。然而，半夜，他突然被某种巨大的精神痛苦惊醒，就“好像一个被告知他的房子着火了的人一样”。他下定决心立即抛弃这种幸福却毫无目的的生活。他轻轻走进妻子的房间，借着油灯微弱的灯光，看见妻子怀里抱着刚出生的孩子，睡得正香，四周围满了鲜花。他非常想在离开之前第一次也是最后一次抱一下儿子，但他又怕惊醒妻子，只得放弃这个念头，转身离开了自己的骨肉，走到了出去，在印度皎洁的月光下，他骑着马悄然离去了。
当夜，他走了很远的路，黎明时分，他已经离开了自己家族的土地。他在一条河的沙滩上下了马，用剑斩断自己的长发，除去身上的一切饰物，把它们连同剑一起放在马鞍上，遣马回家。在路上，他又和一个衣衫褴褛的人交换了衣服。这样他就摆脱了世俗的一切羁绊，可以自由地去追求人生的智慧了。他向南前进，来到了文迪亚山的一个隐士和高人居住的山口上。在这个狭窄的山洞中，生活着几位贤者，他们靠进城乞讨点衣食维持生活，如果有人来访，就口授一点知识。释迦牟尼在此之前就已经精通当时所有的形而上学，对于理解力非常敏锐的他来说，这些人能给他的答复并不让他满意。
印度人深信能力和知识可以从诸如绝食、不眠和自我折磨等极端苦行中获得。释迦牟尼也想试试这种办法。于是，他和另外五个门徒相偕来到丛林深处，开始禁食和苦行。他的盛名“就像苍穹中巨大的钟声”一样传播远近。但是，他并没有觉得领悟到了真理。有一天，他一个人缓慢地徘徊着，尽管身体虚弱，仍然冥思苦想，突然失去知觉晕倒在地。当他醒来时，他猛然醒悟到用这种近乎迷信的方法去获取真理实在是愚不可及。
他开