袁涣，字曜卿，乃是陈郡扶乐人氏。他的父亲袁滂，曾在汉朝官至司徒。据《袁宏汉纪》记载：袁滂，字公熙，为人质朴纯粹，清心寡欲，从不会去谈论别人的短处。在当时权贵得宠、权势鼎盛之时，有些人因为政见不同而招致灾祸，唯有袁滂在朝堂之上坚守中立，因此他人对他既无喜爱之情，也无憎恶之意。
在那个时候，诸多世家公子大多行事逾越法度，而袁涣却生性清静，一举一动都必定遵循礼仪规范。陈郡郡守听闻他的贤名，任命他为功曹。袁涣到任之后，郡中的奸佞官吏自知无法在他手下蒙混，都纷纷自行引退离去。后来，袁涣被公府征召，在考核中成绩优异，得以升迁为侍御史。朝廷又任命他为谯县县令，然而他并未赴任就职。
刘备担任豫州牧的时候，举荐袁涣为茂才。后来，天下大乱，袁涣为躲避战乱，辗转来到江、淮之间，被袁术征召任用。袁术每次有问题向袁涣咨询请教，袁涣总是秉持公正的态度发表议论，袁术虽然心中不服，却也无法反驳。但因敬重袁涣的为人，不敢不以礼相待。
没过多久，吕布在阜陵攻打袁术，袁涣前去投奔袁术，结果又被吕布扣留。起初，吕布与刘备结为姻亲，关系和睦，后来却产生了嫌隙。吕布想要袁涣写一封信去辱骂刘备，袁涣坚决不肯答应。吕布再三强迫他，袁涣依然不为所动。吕布恼羞成怒，拔出兵器威胁袁涣说：“你写这封信就能活命，不写就只有死路一条！”袁涣面不改色，笑着回应道：“我听说只有高尚的品德才能让人蒙羞受辱，从未听闻用辱骂可以达到目的。倘若刘备是个君子，他不会因为将军您的辱骂之言而感到羞耻；倘若他是个小人，那他会顺着您的意思回骂，如此一来，受辱的反而是您，而不是他。况且我往日侍奉刘将军，就如同今日侍奉您一样，如果我有朝一日离开这里，又去辱骂您，这样做合适吗？”吕布听后，感到十分惭愧，便不再逼迫袁涣。
后来，吕布被诛杀，袁涣得以归附太祖曹操。据《袁氏世纪》记载：吕布战败覆灭之时，陈群父子当时也在吕布军中，见到太祖曹操后都伏地叩拜。唯独袁涣只是拱手作揖，并不行跪拜之礼，太祖对他十分敬畏。当时，太祖赏赐给众官员数辆车，让他们去吕布军中挑选自己想要的物品。众人都装满了车，搬运大量财