毛玠，字孝先，是陈留平丘人。他年轻时担任县吏，以清廉公正着称。曾打算前往荆州避乱，还未到达，就听说刘表政令混乱，于是改道前往鲁阳。曹操治理兖州时，征召毛玠为治中从事。毛玠向曹操进言：“如今天下分裂，天子流亡，百姓流离失所、无法安居乐业，官府没有一年的粮食储备，百姓也没有安稳的心态，这样的局面难以持久。如今袁绍、刘表虽然兵力强盛、人口众多，但都缺乏长远的谋略，没有建立根基的打算。用兵合乎道义者才能取胜，守住权位需要依靠财力。您应该尊奉天子来号令不服从的诸侯，重视农耕生产，积蓄军用物资，这样一来，称霸天下的大业就可以实现了。”曹操十分敬重并采纳了他的建议，将他转任为幕府功曹。
曹操担任司空、丞相时，毛玠曾担任东曹掾，与崔琰一同掌管官员选拔事宜。他们所举荐任用的，都是清正廉明的士人，那些虽然在当时有很高的名声，但行为不合根本的人，始终得不到晋升。毛玠力求以节俭来做世人的表率，因此天下的士人无不以廉洁的节操来自我激励，即使是地位尊贵、深受宠信的大臣，在车辆服饰方面也不敢过度奢华。曹操感叹道：“任用官员能做到这样，让天下人自己约束自己，我还有什么可担忧的呢！”
魏文帝曹丕还是五官将时，亲自拜访毛玠，想托付他关照自己的亲信。毛玠回答说：“我作为老臣，能够恪守职责，侥幸免于过失已经很庆幸了。如今您所提到的人不符合升迁的次序，所以我不敢奉命。”
大军返回邺城后，朝廷商议合并、精简机构。由于毛玠不接受私下请托，当时的人都很敬畏他，于是都想撤销东曹。他们一同禀告曹操说：“过去西曹的地位高于东曹，东曹次之，应该撤销东曹。”曹操深知其中的内情，下令说：“太阳从东方升起，月亮在东方最圆，凡是说到方向，也都是先提到东方，为什么要撤销东曹呢？”于是撤销了西曹。
当初，曹操平定柳城后，分发所获得的器物，特意把素屏风和素冯几赏赐给毛玠，说：“你有古人的风范，所以赏赐你古人使用的器物。”毛玠身处显要的职位，却常常穿着布衣、吃着粗茶淡饭，十分尽心地抚养兄长的遗孤，得到的赏赐都用来赈济贫困的族人，家中没有多余的财物。后来他升任右军师。魏国刚刚建立