都回来了，他们都自我勉励，都成了好官。高干投降后，不久就在并州反叛。高柔主动回到曹操身边，曹操想借机杀掉他，就让他担任刺奸令史。高柔执法公正，案件没有积压，被任命为丞相仓曹属。据《魏氏春秋》记载，高柔执法公平，而且日夜勤勉不懈，甚至抱着文书睡觉。有一次，曹操深夜微服出行，观察各位官吏，看到高柔，很同情他，慢慢地脱下自己的皮衣盖在他身上，然后离开了。从此，曹操任命了他。曹操想派钟繇等人去讨伐张鲁，高柔劝谏说，现在仓促地派遣大军，西边有韩遂、马超，他们会认为是我们向他们发动攻击，将会互相煽动造反。应该先招集三辅地区，三辅地区如果平定了，汉中就可以用檄文来平定了。钟繇进入关中后，韩遂、马超等人果然反叛了。
魏国刚建立时，高柔担任尚书郎，后来又转任丞相理曹掾。曹操下令说：“治理安定的国家，以礼制为首。治理混乱的国家，以刑法为先。因此，舜把四个凶恶的家族流放，皋陶担任法官。汉高祖废除了秦朝的严酷法律，萧何制定了法律。你高柔见识清明，执法公平，熟悉法律，要好好努力啊！”鼓吹宋金等人在合肥逃亡。按照旧法，军队出征时士兵逃跑，要拷问他的妻子儿女。曹操担心这样还是不能阻止士兵逃跑，就加重了刑罚。宋金有母亲、妻子和两个弟弟都在官府服役，主管的人上奏要把他们全部杀掉。高柔启奏说：“士兵逃离军队，确实令人痛恨，但我听说他们中间有时也有后悔的。我认为应该宽恕他们的妻子儿女，一来可以使敌人不相信我们真的会杀掉他们，二来可以吸引他们回来。如果按照原来的法律，已经断绝了他们回来的希望，而现在又加重刑罚，我担心从今以后在军队里的士兵，看到一个人逃跑，就会认为自己也会被杀，也会跟着逃跑，就再也杀不到了。这种加重刑罚的做法，并不能阻止士兵逃跑，反而会促使他们逃跑。”曹操说：“好。”立即停止杀宋金的母亲和弟弟，因此而活下来的人很多。
高柔后来被升为颍川太守，不久又回到原来的位置，担任法曹掾。当时，曹操设置了校事卢洪、赵达等人，让他们监视手下官员的行为。高柔劝谏说：“设立官职，每个人都有自己的职责。现在设置校事，这与上级信任下级的原则不符。而且赵达等人多次因为个人的喜好和厌恶，擅自作