韩遂、马超占据西州，在汉中的北方。高柔认为应该先对韩遂、马超进行召集、安抚，如果他们被招抚了，归顺了，那么汉中的张鲁就好对付了，甚至可以可不战而胜了。遗憾的是，这一次曹操没有听从高柔的劝谏，还是派遣钟繇入关去攻打张鲁。最终，韩遂、马超果然如高柔预料的那样反叛了，给曹操收复这些地方增加了困难。
曹操被封为魏王建立魏国后，高柔升为了尚书郎，随即又转为丞相理曹掾。（尚书郎，汉朝时期，孝廉中有才能的人进入尚书台，主要在皇帝左右处理政务，初入台称守尚书郎中，满一年称尚书郎。丞相仓曹属，是丞相府僚属诸曹中的一个。主要掌管司法刑狱事。）一天，丞相府下了一道律令，颁布天下，大体内容是：“在国家安定的时候，治理国家应当以礼制为先。在国家动乱的时候，治理国家以刑法为先。所以舜帝流放思雄组，皋陶作士。汉高祖刘邦废除秦朝的严苛律法，萧何制定律令。吏卒清平学识平纯恰当，明习宪令典章，勤勉职事，体恤百姓。”这个律令的意思就是说，现如今天下动乱，朝廷准备动用刑法，动用严峻酷法来治理天下，让大家都遵守法度。正好，这个时候，驻扎在合肥军队中的几个鼓吹手逃跑了，领头的叫宋金，这几个人算是撞到了枪口上。按照律令，军士逃亡，朝廷要逮捕他的妻子、子女。但是曹操觉得，既是逮捕了他们的妻子、子女还不够，应该再加严厉一些。宋金的母亲、妻子和两个兄弟都在官府中任职，办理此案的官吏就主张将他们全都杀了，去迎合曹操，眼看好多人要人头落地了。这时，高柔向曹操说道：“军士逃亡，违反了法度，触犯了律令，确实令人愤慨，应该对这些人一个教训，以儆效尤。但是，我听说这些逃亡的人中，有的已经在后悔了。我认为，应该把这些后悔军士的家人放了。这样做的话，一是可以进一步动摇逃亡军士继续逃亡的念头，让他们不再那么坚决；二是因为逃亡军士对家人的挂念，感觉还有机会和家人团聚，能增加他们回来的可能性。如果真像律令规定的那样严厉，让主张将他们家
