高參劉基首先進言："宋元以來，寬縱日久，當使紀綱整肅，然後才能實施新政。"
朱元璋感到言之有理，也深感大明朝的當務之急，應是制定法律，以法治國。根據朱元璋的命令，法律的制定工作加緊進行，到洪武三十年（1397）正式頒布了幾經修改的《大明律》。《大明律》簡於《唐律》，嚴於《宋律》。
《大明律》規定"謀反"、"謀大逆"者，不管主、從犯，一律凌遲，祖父、子、孫、兄弟及同居的人，只要年滿16歲的都要處斬。
對官吏貪污，處罰也特別重。犯有貪贓罪的官吏，一經查清，一律發配到北方荒漠中充軍。官員若貪污贓銀60兩以上，將被處梟首示眾、剝皮實草之刑。命在各府州縣衙門左側設皮場廟，就是剝皮的刑場，貪官被押到這裡，砍下頭顱，掛到竿子上示眾，再剝下人皮，塞上稻草，擺到衙門公堂旁邊，用以警告繼任的官員。
朱元璋對自己制定的法律，帶頭實行，而且執法相當嚴厲，這在中國古代封建皇帝中是少有的。他的女婿、附馬都尉歐陽倫，憑著自己是馬皇后親生女兒安慶公主的丈夫，不顧朝廷的禁令，向陝西販運私茶。後來河橋巡檢司的一位小吏向朱元璋告發了此事。朱元璋立即下令賜死歐陽倫，同時他還發了通敕令，表揚那位小吏不畏權貴的鬥爭精神。
朱元璋惟一的親侄，開國功臣朱文正，亦違法亂紀他毫不留情廢了他的官職。開國功臣湯和的姑夫，自以為有硬邦邦的靠山親戚，就隱瞞常州的土地，不納稅糧，朱元璋也將他依法處死。
朱元璋當皇帝的30年中，還公開鎮壓了幾起大貪污案，其中最大的是郭桓案。郭桓案發時為戶部侍郎。洪武十八年（1385），御史余敏等告發北京承宣布政使司、提刑按察使司的官吏李或、趙全德等人，夥同郭桓等人貪污舞弊，吞盜官糧。朱元璋抓住線索，命令司法部門依法嚴加追查。這個案子後來又牽連到禮部尚書趙瑁、刑部尚書王惠迪、兵部侍郎王傑、工部侍郎麥志德等高級官員和許多布政使司的官員。貪污盜竊的錢折成糧食達2400多萬石。案件查清後，朱元璋下令將趙瑁、王惠迪等人棄屍街頭；郭桓等六部侍郎及各地方布政使司以下的官員有上萬人被處死；有牽連的官吏幾萬人被逮捕入獄，嚴加治罪。各地捲入這個案件的下級官吏、富豪，被抄家處死的不計其數。
一代帝範，節儉成風
由於朱元璋出身貧苦農家，不僅深深體諒農民生活的艱辛、物力的艱難，而且他還身體力行，帶頭倡導節儉。明朝建立後，按計畫要在南京營建宮室。負責工程的人將圖樣送給他審定，他當即把彫琢考究的部分全去掉了。工程竣工後，他叫人在牆壁上畫了許多怵目驚心的歷史故事做裝飾，讓自己時刻不忘歷史教訓。有個官員想用好看的石頭鋪設宮殿地面，被他當場狠狠地教訓了一頓。
朱元璋用的車輿器具服用等物，按慣例該用金飾的，但他下令以銅代替。主管這事的官員說，這用不了多少金子，朱元璋說，"朕富有四海，豈吝惜這點黃金。但是，所謂儉約，非身先之，何以率天下？而且奢侈的開始，都是由小到大的。"他睡的御床與中產人家的睡床沒有多大區別，每天早膳，只有蔬菜就餐。
在朱元璋的影響下，宮中的后妃也十分注意節儉。她們從不喬裝打扮，穿的衣裳也是洗過幾次的。有個內侍穿著新靴子在雨中行路，被朱元璋發現了，氣得他痛哭了一頓。一個散騎舍人穿了件十分華麗的新衣服，朱元璋問他："這衣服用了多少錢？"舍人回道："五百貫。"朱元璋痛心地說："五百貫是數口之家的農夫一年的費用，而你卻用來做一件衣服。如此驕奢，實在是太糟蹋東西了。"
朱元璋不喜歡喝酒，他多次發布限制釀酒的命令。他不愛奢華，講究實際。他命令太監在皇宮牆邊種菜，不要建造樓臺亭閣。為了讓兒子們得到鍛練，他命令太監織造麻鞋、竹籤自用，規定諸王子出城稍遠，要騎馬十分之七，步行十分之三。由於他出身貧寒，從小沒有讀書的機會，從軍後，到稱帝晚年一直保持勤奮好學的作風。作戰之餘，理政之後，他常常請儒生講述經史。經過幾十年的刻苦自學，他不但能寫手扎、軍令，還能寫詩作賦。他終生嚴格要求自己，不懈怠，不腐化。
