在广泛兴办学校的同时，朱元璋还建立了科举制度，学校是为了培养人才，科举是为了选拔人才，二者是相辅相成的，正如《明史·选举志》所说：“学校以教育之，科举以登进之。”
科举制度始于隋朝，唐、宋、元相继沿用，体制日渐完备。这一制度虽存在着许多问题，但它在选拔人才时体现了公正、公开的原则，是有一定的积极作用的。早在吴元年（1367年），朱元璋就曾宣布设文、武二科以广求贤才，并要求地方官员“劝谕民间秀士及智勇之人，以时勉学”，等待科举的举行。到洪武三年（1370年），朱元璋正式下诏举行科举。朱元璋认为，以前各代在科举取士时，只讲究词章华美，而不要求德才兼备，是存在很大缺陷的，所以他特别宣布，自己开科取士，选拔人才，“务在经明行修，博古通今，文质得中，名实相称”。同一年，京师和各行省按照要求分别举行了乡试，选中了一批举人。第二年，举人们都到京城参加会试，朱元璋亲自出题并主持考试，最后录取了吴伯宗等一百二十名进士。由于此时明朝建立没多久，官员紧缺，于是朱元璋下令从洪武四年（1371年）起，各行省连续举行乡试三年，取中的举人都免去会试，直接赴京听候选官。
经过连续三年的科举考试，虽录取了一大批人才，但朱元璋经过初步考察试用，对这些人很不满意。他说：“各地录取的人，大多是后生少年，看他们的文章，倒也斐然可观，可一加试用，就发现极少有人能把所学知识运用到实际事务中去。”他还抱怨说：“朕以实心求贤，而天下却用虚文应付朕，这岂是朕开设科举的本意。”于是，他下令暂时停罢科举，专门依靠荐举选择官员。可是，荐举上来的人也同样存在能力不足的问题，而且由于缺乏明确的衡量标准，荐举时滥竽充数的现象也无法杜绝。到洪武十五年（1382年），朱元璋决定对荐举上来的人才进行考试，同时下令恢复科举。洪武十七年（1384年），朱元璋令礼部颁发了《科举成式》，永为定制。不过，恢复科举后，朱元璋并没有停罢荐举，而是两者并行，相互补充。从科举开办到停止再到恢复的过程中，我们可以深切地体会到朱元璋不尚虚文，务求实才的思想意识。
科举制度与学校教育是相互配合的。读书人没有进入府、州、县学之前，不论年龄大小，一律称为“童生”。在通过了州、县级的考试后，进入府、州、县学，便成了“生员”，俗称“秀才”。只有生员才有资格参加乡试。乡试是省级的考试，每三年（逢子、午、卯、西年）在省城举行一次，因考期在农历八月，正值秋天，所以又叫“秋闱”。考试是很严格的。考生在黎明时进人考场，要经过严密搜身，以防挟带字纸。入场后，考场的内外门户全部加锁封闭，以防传递消息。每名考生都由一名号军监视，不许作弊。黄昏时交卷，如未做完，可给蜡烛三支，以便继续答卷。考生交卷后，经过密封、誊录、对读等程序，然后送交考官评阅。
由于考官见到的卷子是密封的，而且不是考生原卷，所以不容易从中捣鬼。录取名额由朝廷分配，起初是直隶（今江苏、安徽）一百人，广东、广西各二十五人，其他各省各四十人，可根据实际情况增减，后又规定：“不拘额数，从实充贡”。乡试合格者就成了“举人”，获得参加会试的资格，其中第一名俗称“解元”。
会试是中央一级的考试，逢辰、戌、丑、未年，即每逢乡试的第二年举行，考试在二月进行，正值春天，所以叫做“春闱”，又因由礼部主持，也叫“礼闱”。会试录取名额由皇帝临时确定，考中者称为“会土”或“贡士”，第一名称为“会元”。全体会士都要参加由皇帝亲自主持的复试，这叫殿试，也叫廷试。殿试只确定具体名次，而不再淘汰。通过殿试的都称“进士”，分一、二、三甲录取。第一甲只有三人，赐进士及第，其中第一名称“状元”，第二名称“榜眼”，第三名称“探花”。第二甲若干名，赐进士出身，二甲第一名俗称“传胪”。第三甲若干名，赐同进士出身。
乡试和会试都连试三场。初场的考试内容为《四书》和经义，侧重于考察考生对《四书》、《五经》的熟悉和理解程度；二场的考试内容为论、判、诏、诰、表、笺，侧重于考察考生写作各类公文的能力；三场的考试内容为经、史和时务策，侧重于考察考生的历史知识和对于时政的看法。在初行科举时，乡试中式者还要加试骑、射、书、算、律五科，后取消了这些科目，但又规定了，新录取的进士，除一甲三名直接在翰林院任职外，其他都要先在各部门观政，进行职前培训。
科举制度本为选拔人才，但自从这一制度创立时起，它就备受攻击。明朝在朱元璋的时候选择官员的途径多种多样，科举只是其中一个。但在洪武以后，科举越来越受重视，出现了“中外文臣皆由科举而进，非科举者，毋得与官”的局面，考试内容也日趋空疏僵化，形成了被称为“八股文”的文体，这种文章陈陈相因，千篇一律，只讲究技巧，不重视内涵，很像是文字游戏。所以明末清初的大学者顾炎武激愤地说：“科举对人才培养和文化事业的摧残，比秦始皇的焚书坑儒还要严重。”但是，也应看到，科举制度的僵化，是有一个过程的。明初的科举考试，还比较重视考察考生的实际能力，朱元璋要求考生所作经义、论、策等，都不许多于三百字，而且不许堆砌浮造的文词。朱元璋在主持殿试时，所出题目都与实际事务有关，允许考生各抒己见，谈论国家大事。因此就连对科举制度持激烈批判态度的顾炎武，也认为明初科举尚有“求实用人”之意。科举制度后来的发展，与朱元璋“务求实才”的初衷是背道而驰的。