按照朝廷的科举条例规定，中了举人之后，便可以根据自己的意愿，由吏部分配到地方为官。海瑞被任命为福建南平教谕。嘉靖三十二年（1553年）海瑞来到福建南平县，任郡庠教谕，他的仕途生涯由此开始。
海瑞到南平任教谕后，凡事都要以朝廷颁布的法典为准则，言谈举止必须符合封建礼教和道德的标准，从不马虎从事，严格律己，身体力行。为人也是堂堂正正，磊磊落落。
在海瑞到任前，南平县学比较混乱，要想到县学学习，需要行贿。教谕、训导们还要对缙绅富豪子弟在成绩上予以徇私照顾。海瑞任教谕后，罢黜陋习，整改学风学纪，广招学生。把收礼视为索取非分之财，对送礼者一概谢绝。他认为，一个人不管地位高下，都可以发展才干，实现自己的抱负。何况担任教职的人，负有造就人才的责任，地位何等高尚，不能收受贿赂，自甘随波逐流。他这一议论，都是针对当时学府风气而发的。
海瑞上任后，首先向自己的学生们声明，他一直以孔孟言行为自己的人生哲学，所以对学校，从事教育培养人的工作，也要依照圣贤之道来培养生员。要求生员认真研读应该读完的各科学问，还要认真实践所学到的各条理论。他结合自己在郡学读书时的切身体验和对南平县学实际情况的了解，很快制订出《教约》，在《教约》中总共提出了16条规则，几乎对生员在郡庠期间的所有生活细节都作出具体规定。包括生员在修身、处事、待人、接物等方面的规定，告诫生员要博学、审问、慎思、明辨、笃行。海瑞要求学生之前，他首先要求自己严格遵守《教约》中的规定，言传身教，以身作则。海瑞始终把德育放在首位，在《教约》十六条中，涉及德育的就有十二条之多。他认为诸生“集义以生浩然之气，为贤为圣，异日为国家建伟业无难矣”。海瑞教导生员要先从小事做起，要求生员对自身的不足要一一改正，要善于自重，言谈举止都要以礼教和道德为标准，“勿以恶小而为之”。他在县学中积极倡导道德和文章不可分割，“文也，所以写吾意也”，所作的文章要流露出自己的真实感情，在他看来，如果文章尽是照抄书本，拾人牙慧，就无异于陈词滥调。他在《教约》中说：“……吾平日读书，明白立身行己，正大光明，吾之神也。作而为文，不过画师之写神耳。”所以凡是不是自己真实意思的文章，纵使文章写得再华美绝伦，也是没有用的。这是对当时八股文及墨卷的一种讽刺。他作《规士文》劝谕诸生要写好文章首先要做一个正直的人。在读书时，应该以修身、操守、品德为尚，要向古人学习。
海瑞办事认真，因材施教，制定了一套自己的教学方法，按照学生的学习程度不同将他们分成四个等级，把“四书”作为基础课，每人必读，成绩较好的加“五经”，又较好的增加《资治通鉴》，成绩最高的则研究性理之学。对学生平时品行的得失和学业成绩进行了严格的记录。同时，学校“岁终执此，历历稽验参酌”，对生员进行赏罚。海瑞认为这会对学生起一定的约束作用，对改变学风有一定的效果。
南平县学在海瑞的精心教育管理之下，学风端正，纪律井然，取得了良好的效果，培养出了一批人才。
