指南针是磁铁做成的。磁铁能吸铁，通常叫做“吸铁石”，古代称为“慈石”，因为它一碰到铁就吸住，就像一个慈祥的母亲吸引自己的孩子一样。后来，人们才称它为“磁石”。
每块磁铁两头都有不同的磁极，一头叫S极，另一头叫N极。人们居住的地球，也是一块天然的大磁体，在南北两端也有不同的磁极，靠近地球北极的是地磁的南极，靠近地球南极的是地磁的北极。
大家知道，同性磁极相斥，异性磁极相吸。所以，不管在地球表面的什么地方，拿一根可以自由转动的磁针，它的N极总是指向北方，S极总是指向南方。两千多年以前，也就是春秋战国时期，中国已经用铁来制造农具了。劳动人民在寻找铁矿的过程中，就发现了磁铁，并且知道它能够吸铁。中国古书《管子》上有这样的记载：“上有慈石者，下有铜金。”“铜金”就是一种铁矿。《管子》这部书产生在公元前3世纪，这说明中国最晚在公元前3世纪就知道磁石能够吸铁了。
秦朝时候，还有这样有趣的传说。秦始皇统一中国以后，在陕西咸阳造了一个很大的阿房宫，阿房宫中有一个磁石门，完全用磁铁造成。如果有谁带着铁器想去行刺，只要经过那里，磁石门就会把这个人吸走。另外，根据古书记载，汉武帝时候，胶东有个栾大，献给汉武帝一种斗棋。这种棋子一放到棋盘上，就会互相碰击，自动斗起来。汉武帝看了非常好奇。原来，栾大的棋子是用磁石做的，所以有磁性，能互相吸引碰击，只是汉武帝不明白这个道理罢了。
战国时期，人们利用磁石指示南北的特性制成了指南工具——司南。但是，战国时期的司南是什么样子已无从考证。《中国历史》课本插图——“司南”，是根据中国历史博物馆展品“汉代司南模型”绘制的。这个模型是后人根据史书记载以及地下出土的汉代地盘实物制作而成的。地盘是青铜做成的，内圆外方，中心圆面磨得非常光滑，以保证勺体指示方向的精确性。
中心圆外围依次布列八卦、天干、地支和二十八宿，共计24个方位。地盘中心的小勺是用整块的天然磁铁磨成的，磁铁的正极磨成司南的长柄，勺头底部是半球面，非常光滑。使用时先把地盘放平，再把司南放在地盘中间，用手拨动勺柄，使它转动，等到司南停下来，勺柄所指示方向就是南方。这种勺形司南直到8世纪时仍在使用。
指南针一经发明很快就被应用于军事、生产、日常生活、地形测量等方面，特别是航海上。指南针在航海上的应用有一个逐渐发展的过程。宋代朱彧1119年在《萍洲可谈》中记有：“舟师识地理，夜则观星，昼则观日，阴晦则观指南针。”这是世界航海史上关于使用指南针的最早记载。文中指出，当时只在日月星辰见不到的时候才使用指南针，可见指南针刚开始使用时，人们还不熟练。许兢的《宣和奉使高丽图经》也有类似的记载：“惟视星斗前迈，若晦冥则用指南浮针，以揆南北。”到了元代，指南针一跃而成为海上导航的最重要的工具了。而且还编制出使用罗盘导航，在不同航行地点指南针针位的连线图，这种连线图叫做“针路”。船行至某处，采用何针位指向，一路航线都一一标识明白，作为航行的依据。
指南针的发明是古代人民对磁现象的观察和研究的结果。古代人民在对磁现象的观察和研究的过程中，进一步了解了磁的性质，并试图更多地应用这些性质。《晋书·马隆传》中记载：马隆率兵西进甘、陕一带，在敌人必经的狭窄道路两旁，堆放磁石。穿着铁甲的敌兵路过时，被牢牢吸住，不能动了。马隆的士兵穿犀甲，磁石对他们没有什么作用，可自由行动。敌人以为神兵，不战而退。东汉的《异物志》记载了在南海诸岛周围有一些暗礁浅滩含有磁石，磁石经常把“以铁叶锢之”的船吸住，使其难以脱身。
魏晋南北朝时，我国先民对磁石的性质已有了很多认识。就连当时的诗人曹植在矫志诗中也用了“磁石引铁，于金不连”的句子。南北朝梁代的陶弘景在《名医别录》中提出了磁力测量的方法，他指出：优良磁石出产在南方，磁性很强，能吸引三四根铁针，使几根针首尾相连挂在磁石上。磁性更强的磁石，能吸引十多根铁针，甚至能吸住一二斤刀器。陶弘景不仅提出了磁性有强弱之分，而且指出了测量方法。这可能是世界上有关磁力测量的最早记录。
到了宋代，劳动人民掌握了制造人工磁体的技术，又制造了指南鱼。指南鱼是把薄钢片剪成鱼形，长二寸，宽五分，鱼的肚皮部分凹下去，使鱼像船一样能浮在水面上。然后加热并沿子午线方向淬火使它被地磁场磁化。这种人工传磁方法制成的指南鱼比使用司南方便得多，只要有一碗水，把指南鱼放在水面上就能辨别方向了。经过长期的改进，人们又把钢针在天然磁体上摩擦，钢针也有了磁性。这种经过人工传磁的钢针可以说是正式的指南针了。
沈括在他的《梦溪笔谈》中提到他对指南针的用法做过四种试验，即水浮法、缕悬法、指甲法和碗唇法。“水浮法”是把指南针放在有水的碗里，使它浮在水面上指示方向。“缕悬法”就是在磁针中部涂上一些蜡，上面粘一根丝线，把丝线悬在木架上，针下安放一个标有方位的圆盘，静止时钢针就指示南北。“指甲法”就是把钢针放在手指甲面上，轻轻转动，由于手指甲的光滑，磁针就和司南一样也能发生指南作用。“碗唇法”是把磁针放在光滑的碗边上，转动磁针，便和指甲法一样发生指南作用。沈括经过精密的观测，还发现磁针指示的方向并不是正南正北，而是微偏西北和东南，这种发现在科学上称磁偏角。
指南针在古代主要被堪舆家们用来相宅相墓，同时也被用于航海及其他。正是后者对人类社会进步发挥了巨大作用，因而，指南针才得以跻身于中国古代四大发明之中。这一发明后来经阿拉伯人传入欧洲，对欧洲的航海业乃至整个人类社会的文明进程，都产生了深远影响。
