公元前126年，司马迁20岁。在父亲的鼓励和支持下，怀着继承祖辈史官事业的志向，他暂时停止了对古文、经传的攻读，开始访游名山名川，考察各地的风土人情，搜集各方面的历史材料。
古代旅行，交通不便，困难重重。司马迁壮游是经过深思熟虑和长期准备的。《太史公自序》也慎重其事作了特别醒目的记载。司马迁说：
二十而南游江淮，上会稽，探禹穴，窥九疑，浮于沅、湘；北涉汶、泗，讲业齐、鲁之都，观孔子之遗风，乡射邹、峄；厄困鄱、薛、彭城，过梁、楚以归。
这段话，司马迁把二十壮游的动机说得十分明白，那就是他不满足于“天下遗文古事，靡不毕集太史公”的书本知识，有目的有计划地到广阔的社会中去作实地考察，接触伟大祖国大一统的壮丽河山和四方之民的生活习俗，了解和搜求古代和近代、现代的历史传说故事及各种史料。《太史公自序》称之为“网罗天下放失旧闻”，王国维《太史公行年考》称之为“宦学之游”，是十分精当的。
司马迁壮游动机，在古史文献中也有记载。《太平御览》卷二百三十五引卫宏《汉旧仪》说：“司马迁父谈世为太史，迁年十三，使乘传行天下，求古诸侯之史记。”《西京杂记》卷六文略同。这个故事是卫宏记载的传闻，从年龄上说与《太史公自序》云“二十而南游”不符，不可尽信。但这个传闻与《自序》中所说“网罗天下放失旧闻”的目的相合，引人深思。它说明司马迁壮游可能是在司马谈决策和指导下进行的，也是父亲对儿子的一场考验。司马迁圆满地完成了这次学术旅行，读无字之书，禀山川豪气，求得了许多闻所未闻的知识，故在《史记》许多篇章的论赞中一再论及漫游及收获。
《五帝本记赞》：“余尝西至空桐，北过涿鹿，东渐于海，南浮江淮，至长老皆名往往称黄帝、尧、舜之处，风教固殊焉。”
《河渠书赞》：“余南登庐山，观禹疏九江，遂至于会稽太湟，上姑苏，望五湖；东窥洛汭、大邳，迎河，行淮、泗、济、漯洛渠；西瞻蜀之岷山及离碓；北自龙门至于朔方。曰：甚哉，水之为利害也！”
《魏世家赞》：“吾适故大梁之墟，墟中人曰：‘秦之破梁，引河沟而灌大梁，三月城坏，王请降，遂灭魏。’”
《孔子世家赞》：“适鲁，观仲尼庙堂车服礼器，诸生以时习礼其家，余祗回留之不能去云。”
《孟尝君列传赞》：“吾尝过薛，其俗间里率多暴桀子弟，与邹、鲁殊。问其故，曰：‘孟尝君招致天下任侠，奸人入薛中盖六万余家矣。’世传孟尝君好客自喜，名不虚矣。”
《魏公子列传赞》：“吾过大梁之墟，求问其所谓夷门。夷门者，城之东门也。”
《春申君列传赞》：“吾适楚观春申君故城，宫室盛矣哉！”《屈原贾生列传赞》：“适长沙，观屈原所自沈渊，未尝不垂涕，想见其为人。”
《淮阴侯列传赞》：“吾如淮阴，淮阴人为余言，韩信葬母，‘行营高敞地，令其旁可置万家’。余视其母家，良然。”
《樊郦滕灌列传赞》：“吾适丰、沛，问其遗老，观故萧、曹、樊哙、滕公之家，及其素，异哉所闻！”
《龟策列传》：“余至江南，观其行事，问其长老，云龟千岁乃游莲叶之上，蓍百茎共一根。”
从上述资料可以看出，司马迁壮游范围重点在南方，故自述为“二十而南游江淮”。对司马迁的壮游路线，王国维《太史公行年考》首次作了描绘：“司马迁从京师长安出发东南行，出武关至宛。南下襄樊到江陵。渡江，溯沅水至湘西，然后折向东南到九疑。窥九疑后北上长沙，到汩罗江屈原沉渊处凭吊，越洞庭，出长江，顺流东下。登庐山，观禹疏九江，展转到钱塘。上会稽，探禹穴。还吴游观春申君宫室。上姑苏，望五湖。之后，北上渡江，过淮阴，至临淄、曲阜，考察了齐鲁地区文化，观孔子留下的遗风，受困于鄱、薛、彭城，然后沿着秦汉之际风起云涌的历史人物故乡，楚汉相争的战场，经彭城，历沛、丰、砀、睢阳，至梁（今河南开封），回到长安。以今地言之，司马迁壮游，跨越了陕、鄂、湘、赣、苏、浙、皖、鲁、豫九省区，行程近三万里，历时约二三年。”
读书，只能获得理性知识；跋山涉水，行路万里，到社会生活的海洋中领略浩渺风烟，读无字之书，得到的是真情感受和实践知识。凡大有为之人，都应该走出去，与黎民大众共呼吸。两千年前的司马迁，懂得读无字之书的为学宗旨，身体力行，走入社会，观其行事，问其长老，问墟中人，问遗老，步往古圣哲遗迹，想见其为人，徘徊祗回，不能离去。司马迁是那样的忘情，故能在书中有强烈的反映。《史记》卷首《五帝本纪》写五帝巡狩，极为精彩，可与《太史公自序》中所述壮游前后照映。在对照中，可以引起我们的深思与联想，从而去体察司马迁壮游的意义。司马迁写黄帝：“东至于海，登凡山，及岱宗；西至于空桐，登鸡头；南至于江，登熊、湘；北逐荤粥，合符釜山，而邑于涿鹿之阿。”写颛顼：“北至于幽陵，南至于交阯，西至于流沙，东至于蟠木。”写舜摄政：“五岁一巡狩。”舜践位后，更是孜孜巡游，考察民情，励精图治，“崩于苍梧之野”，以身殉职在南巡途中。写夏禹：“帝禹东巡狩，至于会稽而崩。”上古帝王，贤圣爱民，在司马迁笔下生动活现，表现了作者司马迁对人民的深厚感情。
《秦始皇本纪》写“履至尊而制六合”的秦始皇出游，浩浩荡荡，巡行天下，刻石颂功，自鸣得意，活画专制帝王的气势和声威；《封禅书》写汉武帝的巡幸求仙，愚昧虔诚，表达讥刺寓讽的感情，来自扈从之游的体察，自然是入木三分。
司马迁的视野，并非只去捕捉帝王巡狩、巡幸的足迹。那屈原的行吟泽畔，那贾谊的湘水凭吊，那孔孟的周游天下，那战国四公子的好客养士，那侯赢所居夷门，那毛公、薛公藏身的酒市，那陈涉的鸿鹄之志，那张良的锥刺秦始皇，那韩信少时的落拓，那楚汉风云人物的际会，那江南民间的养龟导引，那乡间黎民的俚语风俗，都一一摄入了司马迁二十壮游的广角镜头中。司马迁困厄鄱、薛、彭城，也许如圣人孔子之断粮，也许是病困，也许是受劫持，总之他经历了艰辛与危险，但也从社会的书府中获得了丰硕的回报。司马迁在《周本纪赞》中说：“学者皆称周伐纣，居洛邑，综其实不然。武王营之，成王使召公卜居，居九鼎焉，而周复都丰、镐。至犬戎败幽王，周乃东徙洛邑。所谓‘周公葬于毕’，毕在镐东南杜中。”在金石契刻和简牍书写的古代，知识的积累与传播受到很大的限制。因此，西汉学者对殷周之际的历史已不甚了了，认为武王定都洛邑，司马迁对此作了廓清，他使用了文献记载与实地考察相结合的考证方法，有重大的意义。
司马迁“浮于沉、湘”，追寻屈原的足迹，思考古往今来的历史变迁，想着屈原的为人，禁不住悲伤流涕。司马迁在长沙还凭吊了贾谊的遗迹，感到他的遭遇和屈原相似，后来写了《屈原贾生列传》，创造了把不同时代人物合传的形式，这是历史比较法的雏形，《史记》中的类传则是历史比较法的集中表现。这种方法使《史记》别开生面，大约就是司马迁在壮游过程中受到民间传说的启发而孕育成的。最值得称赞的是，司马迁在淮北对近现代史作了深入细致的寻访调查，比如陈涉少为庸耕有鸿鹄之志的慨叹，刘邦青年时的种种无赖，樊哙屠狗，曹参为狱掾，萧何为主吏，张良亡下邳，陈平为社宰，周勃织薄曲，韩信贫居葬母高敞地，少时受胯下之辱等等故事，都是档案记载“异哉所闻”的知识。两千年前的司马迁具有这样的求实求真的实践精神，真是难能可贵。
司马迁的游历考察，兼有历史家和文学家的兴趣。对于历史事件，大至秦始皇的破魏战争，小至战国时的一个城门名字，他都要力求掌握第一手的资料。至于山川地理，古今战场更是了然胸中。顾炎武说：“秦汉之际，兵所出入之途，曲折变化，唯太史公序之如指掌。山川郡国不易明，故曰东曰西曰南曰北，一言之下，而形势了然。盖自古史书兵事地形之详，未有过此者。太史公胸中固有一天下之势，非后代书生之所能讥也。”这是司马迁在史事方面所得游历之助。苏辙云：“太史公行天下，周览四海名山大川，与燕赵间豪俊交游，故其文疏荡，颇有奇气。岂尝执笔学力如此之文哉，其气充乎其中而溢乎其貌，动乎其言，见乎其文，而不自知也。”这是司马迁在文章辞采风格方面所得游历之助。总之，司马迁二十壮游，不仅使他获得了广博的社会知识，搜求了遗文古事；而且开阔了视野，扩展了胸怀，增长了他的识见和才干。这是《史记》成功的条件之一。
史书所记“过梁、楚以归”则表明，这是司马迁这次漫游的最后一段行程。大约在22岁的前后，司马迁漫游回到长安。这次漫游，对于司马迁来说是一个壮举，也是一次创举，这是他的学习和实践。他遍历名山大川，饱览了祖国山河的壮美，陶冶了性情，从而也提高了他的文学表现力。他游历了祖国的广阔山河，接触了各地的风土人情、历史传说、历史资料，亲自考察了历史遗迹，知道了许多历史人物的逸闻逸事，了解了许多地方的经济和生活，获得了许多第一手材料，他的收获不但丰富，而且宝贵。正所谓读万卷书，行万里路，这一里程碑式的漫游，无疑为整理《史记》这一历史巨著打下了坚实的基础，同时保证了《史记》的真实性和科学性。
