宋教仁与黄兴的相识是在1903年8月。当时黄兴到武昌，他一面公开抨击清朝的统治，散发邹容的《革命军》和陈天华的《猛回头》，一面在暗中联络志同道合的朋友。宋教仁此时也在物色同志，他听了黄兴的演说，十分敬慕，黄宋两人因此结交，从此成为至死不渝的挚友。与黄兴的结识，也是宋教仁决心投身反清革命事业的标志。
1903年11月4日，这一天是黄兴30岁生日，一群年轻人聚集在长沙保甲局巷彭渊恂家，他们以为黄兴祝寿的名义秘密商议成立革命团体。他们决定成立华兴会，并举黄兴为会长。21岁的宋教仁参加了这次聚会并且是华兴会的骨干。除了黄兴和宋教仁外，参加华兴会成立会的还有章士钊、刘揆一、胡瑛、周震麟等人。未参加成立会的骨干分子还有陈天华、杨毓麟、刘道一等。这些人和宋教仁一样，都是读书人，有的留学日本，有的在国内学堂读书，也有少数教师。
华兴会确立自己的宗旨是：“驱除鞑虏，复兴中华。”为避免引起清政府的注意，对外采用“华兴公司”的名义，以半公开的形式出现，并声称公司的业务是“兴办矿业”。
华兴会成立后，就着手扩大组织，准备发动起义。按照黄兴的意见，他们采取的是“雄踞一省，与各省纷起”的战略。先取湖南为根据地，同时联络各省争取响应，重点是邻近湖南的湖北和江西。年轻的宋教仁在华兴会的活动中初步显露出卓越的组织才能。宋教仁参加的活动和组织有：
长沙日知会。由长沙基督教圣公会牧师黄吉亭创立，黄兴、宋教仁、陈天华等都是记名会员，华兴会借日知会进行活动和宣传，后来华兴会起义失败，黄兴、宋教仁先后脱险出走，又得到黄牧师的掩护。
东文讲习所。黄兴、宋教仁、秦毓鎏、张继等创办，对外的名义是一所学校，招收15—22岁的年轻人，向日本工厂输送人才。但它实际上是华兴会培训党人的场所。
1904年11月5日，宋教仁来到长沙。但是长沙已发生了意外变故。原来华兴会的领导人对于秘密组织起义缺乏经验，有些活动几乎处于半公开状态，再加上会党较为散漫，从而为清政府当局侦知。会党头目游得胜、萧桂生等被捕，起义计划完全暴露。湖南巡抚立即悬赏捉拿黄兴、刘揆一、宋教仁等。黄兴在长沙龙璋家族和黄吉亭牧师的帮助下出走，刘揆一也离开了长沙。
宋教仁到长沙的时候，还不知道上述情况，他找了两处秘密机关，又找到黄兴家，皆不见人。正在这时，碰到革命党人曹亚伯，方知长沙方面已事泄失败。宋教仁想要派人回常德发动起义，以牵掣省会，却又一无武器，二无经费，踌躇两日，只得作罢。宋教仁设法安置好同来的朋友，自己决计远行，黄吉亭牧师慷慨借给路费，于是宋教仁于11月7日乘一条运煤船赴武汉。
第一次武装起义遭到失败，宋教仁十分悲愤，再加上所乘的船是旧式小船，航行很慢，11月10日船才进入湖北，所以心情更加抑郁，舟过湖北螺山，宋教仁写下长歌一首：
噫吁嘻！朕沅水流域之一汉人兮，愧手腕之不灵。谋自由独立于湖湘之一隅兮，事竟败于垂成。……展支那图以大索兮，无一寸完全干净汉族自由之土地。披发长啸而四顾兮，怅怅乎如何逝？则欲完我神圣之主义兮，亦惟有重振夫天戈。
长歌表达了宋教仁推翻满清、恢复汉族江山的理想，并希望能够重整旗鼓，再次发动起义。而歌中两度出现的“自由”字样，说明宋教仁已受到西方民主思想的某些影响。
煤船整整走了10天才于11月16日到达武昌。由于华兴会的关系，建立在湖北的科学补习所已被封闭，“各营兵皆装束齐整，满街梭巡，城门严查出入，以防华兴会趁机起事”，同时武昌知府兼文学堂提调梁鼎芬宣布开除宋教仁和欧阳瑞骅学籍，宋教仁在武汉也已无法立足。第二天，宋教仁遇到胡瑛，胡瑛告诉他，黄兴、刘揆一已经到了上海，重新组织团体，并以“启明译书局”作为掩护。于是宋教仁决定也去上海，朋友们给他准备好了日用物品，并为他买了船票，宋教仁便乘上瑞和号轮船于17日晚离开武汉。
11月21日，宋教仁到达上海，不料黄兴、章士钊、张继等人被捕。黄兴化名假称为江西新军统领郭人漳的随员，不久即获释，但是在上海却难以继续开展革命活动了。黄兴随后即赴日本。宋教仁在上海流连半月之久，大概是为筹措旅费，也可能是为营救其他被捕的革命党人。12月5日，宋教仁才登轮赴日。
