20世纪初期，上海作为全国最大的工业和商业中心，使得很多农民和商人纷纷迁居到上海谋生。结果就是在20世纪的前30年之中，上海的人口开始剧增。据一项统计显示：从1910年到1930年的短短20年之中，上海的总人口就由之前的100多万上升到了300多万，整整增加了2倍。而就在相对较为自由的租界内，其人口的增长更是惊人，从1895年到1910年的15年内，就由245675人增加到了501541人，而在增加的人口当中，以苏北人居多——受罗教影响巨大的苏北人中有很多人就是安清道友的道徒，这就为青帮日后成为上海第一帮奠定了人数基础。除了当时的贫苦农民之外，很多的落魄士兵、盐枭、土匪和地痞都拥入了上海。
20世纪初的上海是一座典型的移民城市，因此上海也被认为是中国凝聚力最为薄弱的一个地方。因此，在上海，同乡关系就显得非常之重要——同乡关系是中国很多民间组织形成的重要关系基础，尤其是这一因素在犯罪组织方面有着不可低估的作用。可以说，当时的同乡关系网就像一张犯罪组织网，很多的帮会组织头目在上海的活动范围就局限于同乡之间。比如说，当时在法租界的金久林和公共租界的顾竹轩的势力组成就是来自于他们苏北家乡的移民。
顾竹轩与虹口的同乡会的关系使得自己的势力大增，而后来的青帮大佬杜月笙则与浦东同乡会的关系密切。杜月笙在1932年与浦东同乡会建立关系之后，就开始以各种方式安插、渗透自己的势力，并在1936年的时候通过浦东同乡会来向一些迁入的居民收取保护费。
在20世纪20年代的时候，上海第一大帮派青帮的主要成员就来自三个地方——苏北、绍兴和宁波。在当时，绑架和持械抢劫已经成为青帮在上海的两种主要活动。绍兴帮以绑架为主，而苏北帮和宁波帮则以持械抢劫为主。在这一时期，上海的资本家都处于青帮的恐吓之中，他们尽量减少自己的活动，同时为了减少自己和家人的危险，他们雇用了大量的保镖来保护自己和家人。而那些影响力较大的资本家则通过与杜月笙、黄金荣、张啸林等青帮大佬建立友好关系来寻求保护。结果这种为资本家提供保护的方式也成为了青帮的一个重要经济来源。
在20世纪的上海，遭受绑架的并不仅仅是资本家。当时青帮已经到了无恶不作的地步，他们在上海建立了一个规模庞大的贩卖儿童的犯罪组织，贩卖男孩被称为“搬石头”，贩卖女孩被称为“摘桑叶”。男孩一般都是被卖到寺院或广州甚至东南亚等地做苦工，女孩则被贩卖到中国沿海港口的妓院或华北地区的烟花之地。当时，为了解救那些不幸的孩童，中西慈善家协会成立“妇孺救济会”，这个协会在12年的时间内就从青帮手中救出了3800多人，其中80%是儿童。
20世纪20年代，上海市民对于持械抢劫最为担心。1919年的时候，国际军火交易协议就规定军火交易的禁令。但是西方国家依然将中国当做是全球主要的客户之一——遍地林立的军阀不断地发动战争，他们是西方军火商最青睐的客户。在当时，上海由于独特的地理位置成为了走私武器的主要通道，而势力庞大的青帮就成为了走私武器的主要犯罪组织。在20世纪20年代的上海，青帮中的帮众几乎人手一支自动式毛瑟手枪。正如上海公共租界的一位英国巡捕所说的那样：“德国人造的毛瑟手枪都被运送到上海，而且都交给了黑帮分子，可以说上海的恐怖气氛和德国人有着很大的关系。”
随着移民的增多和犯罪数量的增加，上海的治安情况也开始出现严重的问题。但是，由于当时上海的治安系统并不完善，再加上其装备力量非常落后，很多时候根本无法维护社会安全秩序。事实上，当时的上海之所以无法有效地抑制青帮等黑势力，最主要的问题就是因为上海并不是一个城市，而是分裂为了三个城市——当时的上海是由法租界、公共租界和华界组成的，它们都有着独立的治安、行政和立法系统。这三个城区不仅有市政当局，还有司法系统，结果由于之间的职权不明，导致社会安全秩序无法维持。比如警察职能也会涉及国际关系。再加上当时三个独立的区域并没有达成惯例式的合作，就算有合作也大多发生在个别人或个别事件上。更令人惊讶的是，公共租界和法租界为了各自的利益，很少进行合作，甚至出现了在法租界发生抢劫后，法租界的警察只要将罪犯赶到华界或公共租界就不会继续追查，理由是不在自己的职权范围之内。法国代理总领事梅雷格曾经就向法国租界董事局承认过，在1925年五卅运动发生之时，法租界根本没有和公共租界架起直通电话——这也清楚地反映出外国行政当局之间以各自利益为重的冷漠程度到了什么地步！
当时青帮在上海如此猖獗的另外一个原因就是政治腐败，青帮向统治者缴纳丰厚的贿金或者是直接拉政府人员下水。比如，在1922年的时候，法国总领事维尔就开除过一个接受青帮贿赂的警察小队（由一个探目和四个巡捕组成）。而非常具有讽刺意味的是，那位被开除的探目最后利用手中受贿的600000法郎让他成为了法国一个着名的企业家。
在当时青帮已经同各个地区的统治者建立不错的关系，他们多数时候都生活在租界的交接地区，使得这些交接地区成为了着名的“三不管”地区。有人形容，当时的上海滩就是名副其实的“梁山泊”。
青帮在搞定上海统治者的时候，也不断地向警察部队渗透自己的势力。在20世纪初的时候，上海公共租界警务处华捕队的队长沈杏三既是黑帮大佬又是警察。在沈杏三任上海公共租界警务处华捕队的队长之时，整个公共租界的毒品买卖都是他一个人控制着的。20世纪30年代，沈杏三的继任者陆连奎也不例外，作为青帮头目的他几乎到了为所欲为的地步。当时一位很勇敢的中国记者在报纸上讽刺地说：“几乎上海公共租界警务处华捕队的每一个华捕都有犯罪记录。”而在后来的上海滩大佬黄金荣成为华捕队的队长之时，情况比之前更甚。
20世纪20年代在上海青帮的整合过程之中，张仁奎起到了重要作用。张仁奎生于1865年，山东滕县（今山东滕州市）人，他是青帮徐宝山的得力助手。1913年徐宝山被炸死之后，张仁奎就接替了他的位置。张仁奎与各地军阀的关系极为密切，1917年他担任通海镇守使的时候，就以青帮“大”字辈的成员身份开始在各地发展青帮势力。到了1919年他已成为上海的近代青帮和苏北的安清道友之间作为连接点的代表性人物之一，势力已经扩展到了山东南部和苏北地区，并且影响到了上海和江南地区。
20世纪20年代的时候，张仁奎成为了上海地区最有声望的头目之一，很多的青帮帮众都想成为他的门徒，而他的“兴武六”已经成为了青帮在上海最大的派别。根据20世纪30年代陈国屏所编纂的青帮史料记载，全国有40%的“兴武六”支派的通字辈成员都是张仁奎的属下。而在当时，张仁奎就是依靠着自己巨大的实力和影响力，顺利地使青帮成为上海第一帮派。
当然，青帮要在上海成为第一大帮派，仅仅依靠张仁奎还是不够，而另一个作出贡献的人物就是顾竹轩。作为苏北移民的顾竹轩最早只是上海的一名人力车夫，但是他后来开办了自己的车行，并通过加入青帮成为上海滩的大佬来谋取利益。而顾竹轩让青帮在上海成为第一大帮，很大程度上都是因为他的“嗜杀”，当地人有句话这样形容顾竹轩——“一个顾竹轩，愣是活活地杀出了天下第一帮。”
此后，在张仁奎和顾竹轩之后的黄金荣、杜月笙、张啸林等人又将青帮带上了顶峰——青帮成为了20世纪上半叶在上海的最大帮派，也是民国第一帮派。
