命运动风起云涌，但也暗流涌动。俄国社会民主工党内部，围绕着党的组织原则、革命策略等问题，不同派别之间争论不休。1903年，在党的第二次代表大会上，这种分歧终于公开化，导致了党的分裂。一派是以弗拉基米尔·伊里奇·列宁为首的“布尔什维克”（俄语意为“多数派”，虽然在最初投票时只是险胜），他们主张建立一个由少数职业革命家组成的、纪律严明、高度集中的先锋队政党，通过暴力革命夺取政权。另一派则是以尤里·马尔托夫为代表的“孟什维克”（俄语意为“少数派”），他们更倾向于建立一个广泛吸收党员的群众性政党，主张通过渐进的、合法的斗争方式来实现社会主义。
在这场决定党未来走向的关键分裂中，远在外高加索的约瑟夫·朱加什维利，毫不犹豫地选择了站到列宁和布尔什维克一边。 他认同列宁那种不妥协的、激进的革命主张，也欣赏列宁那种钢铁般的意志和严密的组织纪律。从此，他成为了列宁忠实的支持者和追随者。
对于布尔什维克这样的地下革命党来说，经费问题一直是个大难题。搞宣传、印传单、组织罢工、购买武器……哪样不需要钱？可钱从哪儿来呢？总不能指望资本家发善心吧？
于是，一些胆大包天、不择手段的布尔什维克分子，就把目光投向了银行和运钞车，搞起了所谓的“战斗性征用”（说白了就是抢劫），为党筹集经费。 而咱们这位未来的“钢铁之人”，在这方面也展现出了他冷酷果决的一面。
1907年6月，第比利斯市中心发生了一起震惊沙俄帝国乃至整个欧洲的银行抢劫案。一伙武装分子光天化日之下，用炸弹和手枪袭击了护送巨款的国家银行运钞马车，成功劫走了数十万卢布的巨款（这笔钱对当时的布尔什维克来说，简直是雪中送炭）。虽然斯大林本人没有直接参与现场行动，但据多方史料（包括一些当事人的回忆和后来的调查）显示，他正是这起大胆劫案的主要策划者和组织者之一。 他利用自己在外高加索地区的人脉和对当地情况的熟悉，精心策划了整个行动，并为行动人员提供了掩护。 这起事件虽然在党内也引起了一些争议（孟什维克就强烈谴责这种“强盗行为”），但也让列宁等布尔什维克领导人看到了斯大林身上那种为了达到目的不惜一切代价