这位雷厉风行的母亲立刻赶到第比利斯，前去“拯救”她儿子。她坚持要住在索索的房里。

在被释放，而试图介入自己生活的母亲也回了老家之后，斯大林又展开了动员全城工人阶级的活动：这一次，他点燃的是铁路工人的热情。他一直都待在火车站的仓库里，“那是一栋长条形的石头建筑，上面有大大的格子窗，敲击声震耳欲聋，火车冒着烟轰鸣着进站”。最初，他的同志们让他负责两个铁路工人秘密团体——所谓的“小团体”。据斯大林回忆，当时的他“完全是个菜鸟，一个毫无经验的初学者”。

斯大林出色地完成了工作。他的行头恰如其分，用托洛茨基的话来说，“一个革命者，特别是来自于乡下的革命者，大抵就长成这样”：胡子、不修边幅的长发、黑色绸缎的俄式上衣，以及一条红色领带。他甚至故意让自己显得很不整洁。据伊利马什维利回忆，“他永远都穿着那身脏兮兮的上衣和一双早已失去光泽的靴子”。

索索不知疲倦地教育着他所负责的小团体，向他们宣传革命思想。“我们为何贫穷？”他的问题直戳这一小帮工人的痛处，“我们为何被剥夺了权利？我们又怎样才能改变命运？”而他本人对这些问题的答案则是马克思主义信仰和参加俄国社会民主工党。

工人们非常信服这位年轻的“布道者”——很多革命者都是神学家和从虔诚农民转化而来的工人，这并非是巧合。他们中的有些人甚至给索索取了个外号，叫作“神父”。“这是一次神圣的斗争。”第比利斯的革命者米哈伊尔·加里宁说。而同一时期，正在另一城市做革命启蒙工作的托洛茨基则回忆说，很多工人都认为革命组织像“早期的基督教会”，他们却被教育必须成为无神论者。