在苏联，以列宁领导的共产国际十分重视培养各国革命干部以推动世界革命运动的开展。早在1921年春，在莫斯科就成立了东方大学，设有中国班、日本班、朝鲜班等。斯大林担任东方大学的名誉校长，苏勉斯基为校长。东方大学座落在莫斯科的马拉甫蒂洛夫大街，是一座方块形的四层大楼。该校招生人数为300人至400人，学生的衣食住行等费用都由第三国际东方部提供。1921年春天，刘少奇、任弼时、肖劲光等人在共产国际代表维金斯基的帮助下，经过化装前往莫斯科，共20多人组成了东方大学的中国班，由罗亦农任班长。1923年3月至1924年9月，在共产国际和苏联政府的同意和协助下，在巴黎的中共旅欧支部成员先后有三批赴东方大学学习，其中有赵世炎、王若飞、刘伯坚、陈延年、陈乔年、聂荣臻、李富春、蔡畅等人。
在中国，第一次国共合作实现后，革命形势迅速发展，东方大学中国班及国内的黄埔军官学校所培养的干部已不能满足实际的需要。
1925年3月12日，孙中山先生在北京逝世，引起了苏联共产党的重视。他们为了纪念孙中山先生、培养各国革命干部以推动世界革命，决定在莫斯科筹办中山大学(俄文名称为“孙逸仙大学”)，这一消息由共产国际代表鲍罗廷在1925年10月7日举行的国民党领导人会议上宣布。根据鲍的阐述，这所大学归第三国际东亚部领导，实际上它隶属于苏联共产党中央委员会。中大招生的消息一经公布，各地向往革命的青年，纷纷报名报考。当时，处于合作期的国共双方都分别选拔了一部分青年前往莫斯科。
中国共产党选派去莫斯科中山大学的学生，一部分是留欧青年(主要是留学西欧的勤工俭学生)中的党团员，如邓小平、傅钟、杨品荪等人就是被通知直接从法国赴苏联的；一部分是从国内选派的党团员和进步青年，如张闻天、王稼祥、乌兰夫、伍修权、沈泽民、左权等。国民党方面也选派了蒋经国、谷正纲、谷正鼎、康泽、汪少伦、邓文仪等青年到中山大学学习。这些青年们满怀着奔向第一个社会主义国家的激动心情，开始了艰难的旅程。
1925年10月下旬，第一批赴苏青年在杨明斋和周达文的率领下，搭乘由上海开出的一艘苏联煤船出发了。旅途是漫长而又辛苦的，大部分人睡在船甲板下的统舱里，船上每天吃的是面包，大块糖，好多人吃不习惯，加上晕船，常常呕吐，十分难受。在海上航行的时候，正赶上十月革命八周年纪念日，船上举行了纪念会，整个船充满了无产阶级国际主义的友好气氛。“在这次集会上，我第一次听到了《国际歌》，那悲壮的歌声一下子就抓住了我的心。开始，我只是跟着哼哼，慢慢地也就会唱了。”当年的伍修权，内心充满的就是这样的激情。经过半个多月的航程，11月10日他们顺利抵达海参崴。由于苏联方面已有安排，青年们很快就乘上了开往莫斯科的火车。那时的火车还很落后，每节车厢安了个取暖的大油桶火炉，火车头要靠烧劈柴生火，每走几站就要停车搬新的木柴上车。车上没有餐车，没有饮水，全靠停站供应。 从海参崴到莫斯科7400公里，当时正值冬季，一片冰天雪地。火车外漫天飞雪，车内人人冻得哆嗦不已，整整爬行了两个多星期才抵达莫斯科。不久，由广州出发的第二批国内留苏生也到达莫斯科。第三批抵达的是邓小平、傅钟等来自法、德、比利时等西欧国家的中国共产党青年。