直到抗战时期，上海一直是戴笠特工活动的主要地区。甚至早在特务处从复兴社内部成立之前，戴笠就已经派遣了特工核心组——翁光辉、陈志强、王昌裕等去上海城市的各个部门进行特工活动。1932年4月特务处一成立，蒋介石就向戴笠布置了两项任务：反共和排除异己，这使上海更加成为戴笠的重点。他们利用城里的国际租界作为活动天堂和避风港。
最初上海站的站长是翁光辉，它以地方组织“股”的形式存在。翁毕业于黄埔三期，曾当过海军情报员。翁的工作开始时比较简单：领导分成三组的三四十个特工，他们分别由陈志强（翁的同学，从上海去黄埔军校。在这之前是个流氓，加入过帮会）、王昌裕（广东琼州人，黄埔五期）和徐昭骏（四川人，也是翁的同学）直接领导。后来，增加了一个由杭州训练学校毕业的特工组成的四组，由张人佑（温州人）直接领导。这些战地小组专门从事间谍活动，它们在上海的南市、法租界、国际租界（即英租界）和闸北（包括江湾和吴淞口）活动。
那时上海站的活动经费非常微薄，每月只有二百元，但它顺利地在剌斐德路、吕班路和西门路租下了房子。特工们都有意变换地址，以防共产党发现——至少在特务处眼里，他们控制着上海的外国租界。
当时特务们胆子很小，生怕共产党进行报复打击，区部除几个组长能来往，一般组员都不知道区部设在什么地方。每天进出也怕人跟踪，连一部汽车都没有。当时只有行动组的一辆汽车，除了做绑票暗杀外平日都不准使用。
开始，上海站与南京的特务处总部之间的联系非常简单。收集到情报以后，就用隐性药水抄写下来，用普通邮件寄往中央总部。1933至1934年间，特务站和它的特工之间的联系也非常原始：外勤特工员使用的是没有特别掩护的普通邮箱，而信使的时间大都花在从一个个邮箱里挑拣出“直属通讯员”每周的情报信件。当沈醉在1932年加入特务处时，上海站一共只有160——170人左右，其中30人为内勤人员。
翁光辉当上海站区长时间并不长。他因为企图不先通过戴笠而直接向蒋介石发送一份重要情报，被撤了职。取代他的是原南京和杭州训练班教官余乐醒。余（又名纯云、增生），化名金鸣三，是湖南醴陵人。他在法国勤工俭学后又去了莫斯科中山大学学习过“契卡”和秘密保卫工作。他接管上海站后，该站扩展成为华东区站，并增加了一个特别行动组，叫做“华东区行动组”。行动组起初由20来个打手和帮会分子组成，他们都是有经验的抢匪和杀手，由赵理君率领，而后者善用酷刑和暗杀的本性最终导致了其本人的灭亡。赵的办公地是在法租界迈尔西爱路上的一座三层楼房里。他在外指挥的暗杀是直接在南京总务处监督下进行的，该总务处也掌有行动组的人事和财政权。但行动组在当地进行的绑架和秘密逮捕则由独立于南京的华东区领导。
从原则上说，华东区负责江苏、浙江和福建地区的秘密特工活动。但实际上，除上海以外，任何区站都不愿接受大区的领导。于是，上海站不久便重新命名为“上海特区”，而大区下的基层组织则仍旧是收集情报的各个小组。到了1934年抗战爆发之前，一组仍由陈志强领导，二组由沈醉带领，三组是王昌裕，四组是张人佑。1934年吴乃宪成为华东区区长后，每个组与专门的区域挂钩：一组成了“南市组”，二组变成“法租界组”，三组是“国际租界组”（或英租界组），四组是“沪西组”。