日本首相是自卫队的最高指挥官。首相任命防卫大臣掌管防卫省，负责陆海空三军的具体管理运营。为了辅助防卫大臣管理三军，防卫省内设有“幕僚监部”，即负责统合运用陆海空三军的“统合幕僚监部”和对应三军的“陆上幕僚监部”、“海上幕僚监部”和“航空幕僚监部”，简称统幕、陆幕、海幕、空幕。
自卫队由陆海空三军构成。陆上自卫队现役人员约14万，下辖北部、东北、东部、中部、西部五大方面队以及一个中央应变集团。五大方面队的命名简单明了地显示了各自驻防的军区。与驻守各地的方面军不同，中央应变集团是为了能够快速应对海外派遣和国内灾难而成立的专业机动部队。
海上自卫队2011年时已拥有各型舰船143艘，总吨位45万吨，由五大地方配备部队和一支具有相当实力的自卫舰队构成。五大地方配备部队是驻防于横须贺、吴、佐世保、舞鹤、大凑等重要港口的地方军队。自卫舰队主要由护卫舰队、航空集团和潜艇编队等主力部队构成。据说该舰队的舰艇实力可媲美美国的太平洋舰队，是海上自卫队的底气之所在。
航空自卫队拥有作战飞机约400架，作为主要战斗力量的航空总队又分为北部、中部、西部航空方面队和一个南西航空混合团。[1]
陆海空三军的专业领域不同，所配备的装备自然也不一样。不过，由于和平宪法的专守防卫立场，三军是不可以拥有侵略型武器的，也就是说不能配备弹道导弹、巡航导弹等远程攻击武器，也不可以拥有航空母舰、巡洋舰等舰种。
此外，三军的行事风格也有极其鲜明的特征。“用意周到、动脉硬化；传统墨守、唯我独尊；勇猛果敢、支离灭裂”这24个字就是专门用于描述陆海空三军迥然不同的形象的。
陆上自卫队占自卫队总人数的六成。要驱动这样一个庞然大物绝不是一件容易的事情。因此，即使是一个极其微小的变化，陆上自卫官也习惯于再三确认、反复推演，以求正式行动时能万无一失。同样一次行动，陆上自卫队准备的文书、计划、函件往往是航空自卫队的数倍之厚。当然，仔细谨慎过了头，有时就难免会导致军队的整体动作出现僵化，“用意周到、动脉硬化”说的就是陆上自卫队。
作为岛国，日本的海上力量是三军的翘楚，以“帝国海军正统继承者”自居的日本海上自卫队有着极强的荣誉感和认同意识。在某些情况下，那极其自然的俯视态度完全可称得上是天赋攻击技能。有人曾毫不客气地嘲讽，表示只有美国海军才是海上自卫队的友军。但不管怎么说，肩负着传统和荣光的海上自卫队的特点就是“传统墨守、唯我独尊”。
如果说陆军的行动速度以日计、海军以小时计，那么空军的速度则要以分计。快速、敏捷、爆发力强是空军的特点。比起陆军，航空自卫队的行动程序显然更为简洁快速。但动作快往往意味着准备不足、行动草率、作业粗糙，各个分部间的配合难以一致，真是非常贴合“勇猛果敢、支离灭裂”的描述。
谨慎的陆军、骄傲的海军、狂放豪爽的空军，三种鲜明的形象已跃然纸上。此外，日本人还用三种食物比喻三军：陆上自卫队是饭团，海军自卫队是咖喱，空军自卫队是汉堡包。什么意思呢？陆军自卫队队员的驻防区域往往离本人的出生地不远，他们抱着“我的家乡我来守护”的强烈意识，即使是吃简单朴素而且便宜的饭团，士兵也毫无怨言，默默地坚守自己的岗位。海军自卫队的咖喱实际上是旧日本帝国海军的一项传统饮食。最初，以大米为主食的日本帝国海军军人大面积患上了脚气病。为了防治这一疾病，海军参考同盟国英国的做法，将蔬菜炖肉添入了海军的菜单。之后，又将小麦粉融入咖喱味蔬菜炖肉内，逐渐演化成了现在的日式海军咖喱。目前，海上自卫队内咖喱风依然盛行，每支舰队都有自己独特的咖喱菜谱。以前曾是海上自卫队基地的神奈川县横须贺市就依照海军烹饪书，推出了“横须贺海军咖喱”，相当受欢迎。最后一个是空军的汉堡包，这个食物主要是受到了美国的影响。战后，日本空军是在美军的呵护扶持下开始起步的。不要说设备，就是训练课程都包含有部分的美式特征。所以说，汉堡包是美式空军自卫队的最好体现。
[1] 除航空总队外，航空自卫队还包括航空支援集团、航空教育集团和航空开发实验集团等机构。