第二个委员会是大本营，它主要是军事性质的，负责指导陆、海、空作战。斯大林任主席，第一批委员只有莫洛托夫、铁木辛哥、伏罗希洛夫、布琼尼、沙波什尼科夫、朱可夫和N·G·库兹涅佐夫。其他军队代表，包括参谋部和支援兵种的头头，在需要时列席会议，国防委员会和政治局成员有时参加大本营的会议。斯大林是一切活动的中心，会议不是在他的克里姆林宫办公室里进行，就是在他的莫斯科郊外的别墅里进行。虽然铁木辛哥已辞去了国防部长职务（事实上的部长是斯大林），国防部依然存在。总参谋部和各兵种的参谋部只是大本营的执行机构而已。大本营里很快就有一批高级军官，有的是正式成员，有的是吸收进来的，主持制订各种计划。这些人有瓦杜丁、华西列夫斯基、安东诺夫、沃罗诺夫、什捷缅科、费德林、戈洛瓦诺夫和诺维科夫。有些人是参谋人员或兵种的专家，或战地司令官。很多人常在关键性军事行动中被派去指挥或协调方面军的行动。除布琼尼外，所有军官都有一定的才干。苏联海军司令和空军的代表也是大本营的成员。
按理说，斯大林在国防委员会和大本营中居于首脑地位，所以，他既是成员又是主席。但是，在公众的心目中，德国6月22日入侵，苏联遭到惨败，显然使这位独裁者认识到自己判断的错误，在短时间内他不再突出自己的首脑地位。然而，可以肯定，他丝毫没有放松对国家事务的控制。在这之后，他开始埋头研究军事问题。他作为第一把手来指导战争，在决定一切重大的政治、军事问题方面，只能由他拍板定案。除了革命时期当过政委和对波兰的短期战争中当过人民委员外，他在军事上没有经验。他在这方面的天才也许远不如希特勒。沉默寡言、谨小慎微的科涅夫在1944年底当德热拉斯问到战争领导人的才能时，批判地评价了伏罗希洛夫、布琼尼和沙波什尼科夫。在谈到斯大林时，他说这个独裁者能卓越地掌握战争的全局，因而指导战争非常成功。除此之外，他未作其它评论。
科涅夫自然要说些好话。他所说的，尤其重要的是他所没有说的，可能在某种程度上表明了他的真实思想。无疑，斯大林作为一个政治家和国家元首，完全能对战争中较大的战略问题和经济问题作出判断，采取行动。然而他作为大元帅，实际上是靠命令和恐吓，亲自严密地控制着军事行动。有例子表明，他像希特勒一样不知什么是切实可行的，这是由于他未受过军事教育和缺乏经验。他在军事上有许多看法是错误的。最初，他更多地考虑守住阵地而不是保存他的军队。也许他应对战争头一年在乌克兰蒙受巨大损失负主要责任。战争初期，他手下的指挥官是不幸的，而且是不称职的。有些人被他处决了，如西方方面军司令巴甫洛夫。对波罗的海地区西北方面军司令F·I·库兹涅佐夫之类的人，他只宽容一、两次而已。对布琼尼则停止使用。然而在大战头几个月里，他就开始向大本营调集有能力、有才干的高级军官。这些人成为苏军最高统帅部力量的来源。由于有单独的内务人民委员部和政委联系网，斯大林对战争的进展知道的比方面军司令要快得多。
每当反对力量受到镇压，谋士们因担心自己的意见与独裁者的意见相左而不敢出主意时，一个好的政府必定会遭殃，不论是法西斯政权还是共产党政权，均是如此。战后苏联元帅们描述了斯大林如何个别征求国防委员会和大本营成员的意见，如何考虑他们的看法和建议，最后才作出决定。这些可能是真的。然而危险始终存在。这些军官的前程、自由和生命全都掌握在斯大林手中，他们对大清洗记忆犹新。有些人虽然已恢复了名誉，并从集中营里释放出来，他们应感谢希特勒，而不是斯大林，因为当时战争已迫在眉睫。苏军最高统帅部的确犯有错误，有的还很严重，而且在战争的很长一段时间里继续在犯错误。然而国防委员会和大本营对战争的指导在很多方面胜过德国的国防军最高统帅部和陆军总部。
国防委员会有一切权力。大本营这个军事机构，是一个联合机构又是集权机构。战略行动是在参谋人员详尽地准备和计划之后采取的，而不是凭直观或草率决定的。在这个意义上，苏联最高统帅部与希特勒权宜之计的战略及作战指挥形成鲜明的对照。德国人之所以强大，是由于军以下战地指挥官有很好的战术素养。而苏联1941年和1942年期间上层的领导者比德国人强，往下各级明显地越来越差，军、师指挥官缺乏主动性、作战经验和训练。在大战初期，这种现象致使克里姆林宫最好的计划也不见什么成效，因为苏军缺乏经验，无法执行这些计划。而德国人在战术上取得的赫赫胜利却因为没有战略的连贯性和合理性而变得没有什么价值。
可能除了对炮兵特别偏爱外，苏联的军事思想继承过去的很少，来源于帝俄沙皇军队的有价值的东西也不多。1933年前，当苏军和德意志帝国之间尚有联系时，苏军的组织严格地仿效德国。以后，苏军最高统帅部毫无顾忌地承认，有些乱了手脚，只得到处收集情报，抄袭其他外国军队。它从西班牙的经验中吸取了错误的教训，其中包括分散大的装甲部队，并把很多坦克下放到步兵师。
苏联最初曾创建了四引擎重型轰炸机战略部队的核心力量。但是，西班牙战争之后，苏联又学习德国人的做法，把方针来了个倒转，它优先生产战斗机、强击机和适用于对地面作战进行近距离支援的轻型轰炸机。陈旧的重型轰炸机保留下来由一个指挥部管，用于运输部队和补给品。苏军飞行员首先应当是个陆军战士，其主要任务是和炮兵一起为地面部队提供火力支援。飞行员受陆军指挥，他们对破坏敌人的经济以及进行战略轰炸不感兴趣。他们穿陆军服，与炮兵和步兵唯一的区别是领章上有一个浅蓝色的兵种符号。大战前不久，飞行部队改变了编制，使它们更容易适应地面部队的编制。到1941年，空军旅改成航空兵军、航空兵师、航空兵团、飞行中队和飞行小队。航空兵师（可能是轰炸机师、战斗机师或混编师）置于方面军或集团军指挥之下。
苏联陆军航空兵在1941年数量很大，但第一线的飞机中百分之八十多已陈旧。用德国标准看，飞机的设计粗糙。标准的战斗机是伊尔5和伊尔53，后者是一种双翼飞机，最高航速每小时二百二十英里。还有一种是伊尔6，它是一种下翼星形发动机单翼飞机，虽然很灵活，但最高航速约每小时二百八十五英里，赶不上德国的中型轰炸机。TB1和TB2重型轰炸机的最高航速每小时只有一百三十多英里。最快的轰炸机是中型的SB1和SB2轰炸机，最高航速分别为每小时二百二十英里和二百六十英里。据说，到1941年6月，一千七百架新战斗机已开始启用，主要是雅科1、拉戈3和米格3，这些飞机均不如梅109，但只有十九个航空兵团完全得到新的装备，带有尾部装甲的单引擎伊尔2新型强击机刚开始服役。用于战术支援，这种飞机是很好的，最高航速为每小时二百八十英里，但几乎不能作为战斗机使用。佩2双引擎轰炸机外形有点象德国的梅110，最高航速约为每小时三百四十英里。这种飞机数量很少，性能可靠，用作长距离战斗机和轻型轰炸机很好。双座双翼飞机波2（或称鸟2），最初是1927年设计出来，在整个大战中用于侦察、通信联络，甚至执行轰炸任务，最高航速每小时只达一百英里。
飞机上的辅助设备质量很差，或者根本就没有。雷达、定向和定位辅助装置也没有。1941年，苏联无线电工业还不能满足部队的需要。空军中，无线电台只有中队长才有，而且质量不稳定，常常无法使用。飞机里没有通信设备。飞机之间，飞机与基地或地面部队不能靠无线电台联系，飞行员只能使用信号弹和飞行动作传递信号。空军部队之间的地面联络系统限于电话和有线电报，仅有的无线电台很原始，指挥员通常不肯使用。
大战后期，苏联成功地生产了性能得到很大改进的飞机。尽管如此，苏军的飞机在飞行速度、飞行距离、机动性能和爬高速度方面仍不及德国空军的飞机。所以，一直到大战最后一年，德国人一般仍能取得局部空中优势。然而，即使在初期和最困难时期，苏联空军也从来没有被完全打垮过。在有的区域，它被消灭。然而，在其它区域，它很活跃，甚至取得空中优势。原因是战线长、内地幅员广以及德国空军的兵力有限，相当部分的德国空军因为英美对德国的空袭而受到牵制。另一个原因是苏联空军质量最差，数量却很多。即使气候不好，空中仍有飞机。尽管训练达到的标难相对说是低的，但是飞行员和地勤人员能吃苦耐劳，应急工作的本领特别强，苏联人常常使用甚至是陈旧的、使用价值非常令人怀疑的飞机。
英美使用空军力量时高度集中，数量很大。与此相反，德国空军和苏联空军倾向于分散使用其大部分空军力量。再加上战区大，所以或许除了最初几周的中部战线和最后阶段在白俄罗斯、罗马尼亚和加利西亚外，航空兵参战对地面部队战斗的胜败几乎不起决定性的作用。
1935年前，苏军没有世界上其他国家常见的礼节和军衔制度。1935年、1939年和1940年颁布命令之后，全都恢复了，而且还增加了沙皇时代没有的少校和上将两级。大战爆发前五年里，军官的生活、教育和文化水平大为提高，薪金提高百分之三百。此外，还有极好的住房和许多特殊待遇。
苏军几乎完全是执行义务兵役制，正规军军官和较高的军士是职业性的。应征入伍的士兵服役两年，只有当了下士才延期到三年。空军不管什么军阶的士兵服役期均为三年，海军长达五年。士官是从表现突出的士兵中挑选，要求受过良好的教育，强调是党、团员。内务人民委员部可以从应征入伍者中优先挑选边防军和内卫部队需要的人。在苏军中，入伍的人要分成等级，最好的分到空军，最差的分到陆军，仅次于空军的是炮兵，然后是工程兵和坦克兵。
根据苏联战后的记述和所出版的那时使用的苏联纪律条今和野战勤务条令看来，苏军似乎是一支有高度战斗力和纪律性的部队。西方作者有时引用这些条令说明苏联武装部队的士气和训练状况。然而，事实却与之相反。条令和贯彻情况有很大的差距。那时，人民还很幼稚，军事系统往往并不有效，有时还是腐败的。在西方人眼里，这些条令的条文和实施都很古怪。有时军官对酗酒的士兵毫无办法，而军官自己可能因为酗酒而立即关禁闭。在政治性会议上，军官也许会受到最普通的士兵的公开批评。集团军司令可以在下达范围很广的命令中对他的师长进行报复性的人身攻击。不同部队的纪律和战斗力有很大的差异。尽管部队不允许放荡行为，然而部队中常见的恶习是酗酒、麻木不仁和擅离职守。政治上的不可靠常常招来残酷的惩罚，而且对滥用或丢失政府财产的惩罚往往很严。军队的纪律并不是令人感到厌恶的，用德国人的标淮衡量无疑是松得很。
平时和战时都有妇女在部队里服役。军医和卫生员中妇女占的比例很高，多数应征入伍的妇女做很多辅助性工作，甚至在野战部队里，代替男子当秘书、打字员、电话员和炊事员。交通警常常是妇女。妇女有时被派去当伞兵、狙击手、游击队员这类引人注目，可供大肆宣传的工作。德国兵遭到武装妇女枪击的事得到报道，偶尔还可以看到在坦克乘员中有妇女，她们可能是无线电报务员。但是，确实有妇女当坦克指挥官的情况。
德国人一向强调苏联人生活如何清苦。这容易使人对苏联军人的状况产生误解。第二次世界大战中，德国军人的特权、薪金和休假得到很好的照顾。苏联军人薪金低、没有休假，对没有特权也没有异议，因为他们无可奈何。在部队里，他们装备很好，穿得很好，倘若条件许可，吃得也很好。官兵关系通常是亲密和睦的。除非在紧张时期，士兵和政委的关系并不总是像德国人所说的那样坏。只要不被拘留，军队里很少有野蛮行径。另一方面，政治上的嫌疑分子的遭遇远比犯罪分子悲惨。因为政治上的过失被内务人民委员部逮捕的士兵，就丧失一切权利，他们的生命一钱不值。苏联军人对待战俘、甚至对被占领国的人民可以草菅人命，然而对自己的生命无疑是珍惜的。
对人命最不爱惜的是斯大林和苏联政府。在国内战争和强制推行农业集体化时期，为了达到某个政治目的，几百万俄罗斯人和苏联人惨遭杀害。1940年在芬兰的冬季战争遭到失败后，苏军指挥官和政委有权当场枪决胆小鬼。虽然和平时期这类事不太会发生，战时在需要时就行使这种权力。并非只是胆小鬼才有这种命运，那些无能者、不幸者和不成功者，那些目无长官的人的命运也是如此。于是把那些犯过错误的前军官和军士组成惩罚营，以示惩戒。苏联不是日内瓦协议和红十字会的签字国，对战俘的态度完全是根据实用主义原则。德国、罗马尼亚和意大利战俘被送进劳动营（这对苏联的经济是不可缺少的），其中多数人只有死后才能离开。莫斯科对落入德国人手中的战俘的死活全然不感兴趣，公开声称他们是叛徒。得到遣返的战俘往往只是从一个战俘营转到另一个。苏联当局还不满足对回来的战俘进行报复，因为报复不足以防止战斗中有人叛逃或投降。它还采用国内战争时的方法，把军人全家作为他在战斗中表现的人质。被俘人的亲属有可能，而且很多情况下确实被判处长期徒刑。
苏军与德军的不同在于它的编制符合逻辑、合乎常理，责任明确，职能上没有重叠。与德军一样，苏军的主要力量在步兵师。多数师里有一个坦克营，有三十辆装甲车和坦克。除此之外，师一级的编