战争初期，苏联国家安全机关反间谍部门在对抗中没有任何优势。由于受到大肃反的影响，中央和地方反间谍机构人员严重短缺，根本无力对抗战前就精心准备、严格培训、并在攻占奥地利、捷克斯洛伐克、波兰、法国的行动中得到锻炼的德国间谍的猖狂进攻。1941年5月，德国组建了负责苏德战场侦察和破坏活动的专门机构，散布在德国陆军北方、中央、南方集群中，在戈斯“每个人都能、都应成为间谍，没有得不到的秘密”的鼓动下，对苏联进行最大规模的间谍破坏活动。
苏联反间谍机构显然没有任何准备，在战争爆发当天颁布的苏联人民国防委员会反侦察局战斗条令中明文规定其主要任务是查处红军中的反苏分子，德国间谍竟然不是主要敌人，只是在战争爆发5天后，才紧急了工作重点。
战争初期，间谍与反间谍活动领域的战略主动权被德军牢牢掌握，苏联反间谍机构的许多秘密文献被德军获得，机构、人员、行动计划等情况暴露无遗。苏联反间谍机构仓促应战，向前线派出不少特工，但损失惨重，大部分人被德军抓获，个别成功潜伏下来的特工得到情报后却因无线电技术装备落后无法及时汇报。使用其他方式则经常使情报失去了时效性，丧失了情报价值。还有部分特工因战时联系方式无效或遭到苏军特种部门盘查，无功而返。
不过，苏联反间谍机构随后及时应对，全面采取措施，动员一切力量，严格保守国家和军事秘密，在所有企业和机关建立严格的保密制度，禁止通过邮递渠道传播任何可能破坏国防能力和国家安全的消息，加大对抗德国间谍或其他破坏活动的力度，侦察德军间谍活动意图，清除叛徒和逃兵，保障大型工业目标东迁，组织游击队，建立侦察颠覆分队。
由于德国间谍活动方式各异，效率高，潜伏和隐蔽手段多样，苏联反间谍机构在较大工作压力下，在战事地区和后方积极采取措施，组建特种分队，搜查间谍和颠覆破坏分子，在前线各个检查站及有可能被渗透的地方加强警戒，设立流动哨，降低德军间谍渗透的可能性，减少其间谍破坏活动次数，全民动员，一旦发现敌特伞降，在接到当地居民报告后马上派出常备值勤队搜捕敌人，加强内部管理，提高情报、密码防护水平，转移档案文献，同时组织人员到德军后方进行侦察和破坏活动，组织游击运动，领导地下工作。
不久，苏联反间谍机构逐渐获得了一些优势，帮助苏军司令部巩固了部队战备水平，多次粉碎敌方间谍活动，仅在莫斯科保卫战期间就抓获了300多名德国间谍，击溃了50多个间谍颠覆队的活动。1941年，仅在西部战线，苏军反间谍机构和后方安全机关就发现并逮捕了1000多名德国间谍和破坏分子，德国在中部方向颠覆苏军组织、破坏前线基础设施的行动多次失利。1942年初，国家安全机关队伍得到了实质性的补充，集中力量全面打击德国间谍，到1942年底，终于基本度过难关，建立了高效行动系统，采取了系列防范措施，仅在1942年1-11月期间，就抓获了170名间谍，德国间谍此后再也无法获得苏联高层大型进攻战役准备方面的战略情报。
在战争后期，苏联反间谍机构工作更加出色，多次粉碎德国间谍侦察和破坏活动，抓捕了大量间谍和破坏分子，同时积极在敌后活动，获得了许多重要情报，其中不乏能左右战斗、战役胜负乃至战局的重要情报，为苏联最终战胜德国法西斯立下了汗马功劳。
