Её название, придуманное лично советским лидером Иосифом Сталиным, расшифровывалось как "Смерть шпионам". Контрразведчики боролись с немецкими диверсантами и шпионами на всех фронтах Великой Отечественной войны, а также с провокаторами и паникерами в тылу.

В связи с нападением нацистской Германии на СССР реорганизация системы советских органов госбезопасности была прервана, в связи с чем постановлением Государственного комитета обороны (ГКО) от 17 июля 1941 года на базе 3-го Управления НКО СССР создано Управление особых отделов (УОО) НКВД СССР. После победы советских войск под Москвой, а затем и под Сталинградом обстановка на советско-германском фронте стабилизировалась. Изменившийся характер боевых действий, переход от обороны к наступлению требовал придания работе военной контрразведки активного, наступательного характера. К этому времени особые отделы уже обладали достаточными сведениями о противнике. Был получен уникальный опыт проведения операций по внедрению агентуры в германские и финские разведывательные школы, проведены первые радиоигры. Именно эти направления работы должны были стать залогом успешной работы военной контрразведки в условиях изменения общей стратегической ситуации.

Основными задачами, которые возлагались на "Смерш", являлись: борьба со шпионской, диверсионной, террористической и иной подрывной деятельностью иностранных разведок; с предательством и изменой Родине;

с дезертирством и членовредительством на фронтах; с антисоветскими элементами, проникшими в части и учреждения Красной Армии. Так накануне самого важного сражения Великой Отечественной войны – Курской битвы была создана спецслужба, позднее признанная самой эффективной в годы второй мировой войны, не имевшая себе равных по размаху, результатам и интенсивности оперативно-разыскной деятельности.

Всего за годы войны советскими органами безопасности обезврежено более 30 тысяч шпионов, 3,5 тысячи диверсантов и 6 тысяч террористов. Ни один стратегический план советского командования не стал достоянием немцев. Армия и Флот были надёжно ограждены от подрывной деятельности спецслужб нацистской Германии и её союзников.