В коллекции оружия представлены предметы вооружения различных стран и народов от средневековья до наших дней. Всего в коллекции ЦВММ 12000 единиц холодного, огнестрельного оружия, а также образцов вооружения и военной техники.

Музей гордится старинной русской пушкой — 2-фунтовой медной пищалью, отлитой Семеном Чугункиным в 1618 году, 3-фунтовой пушкой, отлитой также из меди мастером Иосифом Тимофеевичем в Глухове в 1692 году, и рядом других редких предметов.
В фонде хранится богатая коллекция артиллерийского и минно-торпедного оружия XIX-XX веков.
В собрании — целый арсенал стрелкового и холодного оружия: от мечей, пик и абордажных топоров до современных кортиков и палашей, от фузей, мушкетов и винтовок до многозарядных автоматических пистолетов и автоматов. Среди реликвий — шпага русского флотоводца П.С.Нахимова, золотое оружие (сабля) С.О.Макарова, личное оружие прославленных адмиралов: Горацио Нельсона, генерал-адмирала Великого князя Константина Николаевича, Адмиралов Флота Советского Союза Н.Г.Кузнецова и С.Г.Горшкова. Особую ценность представляет наградное холодное оружие, изготовленное ведущими мастерами Златоустовской оружейной фабрики.