Музей открылся в ноябре 1973 г. В 1975 г. ему присвоено почетное звание «народный». Основу экспозиции составил архив ветерана крымской милиции М. С. Казакевича.
В музее собрано более 6,5 тысяч реликвий. В постоянно действующей экспозиции музея, разместившейся площади 131 кв.м, размещено 715 экспонатов, раскрывающих историю севастопольской милиции с 1917 г. по настоящее время.
Материалы экспозиций посвящены чекистам — ветеранам революции и Гражданской войны, участникам Гражданской войны, первым милиционерам, сотрудникам уголовного розыска, участникам обороны Севастополя 1941—1942 г.г., севастопольским милиционерам-разведчикам и тем, кто сражался в партизанских отрядах.

Один из стендов посвящен капитану милиции Василию Ивановичу Бузину, погибшему во время героической обороны города в годы Великой Отечественной войны. В музее милиции хранится последнее письмо капитана жене, написанное 30 июня 1942 г.
Бузин получил приказ городского комитета обороны: обеспечить эвакуацию секретных документов. Выполнив приказ, он отказался от эвакуации с командным составом и остался сражаться в одном из сводных отрядов по защите аэродрома на мысе Херсонес.