Öreke Taşı'nda bir Osmanlı kızıyla iki Kefalonyalının cesetlerinin bulunması, Esrar-ı Cinayat'ın ilk büyük bilmecesini oluşturur. Kısa süre sonra Beyoğlu'nda bir adam kendi yatak odasında asılı bulunur. Olay yerlerindeki eşyalar, görünüşte ayrı duran bu ölümler arasında kesin bir bağ bulunduğunu gösterir ve cinayetlerin daha geniş bir suç ağına uzanabileceğini düşündürür.
Soruşturmanın merkezinde adli zabıta memuru Osman Sabri Efendi vardır. Kazandığı ünü hak edip etmediği, karmaşık delilleri çözme becerisiyle sınanır. Ahmet Mithat Efendi, polisiye merakı yalnız failin kimliğine bağlamaz; kamu görevlileri ve yönetim çevresindeki suç ihtimalini de anlatının içine taşır.
Esrar-ı Cinayat, Türk edebiyatının ilk polisiye romanlarından biri kabul edilir. Tefrika edildiği dönemde kapalı eleştiriler yoluyla gerçek bir kamu yöneticisinin suçunu gündeme getirmesi, eserin toplumsal cesaretini gösterir. Roman, birbirine bağlanan cinayetleri araştırırken adalet kurumunun nasıl çalışması gerektiğini ve nüfuz sahibi kişilerin hesap verip vermeyeceğini sorgular. Ahmet Mithat Efendi, merak unsuru, delil takibi ve kamusal eleştiriyi birleştirerek erken dönem Türk polisiyesine güçlü bir örnek verir.