Dilihat dari bentuk bangunannya, bangunan masjid ini menggunakan model Tajug Lawakan Lambang Teplok dimana tiang utamanya menopang langsung atap (brunjungan), sedangkan bangunan serambi menggunakan atap limasan yang disebut limasan Trajumas. Dihalaman masjid terdapat Yoni (salah satu kelengkapan ritual agama hindu) yang difungsikan sebagai bencet ( tempat untuk melihat dan menentukan waktu sholat). Pada tahun 1760 atap masjid yang terbuat dari ijuk diganti dengan sirap. Pada tahun 2015 dilakukan pemugaran pada serambi masjid bagian depan yang ditambah menjadi bangunan dua lantai tanpa mengganti bagian-bagian penting (masjid yang asli tidak dirubah sama sekali).
Masjid ini didirikan pada tahun 1745M oleh Raden Tumenggung Sosro Koesumo atau kanjeng jimat yang merupakan Bupati Pertama Berbek dan sekarang makamnya berada di sekitar komplek masjid dan selalu ramai dikunjungi peziarah khususnya pada malam jum’at legi dan malam jum’at kliwon.
Pada awal pendiriannya masjid ini beratap ijuk dan lantainya terbuat dari katel (yaitu adukan tanah liat dan kapur yang dipadatkan), kerangka dari kayu jati sedangkan penyambungan usuk dan reng tidak menggunakan paku namun dengan teknik dinagel. Sebagai masjid pada umumnya, masjid ini juga dilengkapi dengan :
- Mimbar, yang tebuat dari kayu jati. Terdapat tulisan “Masjid ini Negari Yoya Mirah, dilengkapi dengan candra sengkala ditulis dalam huruf arab yang berbunyi “Ratu Nitih Buto Murti (1758 M) yang dianggap sebagai tahun pembuatan Mimbar.
- Atap mimbar yang dilengkapi tahun pembuatan 1759 M.
- Bedug yang dilengkapi dengan huruf arab berbunyi angka tahun 1759 M.
- Plancang bedug berangka tahun 1760 M.
- Atap masjid yang semula dibuat dari ijuk dan kemudian diganti sirap dan akhirnya sekarang diganti dengan genteng.
Bangunan utama masjid berukuran 14 x 14 m², berdinding batu bata (awalnya tanpa lepo) beratap tumpang susun tiga yang disangga 4 (empat) tiang utama atau soko guru dari kayu jati utuh. Pada dinding sebelah barat terdapat ceruk yang difungsikan sebagai mihrab (tempat imam memimpin sholat) dan didekat mihrab terdapat mimbar yang dipenuhi ukiran motif sulur bunga dan daun. Keseluruhan sulur berwarna merah dan kuning emas.
Pada ketiga sisi mimbar inilah terdapat candra sengkala yang memuat angka tahun sebagai berikut :
- Sisi timur : Ratu Nitih Buto Murti (1758 M)
- Sisi selatan (samping kanan) : Ratu Pandito toto gapuro (1759 M)
- Sisi barat ( belakang) : Ratu Pandito toto terus (1759M)
Pada tahun 1950 oleh KH. Dahlan selaku penghulu Kabupaten Nganjuk, tembok yang awalnya belum diplester mulai diperbaiki dan diplester. Latainyapun juga diganti dengan marmer berwarna abu-abu, serta atap yang awalnya dibuat dari sirap diganti dengan genteng.
Dalam buku Nganjuk dan Sejarahnya (1994) disebutkan bahwa pada tahun 1985 oleh LB Moerdani dipugar dan dilakukan penambahan bangunan. Pemugaran meliputi ruang induk dan kedua serambi. Sedangkan di depan masjid dibangun menara untuk adzan setinggi 10 m, serta tempat wudhu dan pagar depan sepanjang 35 m. pemugaran dan penambahan bangunan ini selesai pada tanggal 5 februari 1986 dan pada tanggal 7 februari 1986 diresmikan penggunaanya oleh LB Moerdani didampingi menteri agama H. Munawir dan menteri penerangan H.Harmoko.
