Keberadaan "bimbingan masyarakat Islam" sudah berlangsung sejak lahirnya Kementerian Agama, 3 Januari 1946, meskipun saat itu belum diwadahi dalam organisasi direktorat jenderal. Tanggal 3 Januari kemudian dikenal sebagai hari ulang tahun Departemen Agama, yang sekarang dikenal dengan nama "Hari Amal Bakti". Dalam perjalanan selanjutnya "bimbingan masyarakat Islam" diwadahi dalam satu direktorat jenderal dengan nomenklatur Ditjen Bimas Islam. Pada tahun 1979 Ditjen Bimas Islam dimerjer dengan Ditjen Haji dengan nomenklatur baru, Ditjen Bimas Islam dan Penyelenggaraan Haji.
Berdasarkan Keputusan Menteri Agama Nomor 1 Tahun 2001, terjadi perubahan struktur Departemen Agama Pusat. Ditjen Bimas Islam dan Urusan Haji mengalami perubahan nomenklatur menjadi Dijen Bimas Islam dan Penyelenggaraan Haji. Tidak banyak pengaruh perubahan dengan nomenklatur baru itu abgi kegiatan bimbingan masyarakat Islam. Sebagian tugas yang ada sebelumnya malah direlokasi ke direktorat jenderal lain, yakni tugas penerangan agama Islam yang berpindah ke Ditjen Binbaga Islam, bertukar tempat dengan tugas Peradilan Agama.
Pada tahun 2006 - berdasarkan Peraturan Menteri Agama yang disebutkan diatas, tugas Bimbingan Masyarakat Islam kembali dipisah dengan tugas perhajian. Mulai saat itulah tugas bimbingan amsyarakat Islam dilaksanakan oleh direktorat jenderal baru, Direktorat Jenderal Bimbingan Masyarakat Islam. Dengan struktur baru ini, diharapkan tugas-tugas yang diemban dapat dilaksanakan secara lebih fokus. Tugas-tugas itu adalah urusan agama Islam (selain haji), penerangan agama Islam, Zakat, dan Wakaf.
Dengan wadah struktur itu, Ditjen Bimas Islam membawahi lima subsatker tingakat eselon II, yakni sekretariat, Direktorat Urusan Agama Islam dan Pembinaan Syariah, Direktorat Penerangan Agama Islam, Direktorat Pemberdayaan Zakat, dan Direktorat Pemberdayaan Wakaf. Di tingkat daerah, Ditjen Bimas Islam memiliki "kepanjangan tangan" pada bidang-bidang (provinsi) dan seksi-seksi (kabupaten/kota). Pada lapis paling ujung, Ditjen Bimas Islam memiliki unit pelaksana teknis di tingkat Kecamatan, yakni kantor urusan agama kecamatan sebagai ujung tombak pelayanan masyarakat yang tugas utamanya melakukan pencatatan nikah dan rujuk.
