Tahun 1972, ia menikahi Veronica yang kemudian memberinya tiga orang anak, Debby (31), Fikri (27) dan Romy (26). Tetapi sayang, Rhoma akhirnya bercerai dengan Veronica bulan Mei 1985 setelah sekitar setahun sebelumnya Rhoma menikahi Ricca Rachim.
Ricca Rachim menjadi partnernya dalam beberapa film seperti Melodi Cinta, Badai di Awal Bahagia, Camellia, Cinta Segitiga, Melodi Cinta, Pengabdian, Pengorbanan, dan Satria Bergitar. Hingga sekarang, Ricca tetap mendampingi Rhoma sebagai istri.
Kesuksesannya di dunia musik dan dunia seni peran membuat Rhoma sempat mendirikan perusahaan film Rhoma Irama Film Production yang berhasil memproduksi film, di antaranya Perjuangan dan Doa (1980) serta Cinta Kembar (1984).
Kini, Rhoma yang biasa dipanggil Pak Haji ini, banyak mengisi waktunya dengan berdakwah baik lewat musik maupun ceramah-ceramah di televisi hingga ke penjuru nusantara. Dengan semangat dan gaya khasnya, Rhoma yang menjadikan grup Soneta sebagai Sound of Moslem terus giat meluaskan syiar agama.