Rumah Sakit Roemani Muhammadiyah merupakan amal usaha Persyarikatan Muhammadiyah, yang didirikan dan sekaligus pengelolannya oleh Pimpinan Daerah Muhammadiyah Kota Semarang. Tujuan didirikan Rumah Sakit adalah sebagai sarana dakwah Muhammadiyah. Rumah Sakit yang terletak di Jalan Wonodri No. 22 Kota Semarang ini, didirikan pada 27 Agustus 1975 Masehi bertepatan dengan tanggal 19 Sya’ban 1395 Hijriyah. Peresmian Gedung Pertama Rumah Sakit Roemani Muhammadiyah dilakukan oleh Gubernur Jawa Tengah, pada saat itu Bapak H. Soeparjo Rustam.
Dalam waktu relatif singkat keberadaan Balai Pengobatan Muhammadiyah dikenal masyarakat luas. Atas kepercayaan masyarakat maka Balai Pengobatan ini berkembang dan berubah menjadi Rumah Sakit tipe C. Sebagai ungkapan penghargaan dan rasa terima kasih kepada Bapak H. Achmad Roemani yang telah mewujudkan cita-cita warga Muhammadiyah Kota Semarang mendirikan sebuah rumah sakit diatas tanah seluas 13.000 meter persegi, maka nama “Roemani” ditetapkan sebagai nama rumah sakit.