Aktivitas Ismail Marzuki setelah keluar dari orkestra hanya terbatas pada karya komposisi saja.

Ismail Marzuki wafat dipangkuan istrinya pada 25 Mei 1958 pada usianya yang ke 44 tahun.

Kemudian, Ismail Marzuki dimakam di TPU Karet Bivak, Jakarta.

Pada batu nisannya dipahatkan lagu Rayuan Pulau Kelapa.

Beberapa puluh tahun kemudian, Pemerintah Indonesia berniat memindahkan makam Ismail Marzuki ke Taman Makan Pahlawan di Kalibata.

Namun pihak keluarga menolak dan menganggap hal itu bukanlah kepentingan yang mendesak.