"Pesantren Tremas waktu itu diasuh oleh KH. Dimyathi, putra KH. Abdullah bin KH. Abdul Manan at-Tarmasi. Ketika di Tremas, Kiai Ali melakukan tradisi naun, dimana seorang santri tidak diperkenankan pulang ke rumah selama tiga tahun awal bermukim di pondok," jelasnya.

Kiai Ali sangat tekun mempelajari kitab yang diajarkan oleh gurunya, KH. Dimyathi dan guru-guru lainnya seperti  KH. Masyhud dan Sayid Hasan Ba’bud.

Ketekunan Kiai Ali Maksum menjadikannya cukup menonjol di antara santri-santri lainnya sehingga oleh KH. Dimyati dipercaya untuk menjadi pengajar di Pondok Tremas.