Dia sangat gemar “mengotak-atik” Bahasa Arab, karena ia menguasai kitab Dahlan, Asymuni, Jauharu Maknun, dan Alfiyah Ibn Malik, bahkan ia juga menguasai ilmu Badi’, ilmu Balaghah, ilmu Ma’ani dan sebagainya. Kiai Ali Maksum secara intens juga mempelajari dan menghafal kalam-kalam hikmah dan syair berbahasa Arab. Pada akhirnya nanti ia berhasil menemukan metode baru dalam disiplin ilmu sharaf.
Sebagaimana disebutkan Prof. Dr. H. A. Mukti Ali dalam bukunya Mukhdlor yang menyatakan, selama di Tremas Kiai Ali-lah yang menjadi penggerak modernisasi pondok pesantren Tremas menjadi sistem madrasi pada tahun 1932, yang sebelumnya sempat muncul kekhawatiran dari KH. Dimyati atas usul yang diajukan oleh Kiai Ali dan Gus Hamid Dimyati. Kekhawatiran tersebut berdasar atas pendirian madrasah yang kontroversional oleh Sayid Hasan pada tahun 1928 yang akhirnya harus bubar.
