Kemudian pada tahun 1933, ia pindah lagi Bendo, Pare, Kediri, menjadi santri Kiai Chozin Muhajir. Di situ ia belajar fiqih dan tasawuf seperti kitab Ihya Ulumuddin karya Imam Ghazali. Empat tahun berikutnya, ia mengaji di pesantren Sedayu, belajar ilmu membaca Al-Qur’an selama 7 bulan. Pada tahun 1937, ia nyantri lagi ke Lasem, Jawa Tengah, yang diasuh KH Ma'shum dan KH Baidlowi.
Setelah menikahi putri KH Dalhar Watucongol, ia sempat mengajar di pesantren mertuanya tersebut. Namun mengajarkan ilmu agama di kampung halamannya adalah cita-citanya yang menggebu-gebu sehingga ia selalu melakukan mujahadah dan meminta petunjuk Allah Swt untuk niatnya itu.
Setelah mendapat petunjuk dan membicarakan kepada mertuanya, kemudian pada 15 September 1944 KH Chudlori pulang kampung dan mendirikan pesantren di Tegalrejo. Masyarakat desa itu, ketika ia mendirikan pesantren, terbelah menjadi yang pro dan kontra. Kalangan yang pro gembira karena ada anak kampungnya yang menyebarkan ajaran agama. Sebaliknya yang kontra, lebih karena antipati terhadap penyebaran Islam.
Sebagai kiai yang digembleng bertahun-tahun, Chudlori tetap tegar menghadapi kalangan yang kontra. Ia tetap menjalankan misinya mengembangkan syariat Islam.
