Pondok pesantren ini didirikan pada 15 September 1944 oleh K.H. Chudlori. Saat ini, kepengasuhan API dipegang oleh KH. Mudrik Chudlori dan KH. Chanif Chudlori yang merupakan putra tertua dari putera K.H. Chudlori. Presiden ke-empat Republik Indonesia, Abdurrahman Wahid merupakan salah satu alumnus dari pondok pesantren tersebut. Bulan Mei 2016, Presiden Joko Widodo mengunjungi API dalam rangka menghadiri agenda pengajian akbar memperingati Isra' Mi'raj Nabi Muhammad SAW dan membahas kompetensi global. Dalam pidatonya di hadapan ribuan santri, Jokowi menekankan pentingnya persiapan sumber daya manusia di Indonesia menghadapi Masyarakat Ekonomi ASEAN (MEA) kepada para santri. Karena dengan adanya MEA, persaingan dunia kerja tak sekadar antarindividu, antarkota, ataupun antarprovinsi saja, tetapi sudah antarnegara.<ref>PPM Aswaja: Pondok Pesantren Asrama Perguruan Islam (API) Magelang, Cetak Santri