Pada awal berdirinya PMII sepenuhnya berada di bawah naungan NU. PMII terikat dengan segala garis kebijaksanaan partai induknya, NU. PMII merupakan perpanjangan tangan NU, baik secara struktural maupun fungsional. Selanjutnya sejak dasawarsa 70-an, ketika rezim Orde Baru mulai mengkerdilkan fungsi partai politik, sekaligus juga penyederhanaan partai politik secara kuantitas, dan issue back to campus serta organisasi-organisasi profesi kepemudaan mulai diperkenalkan melalui kebijakan NKK/BKK, maka PMII menuntut adanya pemikiran realistis. Pada tgl 14 juli 1971 melalui Mubes di Murnajati, PMII mencanangkan independensi, terlepas dari organisasi manapun (DEKLARASI MURNAJATI). Kemudian pada kongres tahun 1973 di Ciloto, Jawa Barat, diwujudkanlah Manifest Independensi PMII.
Namun, betapapun PMII mandiri, ideologi PMII tidak lepas dari faham Ahlussunnah Wal Jamaah yang merupakan ciri khas NU. Ini berarti secara kultural-ideologis, PMII dengan NU tidak bisa dilepaskan. Ahlussunnah Wal Jamaah merupakan benang merah antara PMII dengan NU. Dengan ASWAJA PMII membedakan diri dengan organisasi lain.
Keterpisahan PMII dari NU pada perkembangan terakhir ini lebih tampak hanya secara organisatoris formal saja. Sebab kenyataannya, keterpautan moral, kesamaan background, pada hakekat keduanya susah untuk direnggangkan.
Sebagai Organisasi Islam, PMII meyakini kehadirannya adalah untuk mewujudkan peran Khalifatullah Fil Al-ardh, meneruskan risalah kenabian dan menjadi rahmat bagi semua manusia. Sebagai organisasi yang berasaskan Pancasila, PMII mempunyai komitmen yang utuh dan proporsional, yang diaktualisasikan melalui partisipasi dalam pembangunan watak bangsa yang berprikemanusiaan dan berkeadilan.