1943 yılında Kahire'de doğdu. İhsanoğlu, Mısır Ayn Şems Üniversitesi Fen Fakültesi'nden mezun olduktan sonra El-Ezher Üniversitesi'nde akademik hayata başladı. Türk kültürünü küçük yaşta aile çevresinde tanıyan İhsanoğlu, Kahire Milli Kütüphanesi'nde ve Ayn Şems Üniversitesi Edebiyat Fakültesi'nde Osmanlı kültürü ve edebiyatı ile ilgili araştırma ve eğitim çalışmaları yaptı.
1974'te Ankara Üniversitesi Fen Fakültesi'nde doktorasını tamamladıktan sonra, İngiltere'de Exeter Üniversitesi'nde doktora sonrası çalışmalar yaptı. İslâm ve Batı kültürüyle yakından teması olan İhsanoğlu, 1984'te profesör oldu.
1 Ocak 2005'te devraldığı İKÖ genel sekreterliğini 2014 yılında İyad bin Emin Madani' ye devretmiştir. Örgütün, seçimle göreve gelen ilk genel sekreteri ve ilk Türk genel sekreteri olma özelliklerini taşır[1].
İhsanoğlu, evli ve 3 çocuk babasıdır.