İsmail Haniye 29 Ocak 1963 tarihinde, Arap-İsrail Savaşı sırasında Aşkelon şehrinden kaçarak mülteci durumuna düşmüş bir ailenin çocuğu olarak Gazze Şeridi’ndeki Elşati mülteci kampında dünyaya geldi. İlk ve orta öğrenimini Birleşmiş Milletler Mülteciler Yüksek Komiserliği’nin finansman desteği sağladığı Filistin kamplarında açılan okullarda tamamladı. Lise yıllarında Müslüman Kardeşler Hareketi’ne katıldı. Bunun yanında İslamcı Öğrenciler Derneği’nde de siyasi çalışmalarda bulundu. Bir dönem bu öğrenci derneğine liderlik eden Haniyye, öğrenci siyasetinde aktifti. 1987’de Gazze İslam Üniversitesi Arap dili ve edebiyatı bölümünden mezun oldu. 1987’de ise yaptığı çalışmalar sebebiyle hapis cezasına çarptırıldı. 1989’da I. İntifada’ya katıldığı ve Hamas üyesi olduğu gerekçesiyle tutuklandı. 1992’de serbest bırakıldıktan sonra, Hamas üyesi 415 kişilik bir grupla Güney Lübnan’a sürgün edildi.
Haniyye, Oslo Anlaşmaları’nın ardından 1993’te Gazze’ye döndü. Döndükten sonra İslam Üniversitesi’ne dekan olarak atandı. Bu dönemde İntifada Koordinasyon Komitesi’nde Hamas temsilciliğine tayin edildi. 1999-2004 yılları arasında da Şeyh Yasin’in özel kalem müdürlüğünü yaptı. Haniye’nin Hamas’taki liderlik rolü, 1997’de Yasin’in özel sekreteri olduğunda kök salmıştı. İkisi, 2003’te İsrail tarafından başarısız bir suikast girişiminin hedefiydi, ancak Yasin sadece birkaç ay sonra öldürüldü. Aralık 2005’te yapılan ve 25 Ocak 2006’da tekrarlanan Filistin Yasama Konseyi seçimlerinde Hamas lideri Halid Meşal’in Şam’da sürgünde bulunmasından dolayı listenin en başında yer aldı. Hamas’ın 132 sandalyeden 74’ünü aldığı seçimler sonucunda Haniye, 16 Şubat 2006’da Hamas’ın başbakan adayı olarak açıklandı. 19 Şubat’ta, ABD ve İsrail’in karşı çıkmalarına rağmen Filistin başkanı Mahmud Abbas tarafından başbakanlığa atandı. Böylece Filistin’in 10. başbakanı olarak görev yaptı. Ekim 2006’da Gazze’de El Fetih ile Hamas üyelerinin çarpışmaları sırasında konvoyuna düzenlenen saldırıdan kurtuldu. Mayıs 2007’de İsrail’in evine karşı düzenlediği füze saldırısını atlattı. Fakat 2007’de Gazze Şeridi’ndeki Hamas ile El Fetih arasındaki çatışmaların zirveye çıkması üzerine vazifesinden alındı.Çatışmanın sonucu, Gazze Şeridi’nde Haniyye'nin öncülüğünde Hamas liderliğindeki özerk bir hükümetti.
Kısa süre sonra İsrail, Gazze Şeridi’ne bir yaptırım ve kısıtlama paketi uyguladı. Hamas’ın 2014 yazında İsrail’le savaşta gösterdiği performans, Filistin halkı tarafından genişçapta başarılı olarak görülüyordu. Ancak en önemlisi, devam eden abluka Gazze Şeridi’ndeki yaşam koşullarının önemli ölçüde kötüleşmesine neden oldu. Bu arada, Gazze Şeridi’ndeki Hamas ile Batı Şeria’daki Fetih liderliğindeki FY arasında bir dizi uzlaşma girişimi oldu. 2014’teki böyle bir girişimde, Gazze’deki hizipçi Hamas hükümeti, Fetih ile bir birlik hükümetinin yolunu açmak için resmen istifa etti. İki adam Eylül 2006’da Filistin Yasama Konseyi’nde hüküm süren Hamas liderliğindeki hükümetin yerini alacak bir Hamas-Fetih ulusal birlik hükümeti kurmaya karar verdiler. Ancak iki taraf yeni hükümetin oluşumu konusunda anlaşamadı ve Filistin içi çatışmalar devam etti. Mart 2007’de iki taraf nihayet bir anlaşmaya vardı ve bir birlik hükümeti kurdu. Bunu yaparken, Haniyye başbakanlık görevinden feragat etti. Ancak 2017’de yerine Yahya Sinwar geçene kadar Gazze’deki Hamas’ın yerel lideri olarak kaldı. Aylar sonra, Halid Meşal’in yerine Hamas’ın siyasi büro başkanlığına seçildi.Haniyye’nin bir mülteci olarak geçmişi, kesinlikle onun dünya görüşünü ve İsrail’e direnme konusundaki katı bağlılığını şekillendirdi. 1948 Savaşı, İsrailin Filistin’in yüzde 77’sini işgal edip yurtlarından kovulmasına şahit olmak demekti. İsrail daha sonra kalan yüzde 23’ü 1967’de ( Batı Şeria ve Gazze) işgal etti. İsrail ve Filistin Kurtuluş Örgütü (FKÖ) tarafından 1993’te başlatılan Oslo barış süreci, Filistin’in yüzde 23’ünün yüzde kaçının bir Filistin ülkesi olacağı konusunda müzakereleri içeriyordu.