Saat masih muda, Haniyeh adalah seorang aktivis mahasiswa di Universitas Islam di Kota Gaza, tempat ia belajar sastra Arab.

Saat kuliah di universitas tersebut pada tahun 1983, ia bergabung dengan Blok Mahasiswa Islam, sebuah organisasi yang secara luas dianggap sebagai cikal bakal Hamas.

Ketika pemberontakan Palestina meletus pada bulan Desember 1987 melawan pendudukan Israel, yang dikenal sebagai Intifada pertama, Haniyeh merupakan salah satu pemuda yang ikut serta dalam protes tersebut.

Tahun itu juga Hamas didirikan — dengan Haniyeh sebagai salah satu anggotanya yang lebih muda.

Israel memenjarakan Haniyeh sedikitnya tiga kali.

Setelah menjalani hukuman terlama, yaitu tiga tahun, ia dideportasi ke Lebanon pada tahun 1992 bersama dengan ratusan anggota Hamas lainnya, termasuk pemimpin senior Hamas Abdel-Aziz al-Rantissi dan Mahmoud Zahhar, serta anggota kelompok perlawanan Palestina lainnya.

Namun, Haniyeh kembali ke Gaza setahun kemudian setelah penandatanganan Perjanjian Oslo pertama dan menjadi orang kepercayaan Sheikh Ahmad Yassin, pemimpin spiritual dan pendiri Hamas.

Setelah Israel membebaskan Yassin dari penjara pada tahun 1997, Haniyeh diangkat sebagai asistennya.

Poisis tinggi itu membuat Haniyeh menjadi target pembunuhan. Israel telah menetapkan pola panjang pembunuhan terhadap para pemimpin Palestina selama bertahun-tahun.

Bersama-sama, Haniyeh dan Yassin selamat dari upaya pembunuhan Israel pada September 2003 dengan berhasil melarikan diri dari sebuah gedung di Kota Gaza beberapa detik sebelum gedung tersebut dihantam serangan udara Israel.

Namun, beberapa bulan kemudian, Yassin dibunuh oleh pasukan Israel saat ia meninggalkan masjid setelah salat subuh.

Bulan berikutnya, al-Rantisi dibunuh dalam serangan rudal helikopter Israel di Kota Gaza.

"Setelah tahun 2003, Haniyeh memperoleh banyak popularitas di kalangan Hamas hanya karena sikap, posisi, dan penampilannya di media," kata Hassan Barrari, analis dan profesor di Universitas Qatar, kepada Al Jazeera.

"Ia tetap menjadi tokoh terkemuka hingga ia dibunuh."

Posisi Haniyeh dalam gerakan Palestina semakin meningkat pada tahun 2006 ketika Hamas mencalonkan diri dalam pemilihan legislatif Palestina untuk pertama kalinya sejak didirikan.