Kemunduran dan kejatuhan Dinasti Bani Umayyah disebabkan karena faktor berikut ini:
1. Berfoya-foya Dalam Kemewahan
Hal ini terjadi karena meningkatnya kekayaan negara dan melimpahnya budak pada masa itu. Sejarawan at-Tabari (jilid II), al-Ya‘qubi (jilid II), dan al-Mas‘udi (jilid VI) seperti yang dikutip oleh Philip K. Hitti, mengemukakan para penguasa Dinasti Bani Umayyah seperti Yazid ibn Muawiyah lebih suka berburu, minum-minuman, tenggelam dalam alunan musik dan nyanyian merdu, ketimbang membaca Al-Qur’an dan mengurusi Negara. Perilaku buruk kelas penguasa hanyalah gambaran kecil dari kebobrokan moral yang bersifat umum. Buruknya kebiasaan, terutama minum-minuman keras, perempuan, dan nyanyian, telah menjangkiti para pemuda penguasa Dinasti Bani Umayyah, dan pada akhirnya melemahkan daya juang mereka seperti yang dicontohkan para Khulafaurrasyidin.
2. Kesukuan dan Sistem Kerajaan
Ukhuwah Islamiyah yang dibangun berdasarkan Islam pada mulanya berhasil mengatasi disintegrasi yang selalu membayang-bayangi kehidupan sosial masyarakat Arab. Namun, seiring dengan perjalanan waktu, hal itu tidak bisa dipertahankan lagi. Kelemahan klasik dan khas dari kehidupan sosial orang Arab yang lebih menekankan individualisme dan semangat kesukuan (asyabiyah), pertikaian antar suku, menampakkan perwujudannya. Perpecahan antar suku, etnis dan golongan politik inilah yang menjadi sebab utama terjadinya gejolak dan kerusuhan.
Suku orang Arab Utara berbeda dengan Arab Selatan. Orang Arab Utara mengklaim sebagai keturunan Ismail dan menyebut diri mereka sebagai keluarga Adnan, tidak pernah bersatu dengan orang Arab Selatan, yang berasal dari keluarga Qahthan. Muawiyah pendiri Dinasti Bani Umayyah membangun kerajaannya di Suriah atas bantuan orang-orang Yaman (Arab Selatan). Penerusnya Yazid, dilahirkan dari seorang ibu dari suku Kalb Yaman, dan istrinya juga seorang wanita dari suku Kalb. Suku Qays (Arab Utara) tidak mau mengakui penerusnya, Muawiyah II, dan mengangkat khalifah baru Zubayr. Di masa Khalifah Al-Walid I, kekuasaan suku Qays mencapai puncak kejayaannya pada masa Hajjaj, dan saudara sepupunya Muhammad, penakluk India, dan pada masa Qutaibah, penakluk Asia Tengah. Saudara al-Walid, Sulaiman mendukung orang Yaman. Namun, Yazid II, karena pengaruh ibunya dari keluarga Mudhar, mendukung orang Qays, seperti halnya al-Walid II; Yazid III mengandalkan pasukan dari Yaman untuk merebut kekuasaan dari tangan pendahulunya, al-Walid II. Di sini terlihat bahwa pertikaian terjadi karena masih kentalnya rasa kesukuan Arab Selatan dan Arab Utara. Pada akhir kekuasaan Dinasti Bani Umayyah, para khalifah sebenarnya bukanlah pemegang kedaulatan atas sebuah dinasti yang utuh, tetapi lebih merupakan pemimpin kelompok tertentu.
Di Damaskus sendiri pernah terjadi peperangan selama dua tahun hanya disebabkan seorang dari suku Ma’ad (Arab Utara) mencuri sebutir semangka dari kebun seorang suku Yaman (Arab Selatan). Di Murcia Spanyol juga pernah terjadi peperangan karena seorang suku Mudhor memetik daun tanaman rambat di pekarangan seorang suku Yaman. Kasus-kasus serupa sering terjadi di seluruh pelosok negeri yang bermuara pada rasa kesukuan yang berlebihan. Masalah-masalah seperti itu menjadi unsur potensial penyebab hentinya laju pasukan Islam di Perancis dan menjatuhkan kekhalifahan di Spanyol (Philip K. Hitti, 2005: 350).
Potensi perpecahan antar suku, golongan, kelompok politik, tumbuh semakin subur, menyebabkan gejolak politik yang berakibat pada kekacauan yang mengganggu stabilitas negara. Kondisi semacam itu menjadi lebih runyam ketika dihadapkan kepada suksesi kepemimpinan.
Walaupun memakai sistem kerajaan, tetapi tidak ada aturan yang baku tentang peralihan kekuasaan secara turun-temurun, turut andil menjadi gangguan serius pada negara. Dari 14 khalifah Dinasti Bani Umayyah, hanya empat khalifah, Muawiyah, Yazid I, Marwan I, dan Abdul Malik, yang berhasil mewariskan kekuasaan pada anak-anaknya, selebihnya pada saudara-saudaranya. Di samping itu, sistem kerajaan melalui pewarisan juga disinyalir menyebabkan masalah, sebab seringkali yang ditunjuk sebagai raja adalah orang yang tidak mempunyai keahlian untuk memimpin negara yang sangat luas itu. Ketika Negara dipimpin orang yang bukan ahlinya, maka sudah barang tentu akan terjadi problem-problem kenegaraan karena ketidakbecusan sang pemimpin dalam mengelola negara.
3. Munculnya Pemberontak
Kelompok Syi’ah tidak pernah menyetujui keluarga Dinasti Bani Umayyah menjadi penguasa. Pengabdian dan ketulusan mereka sebagai keturunan Nabi Muhammad saw. mendapat simpati di kalangan masyarakat pendukungnya. Di sekeliling mereka berkumpul kelompok masyarakat yang tidak puas terhadap Dinasti Bani Umayyah di bidang politik, sosial, ekonomi dan lain-lain. Orang-orang Iraq adalah pendukung Syi’ah, pada mulanya hanya dikecewakan karena tidak diberi kebebasan, kini beralih ke sentiment keagamaan. Kelompok Sunni pun kecewa dengan para penguasa Dinasti Bani Umayyah yang mereka nilai hanya mementingkan kehidupan duniawi, serta mengabaikan Al-Qur’an dan Hadits. Selain kedua kelompok tersebut, muncul dengan cerdik keluarga Abbas, paman Nabi Muhammad saw. yang mulai menuntut pemerintahan dengan cara bergabung dengan kelompok Syi‘ah. Dinasti Bani Umayyah yang mengambil kebijakan “Arab Centris,” juga menimbulkan kebencian orang-orang non Arab khususnya Parsi. Mereka diperlakukan sebagai maula (mantan budak) dan tidak selalu bebas membayar pajak.
Di tengah-tengah kelompok yang kecewa itulah aliansi Abbas-Syi‘ah menemukan lahan untuk proganda dengan mengambil tempat Khurasan. Gerakan Abbasiyah yang terakhir dipimpin oleh Abu Abbas as-Saffah, bekerjasama dengan kaum Syi‘ah, dan penduduk Khurasan dipimpin oleh Abu Muslim al-Khurasani, berhasil mengalahkan tentara Bani Umayyah di Iraq. Penguasa terakhir dinasti ini, Marwan II melarikan diri ke Kufah dengan sisa-sisa tentaranya. Lima bulan pertama pada tahun 750 M, dalam pertempuran Zab, pasukan Abbasiyah berhasil mengalahkan tentara Marwan II. Ia melarikan diri ke Syria, Palestina, Mesir, dan ditangkap di sana oleh pasukan Abbasiyah, kemudian dihukum mati. Pada tahun 750 itu juga, Abu Abbas as-Saffah menobatkan dirinya sebagai penguasa baru Dinasti Bani Abbasiyah.
