Sepeninggalan Sultan Iskandar Muda, keadaan Aceh makin terpuruk. Sultan Aceh hanya berkuasa di kota raja. Sultan hanya lambang pemersatu rakyat Aceh belaka. Namun demikian, sultan masih mempunyai wewenang menjalin hubungan dengan bangsa lainnya. Belanda dan Inggris yang telah lama ingin menguasai Aceh mengakui kekuasaan politik tersebut sesuai Treaty of London (1824).
Namun, sebenarnya Belanda sangat khawatir dengan tindakan Aceh yang menjalin hubungan dengan bangsa lain. Oleh karena itu, Belanda sering memancing keributan dengan menggeledah dan menangkap pelaut Aceh yang baru kembali dari negara lain. Rakyat Aceh pun sering membalas dengan menyergap kapal-kapal Belanda. Puncaknya, Belanda memancing kemarahan Sultan Aceh dengan menaklukkan Kerajaan Siak. Padahal wilayah tersebut sesungguhnya masih termasuk kekuasaan Kesultanan Aceh sejak Sultan Iskandar Muda. Akibatnya, beberapa kapal Belanda yang kebetulan berlabuh di Pelabuhan Aceh ditahan pemerintah Aceh. Penahanan itu ternyata didukung Inggris karena memang Belanda yang mencari masalah.
Salah satu negara yang menjalin hubungan dengan Aceh adalah Kesultanan Turki. Hubungan ini ternyata sangat menghawatirkan Belanda. Terlebih setelah Terusan Suez dibuka untuk umum, kedudukan Aceh makin penting dalam dunia perdagangan. Oleh karena itu, Inggris dan Belanda sama-sama khawatir tentang masa depan Aceh karena dapat dikuasai negara Barat lainnya.
Inggris dan Belanda setelah dapat membuktikan bahwa Aceh menjalin hubungan dengan Italia dan Amerika Serikat segera bertindak membuat kesepakatan tentang Aceh. Pada tahun 1872 menandatangani kesepakatan yang dikenal dengan nama Traktat London. Kesepakatan itu pada intinya menyebutkan bahwa Inggris memberi keleluasaan Belanda untuk bertindak terhadap Aceh. Sebaliknya, Belanda memberi keleluasaan Inggris untuk berdagang di wilayah Siak yang dikuasainya.
Belanda berusaha memperoleh keterangan yang sebenarnya dari Sultan Aceh tentang hubungan kerajaannya dengan konsul Italia dan Amerika Serikat di Singapura. Akan tetapi, Sultan Aceh tetap tidak mau memberi keterangan. Akibatnya, Belanda marah dan mengumumkan perang dengan Kesultanan Aceh.
Pada tahun 1873 Belanda mengirimkan pasukannya ke Aceh dan menuntut agar Aceh tunduk kepada Belanda. Tuntutan itu ditolak oleh Sultan Mahmud Syah sehingga meletuslah perang antara Belanda dan Aceh. Dalam pertempuran tersebut Belanda mengalami kegagalan. Bahkan, pimpinan mereka Jenderal Kohler tewas tertembak di depan Mesjid Raya Aceh.
Pada bulan Nopember 1873 Belanda mengirimkan ekspedisi kedua yang berkekuatan 8.000 pasukan, dipimpin oleh Jenderal van Swieten. Pada tanggal 9 Desember 1873 ekspedisi mendarat di Aceh dan langsung terlibat pertempuran sengit. Belanda menggunakan meriam besar, sehingga laskar Aceh pimpinan Panglima Polim terus terdesak. Belanda terus bergerak menyerang istana Sultan Mahmud Syah dan berhasil menguasai Kutaraja. Setelah istana berhasil dikuasai Belanda, tidak lama kemudian Sultan Mahmud Syah Wafat. Namun demikian, rakyat Aceh tetap tegar melakukan perlawanan terhadap Belanda. Perlawanan masih terus dilanjutkan di mana-mana sehingga Belanda tetap tidak mampu menguasai daerah di luar istana. Belanda hanya menguasai sekitar Kutaraja saja. Sementara itu, di seluruh Aceh dikobarkan Perang Jihad Fi Sabilillah (Perang Suci di Jalan Allah). Ulama-ulama Aceh, seperti Tengku Cik Ditiro dengan penuh semangat memimpin barisan menghadapi serbuan tentara Belanda.
Rakyat di daerah Aceh Barat juga bangkit melawan Belanda yang dipimpin oleh Teuku Umar bersama istrinya Cut Nyak Dien. Ia memimpin serangan terhadap pos-pos Belanda dan menguasai daerah sekitar Meulaboh pada tahun 1882. Daerah-daerah lainnya di luar Kutaraja juga masih dikuasai pejuang-pejuang Aceh. Sementara itu, Sultan Muhammad Daud Syah telah dewasa dan mulai aktif melakukan tugas sebagai Sultan Aceh yang berkedudukan di Keumala.
Tanggal 14 Juni 1886 Teuku Umar menyerang Kapal Hok Canton yang berlabuh di Riagaih. Kapten Hansen berusaha untuk menangkapnya sehingga terjadilah pertempuran hebat, tetapi kapten itu tewas.
Perang Aceh telah berjalan lebih dari sepuluh tahun, tetapi Belanda baru dapat menguasai sekitar Kutaraja. Padahal biaya yang dikeluarkan Belanda sudah cukup besar. Belanda menyadari bahwa menaklukkan Aceh dengan kekerasan tidak akan berhasil. Belanda mulai berusaha dengan jalan lain, untuk itu, dikirimlah Dr. Snouck Hurgronje (seorang ahli ketimuran) untuk mengadakan penelitian sosial budaya dalam masyarakat Aceh. Ia masuk di Aceh menyamar sebagai seoran ulama dengan nama samaran Abdul Gafar. Ia berdiam di tengah-tengah masyarakat Aceh sambil mengamati kehidupannya.
Anjuran Snouck Hurgronje itu tidak dilaksanakan. Jenderal Deyckerhoff mencoba siasat lain, yaitu politik adu domba. Dipikatnya Teuku Umar agar bekerja sama dengan Belanda. Teuku Umar berpura-pura menyambut baik ajakan itu karena pasukannya butuh senjata. Teuku umar berharap dengan bekerja sama dengan belanda, dirinya dapat melengkapi pasukannya dengan senjata moderen sehingga dapat memenangkan pertempuran.
 |
| Teuku Umar dan Cut Nyak Dien |
Pada tahun 1893 Teuku Umar menyerah. Oleh Deyckerhoff, Teuku Umar diberi pasukan yang kuat dengan persenjataan lengkap agar menyerang benteng-benteng rakyat Aceh. Dengan pasukan itu, Teuku Umar berhasil menundukkan beberapa hulubalang di Aceh Besar. Kepercayaan pemerintah Belanda kepada Teuku Umar makin besar. Atas jasanya, oleh Deyckerhoff ia diberi gelar Panglima Perang Besar Johan Pahlawan. Namun, sebenarnya dalam penyerangan Teuku Umar ke pusat-pusat markas rakyat selalu didahului oleh pemerintah untuk mengosongkan benteng. Pada tahun 1896 Teuku Umar beserta pasukannya balik memusuhi Belanda. Mereka membawa persenjataan lengkap, bergabung dengan rakyat Aceh. Pasukan Aceh terus-menerus mendapat kemenangan. Belanda makin terdesak, mereka menyadari bahwa siasat "devide et impera" tidak dapat meruntuhkan Aceh. Deyckerhoff dipecat dan diganti oleh van Heutz.
Van Heutz memilih Snouck Hurgronje sebagai penasihatnya. Pada tahun 1898 van Heutz mengubah siasat perang. Pemusatan dalam benteng dihapus. Ia membentuk pasukan Marsose (Korps Marechaussee) yaitu pasukan yang beranggotakan orang Indonesia dengan pimpinan seoran perwira Belanda yang mahir berbahasa Aceh. Pasukan itu terdiri atas kesatuan-kesatuan kecil gerak cepat dan dilatih cara gerilya. Dalam melakukan serangan, tentara Belanda selalu diikuti oleh ribuan orang tawanan terantai yang memikul senjata dan bekal perang.
Pasukan Marsose menyerang setiap daerah pertahanan lawan. Pasukan Aceh di bawah Pimpinan Teuku Umar tidak mampu menahan serangan, kemudian mundur ke Meulaboh. Dalam pertempuran melawan Belanda, Teuku Umar gugur pada tanggal 11 Februari 1899.
Panglima Polim dan Sultan Muhammad Daud Syah sementara itu masih melakukan pertempuran di Aceh Timur secara berpindah-pindah mulai dari Kutasawang, Peusangan, Geudong, dan Keureutue. Belanda masih belum berhasil mengalahkannya. Oleh karena itu, ketika pasukan Aceh bertahan di Benteng Batee Llie, van Heutz mengadakan serangan besar-besaran (Januari 1901). Pasukan Sultan dan Panglima Polim terdesak mundur dan benteng dapat diduduki Belanda.
Sekitar tahun 1903, pasukan Belanda berhasil menawan kerabat kesultanan sehingga pada tahun itu juga Sultan Muhammad Daud Syah menyerah kepada Belanda. Beberapa bulan kemudian Panglima Polim juga menyerah. Cut Nyak Dien dan Cut Nyak Meutia masih terus mengadakan perlawanan hingga Cut Nyak Dien tertangkap dan dibuang ke Sumedang sampai wafat pada tanggal 6 Nopember 1908. Cut Nyak Meutia gugur dalam pertempuran di hutan Pasai pada tanggal 24 Oktober 1913. Karena perjuangannya yang gigih, Teuku Umar, Teuku Cik Ditiro, Cut Nyak Dien, dan Cut Nyak Meutia diangkat menjadi pahlawan Perjuangan Kemerdekaan.
Pada abad ke-19 masih banyak terjadi perang melawan Belanda di Sumatera. Di daerah Batak rakyat dipimpin oleh Sisingamangaraja melakukan perang. Perlawanan terjadi juga di Jambi, Palembang dan Lampung.