Keberadaan Madrasah Aliyah Negeri 2 Tanjung Jabung Barat yang sebelumnya bernama Madrasah Aliyah Negeri 2 Kuala Tungkal merupakan pecahan MAN 1 Tanjung Jabung Barat yang sebelumnya bernama MAN 1 Kuala Tungkal. Madrasah Aliyah Negeri 2 didirikan pada tanggal 20 Juni 2008 di atas tanah seluas 4.415,39 m 2 dengan volume bangunan keseluruhan 200 m2 . Pendirian Madrasah Aliyah Negeri 2 Tanjung Jabung Barat, Berdasarkan SK Mentri Agama Republik Indonesia Nomor 49/2009 tanggal 6 Maret 2009.

Dibaginya MAN 1 Tanjung Jabung Barat, berdasarkan pertimbangan bahwa siswa terus bertambah dan untuk penambahan bangunan di MAN 1 Tanjung Jabung Barat sudah tidak memungkinkan lagi, dikarenakan terbatasnya lahan untuk pelebaran bangunan gedung madrasah.

Madrasah Aliyah Negeri 2 Tanjung Jabung Barat secara resmi beroperasi pada tanggal 6 Maret 2009 dengan kepala Madrasahnya yaitu Bapak Drs. H. Bakhtiar, S.Pd yang dilantik berdasarkan SK Kemenag RI Nomor KW.05.1/2 KP.07.6/37/2009 pada tanggal 15 Oktober 2009, sebelumnya beliau menjabat sebagai kepala madrasah MAN 1 Tanjung Jabung Barat. Singkatnya bahwa Madrasah Aliyah Negeri 2 Tanjung Jabung Barat berumur kurang lebih 9 tahun.

Jalan menuju Madrasah Aliyah Negeri 2 Tanjung Jabung Barat cukup baik, sehingga dapat meningkatkan semangat belajar peserta didik. Adapun batas letak geografis dari Madrasah Aliyah Negeri 2 Tanjung Jabung Barat adalah sebagai berikut :

-          Sebelah barat            : JL. Beringin Raya

-          Sebelah timur            : Pemukiman penduduk

-          Sebelah utara            : Pemukiman penduduk dan perkebunan

-          Sebelah selatan        : JL. Arrahman