Memenuhi amanat Undang-undang Dasar 1945 perubahan III Pasal 23 G (1) yang menyatakan Badan Pemeriksa Keuangan berkedudukan di ibukota Negara dan memiliki perwakilan disetiap provinsi, maka pada tanggal 20 Januari 2006 telah diresmikan kantor Perwakilan BPK Provinsi Aceh oleh Ketua BPK RI, Bapak Anwar Nasution. Peresmian kantor tersebut berdasarkan Surat Keputusan BPK No. 23/SK/I.VIII.3/6/2006 tanggal 7 Juni 2006 dengan nama Perwakilan IX BPK RI di Banda Aceh. Sejalan dengan perkembangan organisasi BPK, nama perwakilan ini telah mengalami lima kali perubahan. Yang terakhir sesuai dengan Keputusan BPK RI No. 3/K/I-XIII.2/7/2014, penyebutan nama perwakilan ini menjadi BPK Perwakilan Provinsi Aceh.
BPK Perwakilan Provinsi Aceh pada awalnya merupakan salah satu Sub Auditorat di bawah lingkup kerja BPK Perwakilan I di Medan. Pasca bencana Tsunami Tahun 2004, BPK berfokus pada pemeriksaan pengelolaan dana Badan Rekonstruksi dan Rehabilitasi (BRR) Aceh dan Nias, sehingga terbentuklah BPK Perwakilan Provinsi Aceh.
Pada awal pembentukannya, Kantor Perwakilan Provinsi Aceh menempati sebuah rumah di Jalan Tengku Daud Beureueh Nomor 145, Banda Aceh. Untuk kegiatan operasional selanjutnya, kantor BPK Perwakilan Provinsi Aceh menempati dua gedung kantor, yaitu Kantor Sekretariat Perwakilan di Jalan Tengku Daud Beureueh dan Kantor Sub Auditorat di Mess Perwakilan Jalan AMD Kelurahan Batoh, Banda Aceh.
Saat ini, gedung kantor Perwakilan Provinsi Aceh berlokasi di Jalan. T. Panglima Nyak Makam Nomor 38, Syiah Kuala, Banda Aceh yang dibangun sejak tahun 2007 dan diresmikan penggunaannya oleh Ketua BPK RI, Bapak Hadi Purnomo, pada tanggal 16 Desember 2010. Pada awal pembangunannya, luas lahan area gedung kantor adalah 5.661 m2. Pada Bulan Mei 2016 Perwakilan Provinsi Aceh berhasil melakukan pembebasan tanah untuk perluasan lahan yang berlokasi di belakang kantor perwakilan seluas 986 m2 dengan bantuan pendanaan dari Kantor Pusat.
BPK Perwakilan Provinsi Aceh telah mengalami lima periode kepemimpinan, yaitu Drs. Maulana Ginting, M.Si periode Juni 2005 s.d. 2007, Ir. Abdul Rifa’i Sholeh, M.M. periode April 2008 s.d. Agustus 2011, Maman Abdulrachman, S.E., M.M. periode Juni 2012 s.d Desember 2016, Isman Rudy, S.E., M.M. periode Januari 2017 s.d. Maret 2019, Arif Agus S.E., M.M., Ak., CPA. periode Juli 2019 sampai dengan September 2021, Pemut Aryo Wibowo S.E., M.Si., Ak., CSFA. periode September 2021 sampai dengan Agustus 2022 dan Masmudi S.E., M.Si., CA, Ak., CSFA periode Agustus 2022 dan sampai saat ini.
