Meski menyadari besarnya tekanan, Lopa tidak pernah menunjukkan keraguan. Ia tetap melanjutkan upaya penegakan hukum terhadap berbagai dugaan korupsi yang menjadi perhatian publik.
Namun, masa jabatannya berlangsung sangat singkat.
Pada 2 Juli 2001, ketika menghadiri serah terima jabatan Duta Besar Republik Indonesia sekaligus menjalankan ibadah umrah di Arab Saudi, Lopa mendadak jatuh sakit. Ia mengalami mual dan muntah sebelum akhirnya kehilangan kesadaran.
Sehari kemudian, tepat pada 3 Juli 2001, Baharuddin Lopa mengembuskan napas terakhir.
Kepergiannya mengejutkan publik dan memunculkan berbagai spekulasi. Namun, tim dokter menyatakan bahwa Lopa meninggal akibat serangan jantung yang dipicu kelelahan setelah menjalani aktivitas yang sangat padat.
Wafatnya Jaksa Agung tersebut juga meninggalkan duka mendalam di kalangan pejabat negara. Presiden Abdurrahman Wahid menjadi salah satu tokoh yang disebut sangat berduka atas kepergian sosok yang dikenal bersih dan tegas itu.