Di titik ini, kita perlu berpikir kritis. Masalahnya bukan hanya AI digunakan untuk curhat. Masalahnya muncul ketika manusia mulai lebih percaya pada mesin daripada pada keluarga, sahabat, guru, komunitas, atau tenaga profesional. Jika seseorang lebih nyaman bercerita kepada sistem digital karena manusia di sekitarnya terlalu sibuk, terlalu cepat menghakimi, atau terlalu dingin, maka krisisnya bukan hanya teknologi. Krisisnya adalah krisis relasi.
Islam memberi dasar yang kuat untuk membaca persoalan ini. Manusia diciptakan bukan untuk hidup sendiri. Islam mengajarkan taawun, ukhuwah, kasih sayang, dan kewajiban menjaga sesama. Dalam Al-Quran, manusia dimuliakan oleh Allah. Maka manusia tidak boleh direduksi menjadi sekadar data emosi, pola percakapan, atau pengguna yang terus diarahkan agar bergantung pada sistem digital.
Dalam Islam, mendengarkan orang yang sedang terluka adalah bagian dari akhlak. Menolong orang yang sedang rapuh adalah bagian dari tanggung jawab sosial. Karena itu, fenomena teman curhat AI seharusnya menyadarkan keluarga, kampus, sekolah, dan masyarakat bahwa banyak orang sedang kehilangan ruang aman untuk berbicara. Mereka tidak selalu butuh nasihat panjang. Sering kali, mereka hanya butuh didengar dengan sabar.
Namun, Islam juga tidak menolak teknologi. Teknologi dapat menjadi alat kemaslahatan jika digunakan dengan benar. AI boleh dipakai untuk menulis jurnal emosi, mencari penjelasan awal, menyusun pertanyaan reflektif, atau membantu seseorang memahami perasaannya. Tetapi AI tidak boleh dijadikan sandaran utama untuk masalah batin yang berat. Untuk depresi, trauma, konflik keluarga, kecemasan berat, atau dorongan menyakiti diri, manusia tetap membutuhkan bantuan nyata dari orang terpercaya dan tenaga profesional.
Dari sisi etika teknologi, UNESCO menegaskan bahwa pengembangan AI harus berpusat pada martabat manusia, hak asasi, transparansi, keadilan, dan pengawasan manusia. Prinsip ini penting karena AI bukan hanya produk teknis. AI memengaruhi cara manusia berpikir, mengambil keputusan, membangun hubungan, dan memahami dirinya sendiri.
