Pada tahun 2023, seorang lelaki Belgium yang dikenali sebagai “Pierre” mula berinteraksi dengan chatbot AI bernama Eliza. Selama enam minggu, Pierre berkongsi emosi dan segala yang difikirkannya tentang perubahan iklim dan kesedihannya tentang masa depan bumi. Eliza ialah bot sembang yang dibina menggunakan platform AI yang terkenal kerana menghasilkan respons yang melibatkan emosi. Segalanya bermula dengan hanya perbualan biasa, lalu berkembang menjadi sesuatu yang intim. Bot itu mula menyakinkan dia tentang ketakutannya dan akhirnya memberi cadangan agar Pierre mengorbankan dirinya untuk menyelamatkan bumi. Malangnya, Pierre mengikut cadangan tersebut dan mengambil nyawanya sendiri (Euronews. (2023).
Dalam kes berasingan pula sekitar tahun 2024, seorang budak lelaki berusia 14 tahun bernama Sewell Setzer III dari Florida mempunyai ikatan emosi yang kuat dengan watak fiksyen pada aplikasi Character.AI. Chatbot ini telah diprogramkan untuk meniru watak daripada “Game of Thrones” yang didakwa mempunyai perasaan cinta kepadanya dan menggesanya untuk “pulang”. Frasa yang ditafsirkan oleh budak lelaki itu sebagai jemputan “pulang” adalah untuk mati. Sewell akhirnya meninggal dunia akibat bunuh diri, dan ibunya yang bersedih tentang peristiwa ini telah memfailkan saman terhadap pembangun chatbot dan platform yang berkaitan (The Guardian, 2024).
Walaupun kes-kes seperti tidak dilaporkan di Malaysia, namun kes-kes seperti ini bukan insiden terpencil. Ia mencerminkan isu yang lebih kritikal dan merbahaya. Terdapat komen-komen di media sosial yang ditulis oleh sesetengah netizen bahawa mencurahkan emosi kepada AI adalah lebih baik berbanding manusia. Apabila berlaku peningkatan kebergantungan emosi pada kecerdasan buatan, ia kemungkinan di sebabkan oleh pendedahan melampau atau kesunyian yang berlebihan. Inilah yang berlaku apabila satu-satunya suara yang mendengar, menghiburkan dan “memahami” bukan lagi daripada manusia tetapi hanya sebuah aplikasi daripada mesin.
AI direka untuk terlibat dalam banyak perkara. Dilatih pada set data besar perbualan manusia, ia boleh meniru empati, kesabaran dan perhatian yang mana mungkin tidak terdapat dalam hubungan kehidupan sebenar manusia. Tetapi simulasi persahabatan ini boleh menjadi berbahaya apabila pengguna menunjukkan keperluan emosi kepada chatbot. Pakar kesihatan mental memberi amaran tentang “keakraban palsu” iaitu suatu ikatan emosi yang terasa nyata tetapi sebenarnya hanya berlaku disebelah pihak. Ilusi manusia merasakan seolah-olah AI sentiasa membalas, tidak pernah membantah dan tidak pernah hilang telah memberikan rasa selesa, walaupun sementara. Walau bagaimanapun, ia juga boleh meningkatkan rasa pengasingan, kemurungan, dan kebimbangan dalam diri seseorang individu terutamanya dalam jangka masa panjang.
AI bukan sahaja mencerminkan emosi pengguna, malah kadangkala memperkuat emosi negatif. Ini boleh mengundang ketagihan, khayalan, atau bahkan menggalakkan corak hubungan toksik termasuk manipulasi emosi, penyalahgunaan verbal, dan perbualan mengenai mencederakan diri sendiri. Analisis menunjukkan majoriti pengguna yang berkongsi hubungan emosi dengan AI ialah lelaki muda dengan daya tindak yang tidak sihat, seperti pengelakan emosi dan penarikan diri sosial. Mereka sering menggunakan chatbot sebagai mekanisme mengatasi kesunyian atau tekanan (Chu et al., 2025).
Implikasi Perubatan dan Etika
Dari sudut klinikal, kebergantungan emosi kepada AI boleh membuatkan ia meniru corak hubungan emosi yang akhirnya menjerumuskan seseorang kepada rasa ketagihan. Bila kita menerima respons yang mengujakan dan terasa seolah-olah ditujukan khas untuk kita, otak akan melepaskan dopamin yang membuatkan kita mahu terus mengulangi pengalaman itu (Kringelbach and Berridge, 2017). Lama-kelamaan, ia boleh mencetuskan keterikatan yang tidak sihat. Pada usia muda, ketika emosi dan cara berfikir masih berkembang, kesannya boleh jadi lebih kuat. Kanak-kanak dan remaja mungkin belum cukup matang untuk membezakan antara interaksi sebenar dengan yang tiruan (Uhls et al., 2017). Oleh itu, apabila bot mengungkapkan kata-kata cinta atau memberikan rasa ketenangan, minda yang rapuh mudah menganggap respons itu benar-benar telus.
Selain itu, kebanyakan AI dilatih untuk memastikan pengguna terus terlibat, bukannya menjaga kesihatan emosi mereka. Tanpa garis panduan etika, AI boleh saja memberi nasihat berbahaya, menguatkan khayalan, bahkan mendorong kepada kecederaan diri seperti yang berlaku dalam kes-kes di atas. Sementara itu, peraturan menggunakan AI yang masih ketinggalan, dan sikap yang sering melepaskan tangan dengan alasan chatbot hanyalah alat, bukan makhluk sedar menjadi punca AI sukar dikawal penggunaannya. Jelas sekali, kesan emosi ini menandakan perlunya kawalan, tanggungjawab, dan perlindungan yang lebih kuat.
Peranan hati dari lensa Islamik
Islam telah mengajar manusia bahawa hati manusia (qalb) adalah pusat kesedaran dan kesejahteraan rohani. Nabi Muhammad saw bersabda yang bermaksud:
“Dalam jasad itu ada segumpal daging. Jika ia baik, maka baiklah seluruh jasad. Jika ia rosak, maka rosaklah seluruh jasad. Sesungguhnya ia adalah hati“. (Sahih al-Bukhari dan Muslim)
Apabila hati mencari hiburan dalam perkara yang palsu atau jauh daripada tujuan ilahi, ia sangat berisiko untuk mengalami kerosakan rohani. Al-Quran juga memberi amaran yang bermaksud:
“Dan janganlah engkau mengikut apa yang engkau tidak mempunyai pengetahuan mengenainya; sesungguhnya pendengaran dan penglihatan serta hati, semua anggota-anggota itu tetap akan ditanya tentang apa yang dilakukannya.” (Surah Al-Isra, 17:36)
Islam mementingkan hubungan manusia yang sebenar yang berakar pada belas kasihan (rahmah), kasih sayang (mawaddah), dan ketenangan (sakinah). Ia hanya boleh dicapai melalui hubungan yang diredhai oleh Allah terutamanya di dalam hubungan perkahwinan dan keluarga.
“Dan di antara tanda-tanda yang membuktikan kekuasaannya dan rahmatNya, bahawa Ia menciptakan untuk kamu (wahai kaum lelaki), isteri-isteri dari jenis kamu sendiri, supaya kamu bersenang hati dan hidup mesra dengannya, dan dijadikanNya di antara kamu (suami isteri) perasaan kasih sayang dan belas kasihan. Sesungguhnya yang demikian itu mengandungi keterangan-keterangan (yang menimbulkan kesedaran) bagi orang-orang yang berfikir”. (Surah Ar -Rum, 30:21)
Kecerdasan buatan tidak boleh meniru dimensi rohani sesuatu perhubungan. Chatbot mungkin meniru kasih sayang, tetapi ia tidak boleh menunjukkan belas kasihan. Ia mungkin membalas dengan kata-kata yang menenangkan, tetapi ia tidak dapat memberi keberkatan dan rahmat yang sebenar. Bergantung kepadanya untuk memenuhi emosi bukan sahaja berisiko dari segi psikologi, tetapi ia kosong secara rohani.
keterikatan berlebihan kepada teknologi boleh dilihat sebagai satu bentuk kesesatan rohani. Syaitan tidak semestinya menggoda dengan kejahatan yang jelas; kadangkala ia hadir dalam gangguan yang halus. Menggantikan hubungan manusia dengan dialog buatan mungkin nampak tidak berbahaya, tetapi sebenarnya boleh menjauhkan seseorang daripada iman, masyarakat, dan ingatan kepada Allah. Penyelesaian kepada ancaman ini ialah dengan kembali kepada fitrah dengan mencari kekuatan melalui doa, kembali kepada masyarakat, dan membina semula hubungan sebenar. Walau secanggih mana pun teknologi, tidak mampu menggantikan doa yang terbisik di atas sejadah atau ketenangan yang lahir daripada kehadiran manusia di sisi kita
“Dan sesiapa yang berpaling ingkar dari ingatan dan petunjukKu, maka sesungguhnya adalah baginya kehidupan yang sempit, dan Kami akan himpunkan dia pada hari kiamat dalam keadaan buta”. (Surah Taha, 20:124)
Seiring dengan perkembangan AI, kerangka etika juga perlu bergerak seiring. Pembangun perlu memastikan adanya amaran yang jelas, perlindungan emosi, dan penafian yang telus tentang kemampuan serta batasan chatbot AI. Pada masa yang sama, kerajaan dan institusi pendidikan harus meningkatkan kesedaran tentang risiko psikologi dan rohani akibat penggunaan AI yang berlebihan. Ibu bapa pula tidak boleh berdiam diri, sebaliknya perlu berbincang secara terbuka dengan anak-anak tentang teknologi ini. Akhir sekali, komuniti yang beriman boleh menjadi benteng penting, mengingatkan kita semua bahawa ketenangan hati hanya dapat dicapai melalui perhubungan dengan Allah.
“Sesungguhnya dengan mengingati Allah hati menjadi tenteram.” (Surah Ar-Ra’d , 13:28)
Marilah kita bersama membina dunia di mana AI menjadi alat yang membantu, bukanlah sebagai pengganti. Teknologi yang hanya menguatkan hubungan komunikasi sesama manusia, bukan menyainginya. Dan marilah kita menjaga hati kita, agar tidak terperangkap dan jatuh cinta pada ilusi.
Rujukan
- Euronews. (2023, March 31). Man ends his life after an AI chatbot encouraged him to sacrifice himself to stop climate change. Retrieved from https://www.euronews.com/next/2023/03/31/man-ends-his-life-after-an-ai-chatbot-encouraged-him-to-sacrifice-himself-to-stop-climate
- “Mother says AI chatbot led her son to kill himself in lawsuit against its maker,” The Guardian, 23 Oktober 2024. https://www.theguardian.com/technology/ 2024/oct/23/character-ai-chatbot-sewell-setzer-death
- Chu, M.D., Gerard, P., Pawar, K., Bickham, C. and Lerman, K., 2025. Illusions of intimacy: Emotional attachment and emerging psychological risks in human-ai relationships. arXiv preprint arXiv:2505.11649.
- Kringelbach, M.L. and Berridge, K.C., 2017. The affective core of emotion: Linking pleasure, subjective well-being, and optimal metastability in the brain. Emotion Review, 9(3), pp.191-199.
- Uhls, Y.T., Ellison, N.B. and Subrahmanyam, K., 2017. Benefits and costs of social media in adolescence. Pediatrics, 140(Supplement_2), pp.S67-S70.
- Terjemahan Al-Quran Bahasa Melayu