Di dunia digital setelah kematian, dimana teknologi AI memungkinkan percakapan dengan orang yang meninggal, kekhawatiran mengenai batas-batas etika dan potensi bahaya telah diangkat ke permukaan oleh para ilmuwan dari Universitas Cambridge. Dijuluki sebagai “deadbots” atau “griefbots,” chatbot bertenaga AI ini dirancang untuk meniru bahasa dan kepribadian orang-orang terkasih yang telah meninggal, sehingga memberikan hiburan bagi mereka yang berduka. Namun, sebuah penelitian baru-baru ini memperingatkan bahwa inovasi ini dapat menimbulkan konsekuensi yang tidak diinginkan, termasuk apa yang digambarkan oleh para peneliti sebagai “hantui digital” yang tidak memiliki standar keselamatan.
Implikasi etis dari teknologi tersebut ditegaskan oleh pengalaman individu seperti Joshua Barbeau, yang menggunakan versi awal teknologi AI yang dikenal sebagai Project December untuk berkomunikasi dengan replika digital mendiang tunangannya. Dengan memberikan contoh teks dan deskripsi pribadinya kepada AI, Barbeau menyaksikan respons nyata yang menimbulkan kekhawatiran tentang potensi penyalahgunaan teknologi tersebut, termasuk penyisipan iklan yang menyamar sebagai pemikiran orang yang meninggal.
Selain itu, para psikolog menekankan dampak teknologi ini terhadap anak-anak dalam menghadapi kehilangan, sehingga menimbulkan pertanyaan tentang martabat orang yang meninggal dan kesejahteraan orang yang masih hidup. Profesor Ines Testoni dari Universitas Padova menggarisbawahi sulitnya berpisah dari orang-orang terkasih yang telah meninggal, menekankan pentingnya memahami kematian dan akibatnya. Untuk mengilustrasikan potensi risiko, ahli etika AI Cambridge menguraikan tiga skenario hipotetis di mana bot duka dapat menimbulkan kerugian.
Hal ini termasuk simulasi tidak sah dari individu yang meninggal yang mempromosikan produk komersial, kebingungan yang timbul dari interaksi yang tidak realistis yang menyebabkan tertundanya penyembuhan, dan penerapan kehadiran digital pada penerima yang tidak bersedia, sehingga menyebabkan tekanan emosional dan rasa bersalah. Studi ini menganjurkan penerapan proses desain berbasis persetujuan untuk bot duka, dengan menggabungkan mekanisme opt-out dan batasan usia. Selain itu, mereka juga menyerukan adanya ritual-ritual baru untuk menghentikan replika digital ini dengan penuh rasa hormat, dan mempertanyakan apakah teknologi tersebut hanya menunda proses berduka.
Katarzyna Nowaczyk-Basińska, salah satu penulis studi ini, menyoroti kompleksitas etika AI di dunia digital setelah kematian, menekankan perlunya memprioritaskan martabat orang yang meninggal dan melindungi hak-hak donor dan pengguna data. Seiring dengan terus berkembangnya penggunaan AI di dunia digital setelah kematian, pertimbangan etis tetap menjadi hal yang terpenting dalam menavigasi wilayah yang belum dipetakan ini. Di Tiongkok, industri replika orang-orang tercinta yang telah meninggal yang dihasilkan oleh AI memberikan hiburan bagi para pelayat sekaligus menimbulkan pertanyaan etika yang signifikan. Perusahaan seperti Silicon Intelligence memanfaatkan kemajuan teknologi AI untuk menciptakan avatar digital yang menyimulasikan percakapan dengan orang mati, sehingga memberikan kenyamanan bagi individu seperti Sun Kai, yang berupaya menjaga hubungan dengan mendiang ibunya.
Permintaan akan layanan ini menggarisbawahi tradisi budaya berkomunikasi dengan orang mati, namun para kritikus mempertanyakan apakah berinteraksi dengan replika AI merupakan cara yang sehat untuk memproses kesedihan. Meskipun terdapat keterbatasan teknologi dan ketidakpastian etika, pasar keabadian digital sedang berkembang pesat, dengan penurunan harga dan peningkatan aksesibilitas. Avatar yang dihasilkan AI, mirip dengan deepfake, mengandalkan input data seperti foto, video, dan teks untuk meniru kemiripan dan pola bicara orang yang sudah meninggal. Kemajuan pesat Tiongkok dalam teknologi AI telah menjadikan layanan tersebut lebih mudah diakses, dengan perusahaan seperti Silicon Intelligence menawarkan opsi yang dapat disesuaikan mulai dari aplikasi interaktif hingga tampilan tablet.
Meskipun ada yang memandang replika ini sebagai terapi, ada pula yang menyuarakan kekhawatiran tentang keaslian interaksi dan implikasi etis dari meniru orang mati tanpa persetujuan mereka. Selain itu, tantangan teknis seperti mereplikasi gerakan tubuh dan memperoleh data latihan yang memadai juga menimbulkan hambatan yang signifikan. Dilema etika seputar replika AI dapat dilihat dari insiden kontroversial yang melibatkan sebuah perusahaan di Ningbo, yang menggunakan AI untuk membuat video selebriti yang telah meninggal tanpa izin. Insiden ini memicu kemarahan publik dan menyoroti perlunya pedoman etika yang jelas di bidang teknologi digital akhirat yang sedang berkembang.