Ilustrasi kecerdasan buatan
Ilustrasi kecerdasan buatan

Facebook Uji Kecerdasan Buatan Untuk Cegah Perbuatan Bunuh Diri.

makobar.com – Facebook mengumumkan bahwa mereka tengah menguji kecerdasan buatan (AI) untuk diintegrasikan dengan layanan mereka selama beberapa bulan terakhir di AS.

Kecerdasan buatan ini dikembangkan untuk menemukan orang yang berpotensi memiliki rencana untuk bunuh diri. Cara kerjanya yakni ketika menemukan seseorang yang berada dalam bahaya, perusahaan akan memberikan bendera pada postingan orang tersebut untuk diteruskan ke bagian moderator yang akan merespons dengan mengirimkan ahli kesehatan mental.

Dalam kondisi yang lebih darurat, moderator yang menggunakan sumber daya manusia untuk menemukan orang yang dalam keadaan bahaya tersebut.

Baca Juga :

CEO Facebook Mark Zuckerberg dalam postingannya menulis bahwa pihaknya berharap alat ini akan membuktikan bahwa AI saat ini bisa digunakan untuk menyelamatkan nyawa banyak orang. Dia sesumber software tersebut telah membantu Facebook merespons lebih dari 100 kasus.

“Jika kita bisa menggunakan AI untuk membantu orang agar mereka selalu ada untuk keluarga dan teman, itu adalah hal yang penting dan langkah positif ke depan,” tulisnya.

Hanya saja, Facebook tidak secara detil menjelaskan bagaimana kerja AI. Perusahaan hanya mengatakan AI dilatih untuk mengidentifikasi postingan dan pesan yang pernah ditandai berbahaya oleh pengguna lain sebelumnya.

Teknologi ini juga menguji siaran live untuk mengidentifikasi bagian video yang mendapatkan lebih banyak komentar, reaksi dan laporan. AI akan mencari kata-kata kunci seperti “apakah kamu baik-baik saja” atau “adakah yang bisa kubantu?” dalam kolom komentar dari postingan pengguna.

Moderator manusia yang akan memainkan peran penting dalam menentukan apakah pengguna Facebook sedang dalam kondisi kesulitan.

Facebook juga akan memprioritaskan laporan untuk pengguna dalam keadaaan darurat. Alat akan langsung menampilkan info dalam bahasa lokal dan kontak orang yang bisa dihubungi untuk penanganan bunuh diri. Perusahaan mengklaim sejauh ini telah bermitra dengan 80 partner lokal untuk menangani kasus ini.

VP manajemen produk Guy Rosen menyebut AI dikembangkan untuk memperpendek beberapa menit setiap langkah, terutama di Facebook Live untuk bunuh diri. “Ada kasus di mana responden pertama tiba dan orang yang mencoba bunuh diri itu masih menyiarkan percobaannya.”

Dalam sebuah penelitian, data yang digunakan di rumah sakit menunjukkan akurasi AI mencapai 80-90 persen dalam menemukan orang yang berniat mengakhiri hidupnya. Dengan kata lain, data itu tidak umum mempresentasikan populasi yang cukup besar.

Di sisi lain, kemampuan AI Facebook untuk memantau orang yang berniat bunuh diri justru menuai kekhawatiran. Selain sempat dituding berkerjasama dengan NSA untuk memata-matai penggunanya, kali ini Facebook diduga telah mempelajari data pengguna dan membuat sebuah penilaian sensitif.

Facebook memang tidak secara gamblang memberikan penjelasan atas antisipasi penyalahgunaan sistem AI miliknya. Kepala keamanan utama Facebook, Alex Stamos menanggapi kekhawatiran tersebut dalam kicauannya di Twitter.

“Penggunaan AI yang menyeramkan / menakutkan / berbahaya akan menjadi risiko selamanya. Oleh karena itu penting untuk menetapkan norma yang baik saat ini di seputar penggunaan data versus utilitas dan memikirkan tentang bias yang merayap masuk juga,” cuitnya seperti dilaporkan The Verge.

Teknologi ini kabarnya akan dirilis untuk pengguna di seluruh dunia, kecuali Uni Eropa. Hal itu lantaran AI dianggap melakukan profiling pengguna yang melanggar hukum di sana. (mc/min)