Kontroversi Teknologi AI: Privasi Bocor dan Layanan Kesehatan Terhambat

Janji era digital terdengar manis: perangkat semakin pintar, layanan semakin cepat, dan hidup semakin ringkas. Namun, dua kabar yang mencuat pada pekan yang sama—dari Los Angeles, Amerika Serikat, hingga Rotherham, Inggris—justru membuka sisi lain yang menggelisahkan. Di satu sisi, kacamata pintar Meta yang digandrungi banyak orang kini disalahgunakan untuk merekam diam-diam tanpa sepengetahuan korban. Di sisi lain, sebuah resepsionis kecerdasan buatan bernama Emma membuat pasien klinik dan praktik kesehatan frustrasi lantaran gagal memahami logat lokal Yorkshire.

Dua peristiwa itu terpisah ribuan kilometer dan menyentuh ranah yang berbeda. Namun, benang merahnya serupa: teknologi yang dirancang untuk mendekatkan justru menjauhkan manusia dari rasa aman dan keadilan layanan. Pertanyaannya, sejauh mana kecerdasan buatan dan perangkat pintar boleh merangsek ke ruang privat serta pelayanan publik tanpa kendali yang memadai?

Kacamata Meta dan Lensa yang Merekam Tanpa Izin

Kacamata pintar Meta dibekali lampu LED kecil yang berkedip setiap kali pemakainya mengambil foto, merekam video, atau menangkap audio. Lampu itu semestinya menjadi pagar terakhir privasi: orang-orang di sekitar bisa tahu kapan mereka sedang direkam. Namun, pagar itu kini dengan mudah dirobohkan.

Seorang pria di Los Angeles—yang meminta identitasnya dirahasiakan—mengaku menjalankan bisnis bernama Ghost Metas. Bisnis itu mengkhususkan diri menonaktifkan lampu LED pada kacamata Meta. Ia hanyalah satu dari ratusan vendor yang mudah ditemukan secara daring dan menawarkan jasa serupa.

Saat diwawancara lewat panggilan video sambil menyantap tuna langsung dari kalengnya, pria itu mengungkapkan pengakuan yang membuat bulu kuduk merinding.

Saya pernah punya satu pelanggan yang mengaku niatnya memang menyeramkan. Dia bilang: 'Saya suka ke klub tari telanjang dan ingin merekam para penarinya. Biasanya saya taruh ponsel di saku dada, tapi kacamata lebih praktis.'

Begitu LED dinonaktifkan, praktis tidak ada cara bagi siapa pun untuk mengetahui dirinya tengah difilmkan. Laporan menyebut orang-orang mengaku diam-diam direkam di rumah mereka sendiri, di tengah kerumunan konser, hingga di lingkungan kerja. Kacamata pintar yang semakin populer itu bahkan disebut sebagai paku terakhir di peti mati privasi pribadi.

Fenomena ini membongkar celah besar dalam regulasi. Ketika fitur pengaman bawaan perangkat dapat dipangkas oleh pihak ketiga tanpa pengawasan, klaim "privasi terlindungi" dari produsen menjadi rapuh. Publik akhirnya tak punya kendali atas citra dan suara mereka sendiri.

Emma, Resepsionis AI yang Tersandung Logat Yorkshire

Beralih ke Inggris, teknologi juga menjadi sumber kegelisahan, meski dalam wujud yang berbeda. Sejumlah praktik kesehatan di Rotherham, kota di Yorkshire Selatan, mulai memakai resepsionis AI bernama Emma untuk menyambut panggilan telepon pasien.

Harapannya jelas: memangkas antrean telepon dan mempercepat penanganan. Kenyataannya, menurut Healthwatch Rotherham, lembaga pengawas layanan kesehatan dan sosial setempat, Emma justru kewalahan menghadapi aksen lebar atau "twang" khas warga Yorkshire. Banyak pasien yang urung dilayani dengan benar, frustrasi, lalu menutup telepon.

Pasien di kota Yorkshire Selatan merasa frustrasi karena resepsionis AI tidak memahami 'aksen lebar' mereka, demikian catatan lembaga pengawas kesehatan setempat.

Yang ironis, perusahaan penyedia AI mengklaim Emma mampu beroperasi dalam 17 bahasa. Namun, kemampuan multibahasa itu tak banyak menolong ketika yang dihadapi bukan bahasa asing, melainkan keragaman dialek dan logat lokal yang hidup di ruang-ruang keseharian. Teknologi yang dirancang untuk inklusif justru menyingkirkan kelompok yang paling dekat dengan akar budaya daerahnya.

Dua Sisi Mata Uang Teknologi yang Sama

Kacamata Meta dan resepsionis Emma barangkali tampak seperti dua cerita yang tak berhubungan. Akan tetapi, keduanya memperlihatkan pola yang menyeramkan: teknologi canggih yang gagal menghormati konteks manusia. Yang pertama mengabaikan hak privasi demi kepraktisan merekam; yang kedua mengabaikan keberagaman bahasa demi efisiensi layanan.

Bagi para pegiat privasi, maraknya jasa penonaktifan LED adalah bukti bahwa regulasi belum sanggup mengejar kecepatan inovasi. Sementara itu, bagi pegiat layanan publik, kisah Emma menjadi pengingat bahwa kecerdasan buatan tak boleh menggantikan manusia tanpa uji kelayakan yang mempertimbangkan keragaman sosial.

Sederet langkah bisa ditempuh untuk meredam dua persoalan ini. Regulator didorong memperketat aturan terhadap modifikasi perangkat pintar yang menonaktifkan fitur pengaman, termasuk menjerat vendor seperti Ghost Metas dengan sanksi tegas. Di sisi pelayanan kesehatan, pengujian AI sebaiknya melibatkan sampel suara dengan beragam aksen dan dialek sebelum sistem diresmikan, disertai jalur alternatif manusia yang tetap tersedia.

Masyarakat pun tak perlu pasrah. Memahami cara kerja perangkat yang dipakai sehari-hari—termasuk memeriksa tanda-tanda perekaman aktif—serta menyuarakan keluhan lewat lembaga pengawas seperti Healthwatch, adalah langkah kecil yang bisa menjaga batas privasi dan mutu layanan publik.

Pada akhirnya, kedua peristiwa ini menyampaikan pesan yang sama lantang: adopsi teknologi yang terburu-buru bisa mengorbankan dua hal paling mendasar—privasi dan layanan yang manusiawi. Sebelum menyerahkan ruang privat dan pelayanan publik kepada mesin, masyarakat patut bertanya lebih keras tentang batas, pengawasan, dan akuntabilitas.