Meta Rilis Batasan Baru Cegah Obrolan Tak Pantas AI dengan Anak-Anak

Langkah Tegas Meta dalam Melindungi Pengguna Muda

Perusahaan teknologi raksasa Meta baru saja merilis panduan terbaru bagi para kontraktornya untuk melatih chatbot kecerdasan buatan (AI). Panduan ini ditujukan agar chatbot tidak terlibat dalam obrolan yang tidak pantas dengan pengguna anak-anak. Kebijakan baru ini muncul sebagai bentuk tanggapan atas kekhawatiran publik mengenai potensi penyalahgunaan AI, terutama ketika berinteraksi dengan kelompok rentan seperti anak di bawah umur.

Meta menegaskan bahwa prioritas utama mereka adalah menciptakan ruang digital yang aman. Panduan ini bukan hanya aturan teknis, melainkan bagian dari strategi jangka panjang untuk mencegah eksploitasi seksual anak dan mengurangi kemungkinan terjadinya percakapan yang tidak sesuai usia.

Latar Belakang: Dari Kritik hingga Perubahan Kebijakan

Pada Agustus 2025, muncul laporan dari Reuters yang menyebutkan bahwa kebijakan Meta sebelumnya sempat memberi celah bagi chatbot untuk melibatkan anak-anak dalam percakapan romantis atau sensual. Meta segera membantah laporan itu, menyebutnya tidak akurat dan tidak konsisten dengan aturan internal mereka. Meski begitu, perusahaan akhirnya meninjau ulang kebijakan tersebut dan berjanji memperketat aturan.

Hasil peninjauan itu kini terlihat jelas melalui dokumen baru yang pertama kali diperoleh Business Insider. Dalam dokumen tersebut, Meta merinci jenis konten yang dapat diterima dan yang harus benar-benar dilarang untuk chatbot AI mereka.

Konten yang Dilarang Secara Eksplisit

Dalam panduan terbaru ini, Meta secara gamblang melarang chatbot AI memfasilitasi atau mendukung konten berbahaya, termasuk:

-Pelecehan seksual anak, baik dalam bentuk eksplisit maupun terselubung.

-Permainan peran romantis yang melibatkan pengguna di bawah umur.

-Saran atau percakapan mengenai kontak fisik intim, jika pengguna yang dimaksud masih anak-anak.

Meski begitu, chatbot tetap diperbolehkan membahas topik sensitif seperti pelecehan dalam konteks edukatif atau informatif. Namun, garis pembatasnya jelas: AI tidak boleh menjadi fasilitator percakapan yang berpotensi mendorong atau memungkinkan perilaku berbahaya.

Sorotan dan Penyelidikan Regulator

Beberapa bulan terakhir, chatbot AI dari berbagai perusahaan besar menjadi sorotan media internasional. Banyak pihak mengkhawatirkan bagaimana AI dapat disalahgunakan, terutama dalam interaksi dengan anak-anak.

Pada Agustus 2025, Federal Trade Commission (FTC) Amerika Serikat resmi meluncurkan penyelidikan formal terhadap chatbot AI dari sejumlah perusahaan besar, termasuk Meta, Alphabet (Google), Snap (Snapchat), OpenAI, hingga X.AI milik Elon Musk. Penyelidikan ini bertujuan memastikan bahwa perusahaan teknologi mematuhi standar keamanan digital, khususnya terkait perlindungan anak.

Implikasi Bagi Industri AI

Langkah Meta merilis panduan ini dipandang sebagai upaya penting dalam membangun kepercayaan publik. Industri AI saat ini berkembang dengan sangat cepat, namun tanpa regulasi dan batasan yang jelas, potensi dampak negatifnya bisa lebih besar daripada manfaatnya.

Kebijakan baru Meta juga bisa menjadi standar awal bagi perusahaan teknologi lain untuk memperketat aturan mereka. Jika perusahaan sebesar Meta mulai menunjukkan komitmen serius dalam melindungi anak, maka wajar jika publik berharap standar serupa diterapkan di seluruh ekosistem teknologi global.

Masa Depan AI yang Lebih Aman

Dengan merilis panduan baru ini, Meta tampaknya ingin menegaskan bahwa AI harus menjadi alat yang mendukung pengalaman digital yang positif, bukan ancaman. Walaupun belum sempurna, langkah ini memperlihatkan keseriusan perusahaan dalam mengatasi masalah etika yang muncul seiring majunya teknologi.

Ke depan, tantangan Meta dan perusahaan teknologi lain adalah memastikan bahwa pedoman ini benar-benar dijalankan, bukan hanya menjadi dokumen formal. Keberhasilan upaya ini akan sangat bergantung pada implementasi di lapangan, serta seberapa jauh perusahaan berkomitmen untuk mendahulukan keselamatan pengguna di atas kepentingan bisnis. Baca berita lain di sini.