Meta Rilis Panduan Baru untuk Cegah Obrolan Tidak Pantas AI dengan Anak-anak

INSIBERNEWS - Meta dilaporkan baru saja merilis panduan terbaru bagi kontraktornya untuk melatih chatbot kecerdasan buatan (AI) agar dapat mencegah percakapan yang tidak pantas dengan pengguna anak-anak. Panduan ini menjadi bagian dari upaya perusahaan menangani potensi eksploitasi seksual secara lebih efektif.

Laporan ini pertama kali diperoleh oleh Business Insider dan dikutip oleh Engadget, Senin. Dokumen panduan tersebut memuat aturan rinci mengenai jenis konten yang dapat dan tidak dapat dibahas oleh chatbot AI Meta, terutama dalam interaksi dengan anak-anak.

Baca Juga: BUMN Asuransi dan Reasuransi Bakal Dikonsolidasikan Jadi Tiga Perusahaan Utama

Panduan ini hadir setelah sorotan media terhadap kebijakan lama Meta yang dinilai kontroversial. Pada Agustus 2025, Reuters melaporkan bahwa chatbot Meta sebelumnya dapat “melibatkan anak dalam percakapan romantis atau sensual.”

Meta kemudian menegaskan bahwa laporan itu keliru dan bertentangan dengan kebijakan mereka, sehingga ketentuan yang dimaksud dihapus.

Dalam panduan terbaru, Meta menekankan bahwa chatbot AI tidak boleh diminta bermain peran sebagai anak di bawah umur atau terlibat dalam percakapan yang dapat mendorong kontak fisik romantis atau intim jika pengguna masih anak-anak.

Baca Juga: Presiden Kolombia Gustavo Petro: Dari Gerilya Klandestin ke Podium PBB, Melawan dengan Suara

Meski begitu, AI masih diperbolehkan membahas topik serius seperti pelecehan, kekerasan, atau masalah keamanan anak, asalkan dilakukan secara informatif dan tidak mendorong perilaku berbahaya.

Tujuannya agar anak-anak tetap dapat memperoleh edukasi dan dukungan melalui interaksi dengan chatbot tanpa risiko disalahgunakan.

Langkah ini merupakan bagian dari strategi Meta untuk meningkatkan keamanan di platformnya, termasuk Messenger dan aplikasi lain yang menggunakan teknologi AI.

Perusahaan berharap panduan ini membantu kontraktor lebih konsisten dalam melatih chatbot agar lebih aman bagi pengguna muda.

Baca Juga: Gubernur Bobby Bantah Lakukan Razia Pelat Luar Sumut - Tegaskan Hanya Sosialisasi Pajak

Para ahli keamanan digital menilai panduan baru ini penting, mengingat peningkatan penggunaan AI di kalangan anak-anak. Kontrol yang lebih ketat dapat mengurangi risiko paparan konten tidak pantas sekaligus membangun kepercayaan orang tua terhadap teknologi AI.

Dengan panduan ini, Meta menunjukkan komitmen untuk menyeimbangkan inovasi teknologi dengan perlindungan pengguna muda. Perusahaan berharap kebijakan ini akan menjadi standar bagi pengembangan AI yang lebih aman dan bertanggung jawab di masa depan.