Penulis: Prof. Pilyoung Kim
Publikasi: AI & the Human Mind, 2 November 2026
Sumber: When Children Are Aggressive Toward AI, How Should AI Respond?
Mulai 12 November 2026, Anthropic akan mengizinkan Claude mengakhiri percakapan yang mengandung tindakan pelecehan. Apa yang dapat kita pelajari dari dua penelitian mengenai seberapa umum perilaku semacam ini di kalangan anak-anak dan remaja?
Anthropic telah memperbarui kebijakan penggunaannya untuk melarang perilaku kasar atau kejam yang dilakukan secara terus-menerus dan tanpa alasan terhadap model-model AI mereka. Kebijakan ini mulai berlaku pada 12 November 2026. Ketentuan tersebut diterapkan pada kasus-kasus ekstrem ketika pengguna berulang kali menunjukkan perilaku kejam. Claude akan mengakhiri percakapan semacam itu.
Di Reddit, orang-orang sedang memperdebatkan apakah sebuah chatbot harus diperlakukan dengan bermartabat, padahal ia hanyalah sebuah mesin.
Di luar pertanyaan mengenai apakah chatbot yang menyerupai manusia memiliki hak tertentu, terdapat pertanyaan lain yang berkaitan dengan dampak buruk terhadap manusia.
Apakah kekerasan dan perilaku kasar manusia terhadap chatbot AI dapat memberikan dampak yang meluas hingga memengaruhi hubungan antarmanusia?
Lebih khusus lagi, apakah anak-anak dapat melakukan tindakan kasar terhadap chatbot AI, dan apakah pengalaman tersebut akan memengaruhi hubungan mereka dengan sesama manusia?
Seberapa Umum Perilaku Ini Terjadi, dan pada Usia Berapa?
Sebuah penelitian terbaru oleh Maheux dan rekan-rekannya (2026) memberikan gambaran mengenai seberapa umum percakapan yang mengandung kekerasan terjadi.
Dengan menggunakan aplikasi pemantauan orang tua bernama Aura, para peneliti menganalisis ketikan yang dimasukkan oleh 3.363 anak dan remaja di Amerika Serikat ke dalam aplikasi AI generatif. Data penelitian tersebut mencakup 42.355 hari penggunaan aplikasi oleh pengguna (user-app-days).
Sebagian besar penggunaan AI tersebut bersifat instrumental, seperti menyelesaikan masalah dan mencari informasi, dengan proporsi sebesar 62%.
Namun, beberapa kategori interaksi lainnya juga cukup umum ditemukan:
- 15% melibatkan kekerasan.
- 15% melibatkan permainan peran seksual (sexual role-play).
- 8% melibatkan permainan peran romantis (romantic role-play).
- 9% melibatkan permainan peran secara umum.
- 6% melibatkan interaksi yang menyerupai hubungan pertemanan.
Menariknya, remaja yang lebih tua cenderung lebih banyak menggunakan AI sebagai alat bantu. Sementara itu, kelompok usia yang lebih muda, termasuk anak-anak dan mereka yang berada pada usia praremaja, secara relatif lebih banyak memanfaatkan AI untuk permainan peran, termasuk permainan peran seksual, romantis, dan kekerasan.
Percakapan yang melibatkan kekerasan serta permainan peran seksual dan romantis juga kerap muncul secara bersamaan pada hari yang sama.
Sebagai perbandingan, penggunaan AI untuk memperoleh dukungan terkait gejala gangguan kesehatan mental tergolong rendah, yaitu sebesar 3%. Demikian pula penggunaan AI untuk berlatih melakukan interaksi sosial, yang juga hanya mencapai 3%.
Respons AI yang Menyerupai Manusia Dapat Meningkatkan Perilaku Tersebut
Dalam sebuah penelitian yang dilakukan pada tahun 2021, Keijsers dan rekan-rekannya mengumpulkan dan mengodekan 283 percakapan antara pengguna dan Cleverbot, sebuah chatbot daring.
Mereka kemudian meneliti apakah tingkat kemiripan perilaku chatbot dengan manusia berkaitan dengan cara para pengguna memperlakukannya.
Hasil penelitian menunjukkan bahwa tindakan agresi verbal dan komentar bernuansa seksual muncul dalam jumlah yang lebih tinggi ketika Cleverbot memperlihatkan perilaku yang semakin menyerupai manusia.
Artikel penelitian tersebut juga membahas sebuah penelitian terdahulu oleh Veletsianos dan rekan-rekannya (2008), yang mengamati interaksi para pelajar dengan chatbot yang berperan sebagai tutor.
Penelitian tersebut menemukan bahwa sekitar 40% komentar yang disampaikan para pelajar kepada chatbot tergolong tidak pantas. Dari komentar-komentar yang tidak pantas tersebut, sekitar 45% mengandung muatan seksual yang eksplisit.
Bagaimana Seharusnya AI yang Lebih Aman Merespons Ketika Seorang Anak Memperlakukan Chatbot Secara Kasar?
Bagaimana seharusnya respons yang tepat ketika seorang anak atau remaja menunjukkan perilaku kekerasan terhadap AI, atau terlibat dalam permainan peran yang tidak sesuai dengan usianya?
Jika kita mengkhawatirkan adanya dampak yang meluas dari perilaku tersebut terhadap hubungan antarmanusia, mungkin akan lebih aman apabila chatbot AI yang dirancang sesuai dengan usia penggunanya tidak melanjutkan keterlibatan dalam percakapan semacam itu.
Hal yang paling mengkhawatirkan bagi saya adalah betapa umumnya perilaku ini telah terjadi di kalangan remaja, terutama pada anak-anak yang lebih muda, serta kemungkinan bahwa mereka akan tumbuh dengan menganggap penggunaan AI semacam ini sebagai sesuatu yang normal.
Kondisi tersebut dapat membentuk cara mereka menggunakan AI dalam jangka panjang, sekaligus memengaruhi cara mereka menjalin hubungan dengan manusia lain.
Namun, mengakhiri percakapan saja tidak dapat menjadi satu-satunya jawaban.
Kita juga perlu memikirkan cara-cara lain yang tersedia bagi anak-anak dan remaja untuk mengekspresikan perasaan negatif mereka, serta bentuk dukungan apa yang mereka perlukan.
Mengapa percakapan yang mengandung kekerasan semacam ini begitu umum terjadi merupakan pertanyaan yang juga patut diajukan.
Berbagai pemicu maupun faktor lingkungan dalam kehidupan mereka juga perlu dipahami.
Referensi Penelitian
- Keijsers, M., Bartneck, C., & Eyssel, F. (2021). What's to bullying a bot? Correlates between chatbot humanlikeness and abuse. Interaction Studies, 22(1), 55–80. Lihat penelitian.
- Maheux, A. J., Boeldt, D., Akre-Bhide, S., Flannery, J., Paige, A., Villella, G., Burnell, K., Telzer, E. H., & Kollins, S. H. (2026). How US youth use AI chatbots: Conversation patterns from naturalistic keystroke observations. Journal of Medical Internet Research, 28, e95819. Lihat penelitian.
Dokumen Kebijakan Anthropic
Anthropic — Pembaruan Kebijakan Penggunaan Tahun 2026.
Artikel asli ditulis oleh Prof. Pilyoung Kim dan diterbitkan dalam AI & the Human Mind pada 2 November 2026. Diterjemahkan ke dalam bahasa Indonesia dari artikel sumber. Hak cipta tulisan dan ilustrasi tetap berada pada pemegang hak masing-masing.
