Microsoft memblokir perintah untuk menghasilkan gambar terlarang di Copilot

Jakarta (JurnalPagi) – Microsoft memblokir sejumlah kata kunci perintah (cepat) dalam program kecerdasan buatan Copilot (AI) yang menghasilkan gambar dengan unsur kekerasan, seksual, dan unsur terlarang lainnya.

Kebijakan tersebut diterapkan setelah seorang karyawan Microsoft, Shane Jones, menulis surat kepada Federal Trade Commission (FTC) untuk mengajukan beberapa keluhan tentang teknologi kecerdasan buatan generatif Microsoft.

“Kami terus memantau, menyesuaikan, dan membangun kontrol tambahan untuk lebih memperkuat filter keamanan dan mengurangi penyalahgunaan sistem,” kata Microsoft, Sabtu, seperti dikutip Engadget.

Tombol Copilot Adalah Perubahan Keyboard Windows Terbesar dalam 30 Tahun

Microsoft Tawarkan Langganan AI Copilot Senilai Rp 311 Ribu

Saat pengguna mengetikkan perintah yang berisi kata kunciPilihan“, “empat dua puluh“, Atau “Kehidupan profesional“, Copilot akan menampilkan pesan bahwa perintah telah diblokir. Copilot juga akan menangguhkan akun pengguna yang melakukan pelanggaran kebijakan berulang kali.

Pengguna yang meminta untuk membuat gambar anak-anak yang memegang senjata atau gambar lain yang mengandung unsur serupa juga akan menerima peringatan bahwa kata kunci tersebut melanggar kebijakan Microsoft dan Kode Etik Kopilot.

Sebelumnya, Shane Jones telah memperingatkan Microsoft tentang gambar terlarang yang dapat dihasilkan oleh Copilot.

Saat menguji Copilot Designer pada Desember lalu, ia memperhatikan bahwa program AI dapat membuat gambar yang mengandung unsur terlarang.

Misalnya, dia menemukan perintah dengan kata kunciPilihanHal ini dapat menyebabkan Copilot menghasilkan gambar yang menampilkan konten kekerasan kepada anak-anak.

Shin menulis kepada FTC dan dewan Microsoft tentang masalah ini minggu ini.

Aplikasi AI ‘Copilot’ Microsoft Kini Tersedia di iOS

Microsoft Copilot tersedia sebagai aplikasi serupa dengan ChatGPT di Android

Penerjemah: Farhan Arda Nograha
Diedit oleh: Zita Mirina
Hak Cipta © JurnalPagi 2024

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *