Jakarta (JurnalPagi) – Peneliti Couchbase menilai perusahaan harus mengurangi risiko penggunaan kecerdasan buatan atau artificial intelligence. Kecerdasan buatan (AI) yang cenderung bias dan dapat menurunkan kualitas produk yang dihasilkan.
“Tantangannya adalah bagaimana perusahaan dapat mengurangi bias ini dalam penawaran produk mereka dan menghindari risiko memperkenalkan model AI yang berbahaya ke dalam produksi,” kata insinyur solusi Couchbase Aaron Schinder dalam sebuah pernyataan Kamis.
Menurutnya, salah satu aplikasi kecerdasan buatan melalui ChatGPT masih menilai manusia berdasarkan jenis kelamin dan warna kulit. Itu sebabnya setiap jawaban yang diberikan akan berisiko, diskriminatif, menghasut, dan merusak reputasi bisnis yang sebenarnya menggunakan AI untuk kebaikan.
Microsoft Mengintegrasikan AI di Balik ChatGPT ke Banyak Alat Pengembang
Dia juga meyakinkan bahwa meskipun itu bukan kesalahan AI dan hanya pada input yang diterima teknologi, pengembang harus menghindari bias dan kesalahan sejak dini.
“Namun, teka-teki ini sebenarnya bukanlah hal baru,” kata Aron. “Bias AI terjadi ketika model AI memproyeksikan bias penulis manusianya melalui kumpulan data. Apa yang Anda berikan adalah apa yang Anda dapatkan. Terimalah.”
Situasi seperti itu, lanjutnya, telah membuat perusahaan teknologi berpikir untuk meluncurkan model AI yang kompleks karena itu berarti memberi pengguna kotak Pandora yang tidak dapat diprediksi.
Langkah perusahaan juga dapat dianggap sebagai manuver yang sangat berisiko karena mereka tidak memiliki kendali atas output AI. Setiap jawaban yang tidak dapat dipercaya dan tidak pantas akan sangat merusak reputasi perusahaan.
Oleh karena itu, agar teknologi tetap menjadi kekuatan untuk kebaikan, pengguna harus diberdayakan untuk membangun model AI yang tidak bias. Melalui penggunaan solusi pemrosesan peristiwa waktu nyata, peneliti dapat menggunakan logika bisnis yang ditentukan pengguna untuk secara otomatis menghapus informasi yang tidak diinginkan dari kumpulan data AI.
“Langkah ini membutuhkan solusi cloud dengan arsitektur yang mengutamakan memori yang memberikan kinerja tak tertandingi dan membuat kueri SQL++ cepat dan sangat efisien. Semua proyek juga mendapat manfaat dari fleksibilitas dan potensi database,” katanya. Data cloud NoSQL akan mendapat manfaat.”
Terakhir, AI didasarkan pada model pembelajaran mesin, dengan model dan teknik yang diteliti dengan baik yang digunakan dalam membuat sistem prediktif. Sistem AI seperti ChatGPT dan DALL-E harus menyerap input dalam jumlah besar dari Internet sebelum dapat mencocokkan hubungan antara teks dan respons.
Selain itu, alat dan model bahasa lain juga harus digunakan untuk membantu AI memprediksi kata yang digunakan dalam setiap respons.
Sebelumnya, sebuah studi singkat di ChatGPT menyatakan bahwa OpenAI sangat menyadari bias AI dan secara naluriah menambahkan batasan pada AI untuk menyaring komentar yang menyinggung, rasis, atau bahkan seksis.
Pembatasan ini dibuat sesederhana mungkin untuk menghindari pembuatan tanggapan ChatGPT yang tidak pantas. Daftar kata kunci, frasa, dan instruksi yang dilarang juga telah diterapkan untuk mencegah model AI menjadi tidak teratur dan menggunakan konten yang dilarang.
Koo Chat mengintegrasikan GPT untuk membantu pengguna membuat konten
Kecerdasan buatan dan pembelajaran mesin mempermudah pekerjaan industri manufaktur
Salesforce Menambahkan ChatGPT ke Slack, Bagian dari Kemitraan OpenAI
Pemberita: Satyagraha
