Seperi apa perempuan "cantik" asal Indonesia? Bagaimana dengan perempuan asal India, Filipina atau Laos?

Artificial Intelligence (AI) atau Kecerdasan Buatan seolah tahu jawabannya.

BACA JUGA: Dulu Seteru, Kini Sekutu: Drama Politik Indonesia Menjelang Pemilu

Belakangan ini foto-foto "perempuan cantik" yang dibuat AI dari seluruh dunia menjadi viral.

Salah satu video TikTok yang diunggah akun AI World Beauties menampilkan gambar perempuan Asia Selatan dan Asia Timur yang dibuat dengan AI. Video ini sudah ditonton lebih dari 1,7 juta kali.

BACA JUGA: Dunia Hari Ini: Warga Kanada LGBTIQ Diminta Berhati-hati Pergi ke Amerika Serikat

Tapi para pengamat mengatakan foto-foto ini malah berpotensi merugikan dan malah membiarkan stereotip rasial, karena kecerdasan buatan ini seolah "terlatih" menggunakan data-data yang ada. Gimana AI membuat gambar-gambar ini?

Gambar-gambar viral diciptakan dengan program yang dikenal sebagai "generative AI" atau "GenAI".

BACA JUGA: Empat Penyewa Tempat Tinggal di Empat Kota, Siapa yang Bisa Menemukan Tempat Paling Terjangkau?

"GenAI adalah jenis kecerdasan buatan yang didukung oleh model pembelajaran mesin,” kata Dr Shibani Antonette, dosen ilmu data dan inovasi di Universitas Teknologi Sydney.

"Ia menggunakan pola dan informasi yang dipelajari dari jutaan data untuk membuat konten baru yang belum pernah ada sebelumnya."

Saat dihubungi ABC, pembuat video viral tersebut mengatakan mereka menggunakan model yang disebut Midjourney untuk menghasilkan gambar-gambar tersebut.

Mereka menolak disebutkan namanya dalam cerita atau berkomentar lebih lanjut.Standar kecantikan ditentukan warna kulit

Kulit putih, hidung tipis, bibir penuh dan tulang pipi yang tinggi.

Menurut video AI tersebut perempuan, termasuk asal Asia, yang dianggap "cantik" memiliki ciri-ciri seperti itu.

Bias ini jadi "masalah serius" dalam pembuatan gambar dan teknologi pengenalan wajah, kata Dr Antonette, karena malah memperkuat dan membiarkan stereotip yang sudah ada sebelumnya soal ras dan gender.

"Sebagian besar gambar yang dihasilkan mempertahankan standar warna kulit dan budaya."

Saat melihat gambar AI yang viral, Dr Antonette mengatakan teknologi yang digunakan kemungkinan besar "tidak memiliki data beragam soal wajah orang-orang yang bukan berkulit putih, karena sebenarnya mereka punya warna dan bentuk kulit yang berbeda-beda".'Kamu tidak terlihat seperti itu'

Ketika orang-orang salah menebak latar belakang ras dari Asia Jackson, ia mendapat komentar "kamu tidak terlihat seperti ras itu". 

Asia, seorang aktris dan pembuat konten berdarah campuran Filipina dan Afrika mengatakan memiliki darah "campuran" seringkali menciptakan "banyak masalah identitas".

Perempuan berusia 29 tahun ini mengaku seringkali kesal ketika ada yang berkomentar dirinya tidak terlihat seperti orang berkulit hitam atau tidak terlihat seperti orang Asia.

Menanggapi gambar-gambar AI soal kecantikan AI yang viral, ia merasa tidak terlalu perlu mengubrisnya.

"AI hanya meniru perilaku manusia ... tidak berbeda dengan apa yang terjadi di kehidupan nyata," ujarnya, merujuk pada komentar yang kerap kali rasis dan bias.

"Menurut saya tidak mungkin juga memasukkan seluruh keberagaman etnis dari tiap negara dalam video berdurasi 30 detik."AI tidak menantang perspektif yang ada

Ketika Ishara Sahama pertama kali melihat gambar-gambar yang dibuat AI, dia menganggapnya terlalu mengada-ada.

Tapi ia menyadari apa yang dilihatnya adalah "standar kecantikan yang diterima dari setiap kelompok etnis".

"Keberagaman kelompok etnis di setiap negara digeneralisasikan ke dalam satu model. Model ini bersifat reduktif dan jauh dari mencerminkan keberagaman di negara-negara tersebut," katanya.

Sebagai salah satu pendiri lembaga Echo Impact Group, perempuan berusia 25 tahun tersebut mengaku seringkali disangka sebagai orang India, Pakistan, Arab, atau warga Pribumi Australia.

Padahal ia adalah orang Sri Lanka, dengan latar belakang Sinhala, Tamil, dan Melayu.

"Mengasumsikan etnis seseorang dan kemudian mengasosiasikannya tanpa bertanya adalah hal yang sering bikin aku kesal," ujarnya.

Ia mengatakan "stereotip kecantikan" yang terlihat dalam gambar AI inilah yang menyebabkan orang-orang berpikir  kalau hanya ada satu tampilan untuk tiap-tiap etnis, seolah mengabaikan keberagamannya.

"Ketika orang-orang melihat gambar-gambar perempuan yang dibuat oleh AI ini, mereka mungkin mengasosiasikan fitur-fitur tersebut dengan seperti apa wajah seorang perempuan India, Pakistan, atau dalam kasus saya, perempuan Sri Lanka," ujarnya.

Pada sebenarnya setiap etnis pun punya keberagaman dalam bentuk wajah, bentuk mata, bentuk hidung, rambut, warna kulit, dan sebagainya.'Tak melihat diri saya'

Semua yang digambarkan dari hasil AI lebih cocok sebagai gambaran minoritas, kata Kriti Gupta.

Kriti, seorang warga Australia keturunan India berusia 27 tahun, yang bekerja di bidang strategi dan konsultasi media sosial, mengatakan ia tidak melihat dirinya sendiri dalam gambar mana pun.

"Ini lebih yang dipikirkan setiap pria ketika mereka tergila-gila dengan perempuan berkulit coklat," ujarnya.

“Seringkali, platform AI ini dibuat oleh para laki-laki, yang sebagian besar coding-nya dimasukkan ke dalam algoritma dari penggunaan internet yang terpaku pada penggunaan di negara Barat.”

Ia mengatakan orang-orang seringkali menyangka dirinya adalah orang Spanyol, Meksiko, Maroko, atau dari negara Amerika Latin.

"Mengapa berasumsi soal etnis saya? Apa manfaatnya dengan pertanyaan seperti itu?" katanya.

"Saya hanya memberi tahu latar belakang ras saya jika merasa itu relevan dengan percakapan."

Seperti kebanyakan perempuan Asia Selatan di Australia, ia mengubah penampilannya dengan mewarnai rambutnya menjadi pirang dan menjadikan kulitnya lebih cokelat dengan berjemur.

"Tapi kalau saya akan pergi ke India, saya gunakan krim pemutih," ujarnya.Bahaya bias rasial dalam kecerdasan buatan

Para pakar dan aktivis memperingatkan kalau kumpulan data yang digunakan untuk melatih model AI bersifat bias.

Sebuah studi penelitian yang dilakukan oleh Cornell University pada bulan Maret tahun ini mengungkapkan model AI kebanyakan menggambarkan profesi bergaji tinggi, seperti pengacara, hakim, atau CEO sebagai pria berkulit lebih terang 

Sedangkan orang berkulit gelap lebih banyak mewakili profesi bergaji rendah seperti "petugas kebersihan" dan "pelayan makanan cepat saji".

Lantas apakah ada solusinya? Dr Antonette menunjukkan setidaknya ada beberapa yang bisa dilakukan.

"Pengembang teknologi dan perusahaan yang meluncurkan layanan harus memastikan kalau AI mereka melakukan diversifikasi kumpulan data secara adil dan merata, juga menghindari keterwakilan berlebihan pada kelompok orang tertentu," katanya.

Dr Antonette mengatakan kunci lainnya adalah para peneliti yang harus meningkatkan akuntabilitas dan transparansi.

"Hal ini dilakukan dengan menerbitkan model open-source yang bisa ditantang dan dikembangkan oleh pihak lain dengan menambahkan data yang lebih beragam," katanya.

"Merangkul keberagaman dalam data, memperjuangkan transparansi, dan menggunakan alat AI dengan bijaksana bisa membawa kita menuju masa depan di mana AI akan bermanfaat bagi semua orang, tanpa mempertahankan stereotip yang merugikan."

Artikel ini dirangkum dan diproduksi oleh Erwin Renaldi dari laporan ABC News

BACA ARTIKEL LAINNYA... Perburuan Aligator di Mississippi Pecahkan Rekor Setelah Melewati Upaya yang Melelahkan Mental