MONTREAL, 19 Jun — Video yang menunjukkan individu dengan sindrom Down dan menyeru pengguna untuk membeli dari perniagaan mereka yang terjejas menarik jutaan tontonan, namun ramai daripadanya adalah palsu dan dihasilkan menggunakan AI.
Tumpuan kepada pos yang mempromosikan lampu resin, beg croche, dan mangkuk tanah liat ini adalah sebahagian daripada corak yang lebih luas di mana klip yang dihasilkan oleh AI berusaha meraih jualan dengan menimbulkan empati terhadap mereka yang mempunyai kecacatan atau dianggap berada dalam situasi kurang bernasib baik, seperti masyarakat kulit hitam atau golongan warga emas.
Pakar dan penyelidik menyatakan amalan ini meneruskan stereotaip negatif dan merosakkan kehidupan serta perniagaan orang yang sebenar.
Di seluruh TikTok, YouTube dan Instagram, watak-watak AI mendakwa bahawa mereka dibuli kerana menjual kraftangan, sambil dihantui oleh penghinaan yang menggunakan bahasa merendahkan mengenai individu dengan kecacatan.
Nathan Rowe, pengarah program di Down Syndrome International, memberitahu AFP bahawa video-video ini memperkuatkan stereotaip bahawa individu dengan keadaan genetik yang disebabkan oleh kromosom tambahan ini perlu dipandang rendah.
“Mereka mengambil kesempatan ke atas orang yang mungkin mempunyai pandangan sedikit simpati, tetapi paternalistik terhadap sindrom Down,” katanya.
Akaun-akaun ini menghubungkan ke kedai dalam talian yang mencurigakan, termasuk satu yang mendakwa mempunyai banyak “ulasan lima bintang” yang kesemuanya menggunakan teks sama sebagai pengisi.
AFP mendapati beberapa produk seramik yang muncul pertama kali di kandungan dari pencipta sebenar sebelum diambil alih. Satu reka bentuk beg croche mungkin tidak dibuat tangan, ditawarkan untuk jualan di Shein, satu tapak popular untuk penjual dalam talian yang beroperasi tanpa menyimpan inventori fizikal.
Video-video ini menghalang pos dari usahawan sebenar dengan sindrom Down, yang berpotensi mengalirkan perniagaan mereka, kata Rowe.
“Terdapat ramai individu berbakat dengan sindrom Down yang sedang menghasilkan karya, tetapi ini seolah-olah mengukuhkan naratif bahawa mereka tidak boleh dan ia mesti dihasilkan oleh AI,” tambahnya.
Trend Berterusan
Ini bukanlah trend pertama yang menganggotai kumpulan terpinggir demi perhatian atau keuntungan dalam talian.
Down Syndrome International telah mengadu kepada Meta tentang video deep-fake seksual bagi individu dengan sindrom Down, yang mengakibatkan penghapusan banyak video. Namun, Rowe berpendapat bahawa syarikat media sosial sepatutnya lebih proaktif dalam mencegah jenis kandungan ini daripada tersebar.
AFP telah menghubungi Meta mengenai trend promosi produk baru ini tetapi tidak mendapat jawapan. Menurut garis panduan komuniti TikTok, platform ini melarang akaun yang terlibat dalam aktiviti menipu atau manipulatif atau diskriminasi. YouTube mempunyai polisi serupa mengenai spam yang menyesatkan.
Walaupun banyak video yang diperiksa AFP kini telah dipadam, akaun lain masih berkongsi klip dihasilkan oleh AI yang mengarahkan pengguna kepada produk.
“Orang di sebalik tabir mungkin bermotivasi oleh keuntungan dan tidak mempedulikan kerosakan yang mereka lakukan dalam proses tersebut,” kata Rowe.
Mudah untuk Dihasilkan
Jeremy Carrasco, pengasas bersama firma penyelidikan AI Riddance, menyatakan bilangan akaun yang mempromosikan jenis kandungan ini menunjukkan bahawa video tersebut berfungsi sebagai skim menjana keuntungan.
“Terdapat banyak kegagalan sistemik yang menyebabkan keadaan ini bertambah buruk,” katanya, menekankan bahawa video ini sangat mudah dihasilkan dan sukar untuk dikawal.
“Itulah sebabnya fenomena ini meledak sejauh ini.”
Beliau menyatakan terdapat tidak terhingga video yang menampilkan watak yang dihasilkan oleh AI dengan sindrom Down dan menambah bahawa akaun yang sama juga cuba menjual produk yang sama menggunakan watak sintetik yang berusia.
AFP sebelum ini menyiasat trend pelbagai bahasa yang mencuri identiti warga emas untuk menarik pengguna membeli selipar dan kalung anjing.
“Rasanya kita sedang menyentuh had kelayakan yang boleh diterima, dan jika mereka terus melangkah lebih jauh, saya rasa sesuatu akan berlaku,” kata Carrasco. — AFP
