NEW YORK, 8 Julai — Makmal kecerdasan buatan (AI) AS, Anthropic, menduduki tempat teratas dalam kedudukan keselamatan AI global yang baharu, namun laporan yang dikeluarkan pada hari Selasa memberi amaran bahawa industri secara keseluruhannya masih gagal menangani risiko “eksistensial” yang dibawa oleh AI maju.
Meta naik dua tempat ke peringkat keempat, manakala xAI jatuh tiga tangga ke tempat ketujuh, hanya mendahului DeepSeek dari China dan Mistral dari Perancis yang menduduki tempat terakhir.
Kedudukan ini disusun oleh pemikir keselamatan AI yang berpangkalan di AS, Future of Life Institute, yang menilai sembilan syarikat AI terkemuka di dunia.
Tujuh penyelidik dan pakar tadbir urus menilai syarikat-syarikat ini menggunakan maklumat yang tersedia kepada umum serta data yang diberikan oleh syarikat itu sendiri.
Mereka menilai prestasi di enam kategori: penilaian risiko, bahaya semasa, kerangka keselamatan, keselamatan eksistensial, tadbir urus dan akauntabiliti, serta perkongsian maklumat.
Tiada syarikat menerima gred “A” dalam mana-mana kategori.
Anthropic mencapai skor keseluruhan tertinggi dengan gred “C+”.
Mistral, yang muncul dalam kedudukan buat kali pertama, membantah penilaian tersebut.
Ketika ditanya oleh AFP mengenai kedudukan terakhir mereka, syarikat Perancis itu berkata bahawa rangka kerja laporan tersebut tidak sesuai dengan pendekatan mereka dalam membangunkan AI.
Berbeza dengan pesaing seperti Anthropic, OpenAI dan Google DeepMind yang secara utama membangunkan sistem AI tertutup, Mistral memberi tumpuan kepada model terbuka yang boleh dimuat turun dan diubah suai oleh pengguna.
“Saya sangat kecewa mendapati mereka menduduki tempat terakhir, terutama kerana Eropah benar-benar… adalah peneraju dalam keselamatan AI,” kata Max Tegmark, seorang profesor MIT dan presiden Future of Life Institute.
“Kami telah menghubungi mereka berkali-kali,” tambah Tegmark, mengatakan bahawa Mistral tidak memberi maklum balas kepada tinjauan organisasi itu.
Menurut institut tersebut, Alibaba, xAI dan DeepSeek juga enggan menyertai.
Tiga pemaju AI dari China yang menghasilkan model terbuka juga menduduki bahagian bawah senarai: DeepSeek di tempat kelima, Alibaba Cloud di tempat keenam dan Z.ai di tempat kelapan.
Amalan ‘dipersoalkan’
Laporan itu menyatakan beberapa syarikat yang sebelum ini berjanji untuk tidak membenarkan teknologi mereka digunakan untuk tujuan ketenteraan telah mengubah pendirian tersebut.
Ia secara khusus mengkritik Anthropic atas apa yang digelarnya sebagai “penglibatan ketenteraan yang dipersoalkan”.
Menurut pelbagai laporan media, kerajaan AS telah menggunakan teknologi Anthropic dalam operasi ketenteraan yang melibatkan Venezuela dan Iran sepanjang tahun lalu.
Syarikat itu juga baru-baru ini dihalang oleh Pentagon berikutan perselisihan berkaitan keselamatan AI, walaupun sekatan itu kemudiannya telah diangkat.
Laporan itu menyimpulkan bahawa semua sembilan syarikat masih tidak bersedia dengan secukupnya untuk menangani ancaman “eksistensial” yang berkaitan dengan kecerdasan umum buatan (AGI), atau sistem AI yang mampu menandingi kecerdasan tahap manusia.
Walaupun penyelidik mengakui bahawa “usaha membina wujud”, mereka mengatakan bahawa usaha seluruh industri masih “sama sekali tidak mencukupi”.
Laporan itu juga menekankan kebimbangan bahawa AI maju boleh disalahgunakan untuk melakukan serangan siber atau menjalankan tugas yang membahayakan manusia.
Anthropic baru-baru ini menarik perhatian selepas memperkenalkan model AI terkuat mereka setakat ini, Mythos.
Syarikat yang berpangkalan di San Francisco itu pada mulanya hanya membolehkan model itu diakses oleh sekumpulan kecil organisasi dipercayai pada bulan April kerana kebimbangan bahawa kemampuan sibernya boleh dieksploitasi oleh pihak jahat.
Pada 12 Jun, kerajaan AS menghalang Anthropic daripada melepaskan Mythos kepada pengguna asing atas alasan keselamatan negara.
Pentadbiran Trump mengangkat sekatan itu pada 30 Jun. — AFP
