Washington: Elon Musk dan sekumpulan pakar kecerdasan buatan (AI) serta eksekutif industri menyeru agar berhenti selama enam bulan dalam membangunkan sistem yang lebih berkuasa daripada GPT-4 yang baru dilancarkan OpenAI, dalam surat terbuka yang memetik potensi risiko kepada masyarakat dan manusia.
Surat itu, yang dikeluarkan oleh Future of Life Institute badan bukan berasaskan keuntungan dan ditandatangani oleh lebih 1,000 orang termasuk Musk, meminta untuk menghentikan seketika pembangunan AI lanjutan sehingga protokol keselamatan dikongsi untuk reka bentuk sedemikian dibangunkan, dilaksanakan dan diaudit oleh pakar bebas.
"Sistem AI yang berkuasa harus dibangunkan hanya selepas kami yakin bahawa kesannya akan positif dan risikonya akan terurus," kata surat itu.
Surat itu memperincikan potensi risiko kepada masyarakat dan tamadun oleh sistem AI yang berdaya saing dalam bentuk gangguan ekonomi dan politik, dan menyeru pemaju untuk bekerjasama dengan penggubal dasar mengenai tadbir urus dan pihak berkuasa kawal selia.
Penandatangan bersama termasuk Ketua Pegawai Eksekutif Stability AI Emad Mostaque, penyelidik di DeepMind milik Alphabet, serta syarikat wajaran tinggi AI Yoshua Bengio dan Stuart Russell.
Menurut daftar ketelusan Kesatuan Eropah, Future of Life Institute dibiayai terutamanya oleh Yayasan Musk, serta kumpulan altruisme yang berpangkalan di London, Founders Pledge dan Yayasan Komuniti Silicon Valley.
Kebimbangan datang ketika pasukan polis Eropah, Europol pada Isnin menyertai paduan suara kebimbangan etika dan undang-undang terhadap AI lanjutan seperti ChatGPT, memberi amaran tentang kemungkinan penyalahgunaan sistem dalam percubaan pancingan data, maklumat salah dan jenayah siber.
Sementara itu, kerajaan UK mendedahkan cadangan untuk rangka kerja pengawalseliaan "boleh disesuaikan" di sekitar AI.
Pendekatan kerajaan, yang digariskan dalam kertas dasar yang diterbitkan pada Rabu, akan membahagikan tanggungjawab untuk mengawal AI antara pengawal selianya untuk hak asasi manusia, kesihatan dan keselamatan serta persaingan, dan bukannya mewujudkan badan baharu yang khusus untuk teknologi itu.
Musk menggunakan AI untuk sistem autopilot, telah bersuara tentang kebimbangannya tentang AI.
Sejak dikeluarkan tahun lalu, ChatGPT yang disokong Microsoft telah mendorong pesaing untuk mempercepatkan pembangunan model serupa, dan syarikat akan menyepadukan model AI generatif ke dalam produk mereka.
Sam Altman, ketua eksekutif di OpenAI, belum menandatangani surat itu, jurucakap di Future of Life memberitahu Reuters. OpenAI tidak segera menjawab permintaan untuk komen.
"Surat itu tidak sempurna, tetapi semangatnya betul: kita perlu perlahan sehingga kita lebih memahami akibatnya," kata Gary Marcus, seorang profesor di Universiti New York yang menandatangani surat itu.
"Mereka boleh menyebabkan kemudaratan serius. Pemain besar menjadi semakin berahsia tentang apa yang mereka lakukan, yang menyukarkan masyarakat untuk mempertahankan diri daripada sebarang bahaya yang mungkin berlaku."
