Ini adalah waktu yang sangat aneh di AI. Hanya dalam enam bulan, wacana publik seputar teknologi telah berubah dari “Chatbots menghasilkan tempat tinggal laut yang lucu” menjadi “sistem AI dapat menyebabkan kepunahan manusia.” Siapa lagi yang merasakan whiplash?
Rekan saya Will Douglas Heaven bertanya kepada para ahli AI mengapa sebenarnya orang berbicara tentang risiko eksistensial, dan mengapa sekarang. Meredith Whittaker, presiden Signal Foundation (yang berada di belakang aplikasi perpesanan pribadi Signal) dan mantan peneliti Google, merangkumnya dengan baik: “Kisah hantu menular. Sangat mengasyikkan dan menstimulasi untuk takut.”
Kami pernah ke sini sebelumnya, tentu saja: AI doom mengikuti hype AI. Tapi kali ini terasa berbeda. Jendela Overton telah bergeser dalam diskusi seputar risiko dan kebijakan AI. Apa yang dulunya merupakan pandangan ekstrem sekarang menjadi titik pembicaraan arus utama, tidak hanya meraih berita utama tetapi juga perhatian para pemimpin dunia.
https://buy.tinypass.com/checkout/template/cacheableShow?aid=WUOCNSUgpu&templateId=OTCBIZBLG8WE&templateVariantId=OTVAO7O3EEMMV&offerId=fakeOfferId&experienceId=EX1WVIM3YDOB&iframeId=offer_d274bf86ca802afef779-0&displayMode=inline&pianoIdUrl=https%3A%2F%2Fauth.technologyreview.com%2Fid%2F&widget=template&url=https%3A%2F%2Fwww.technologyreview.com Whittaker bukan satu-satunya yang memikirkan ini. Sementara orang-orang berpengaruh di perusahaan Teknologi Besar seperti Google dan Microsoft, dan startup AI seperti OpenAI, telah memperingatkan orang-orang tentang risiko AI ekstrem dan menutup model AI mereka dari pengawasan publik, Meta pergi ke arah lain.
Minggu lalu, pada salah satu hari terpanas dalam setahun sejauh ini, saya pergi ke markas Meta di Paris untuk mendengar tentang pekerjaan AI perusahaan baru-baru ini. Saat kami menyeruh sampanye di atap dengan pemandangan ke Menara Eiffel, kepala ilmuwan AI Meta, Yann LeCun, pemenang Turing Award, memberi tahu kami tentang hobinya, yang termasuk membangun instrumen angin elektronik. Tetapi dia benar-benar ada di sana untuk berbicara tentang mengapa dia berpikir gagasan bahwa sistem AI supercerdas akan mengambil alih dunia adalah “sangat konyol.”
Orang-orang khawatir tentang sistem AI yang “akan dapat merekrut semua sumber daya di dunia untuk mengubah alam semesta menjadi klip kertas,” kata LeCun. “Itu hanya gila.” (Dia mengacu pada “masalah pemaksimalkan klip kertas,” sebuah eksperimen pemikiran di mana AI meminta untuk membuat klip kertas sebanyak mungkin melakukannya dengan cara yang pada akhirnya membahayakan manusia, sambil tetap memenuhi tujuan utamanya.)
Dia sangat menentang Geoffrey Hinton dan Yoshua Bengio, dua peneliti AI perintis (dan dua “ayah baptis AI” lainnya), yang berbagi hadiah Turing dengan LeCun. Keduanya baru-baru ini menjadi blak-blakan tentang risiko AI eksistensial.
Joelle Pineau, wakil presiden penelitian AI Meta, setuju dengan LeCun. Dia menyebut percakapan itu “tidak terterikat.” Fokus ekstrem pada risiko masa depan tidak meninggalkan banyak bandwidth untuk berbicara tentang bahaya AI saat ini, katanya.
“Ketika Anda mulai mencari cara untuk melakukan diskusi rasional tentang risiko, Anda biasanya melihat probabilitas hasil dan Anda mengalikannya dengan biaya hasil itu. [Kerumunan risiko eksistensial] pada dasarnya telah menempatkan biaya tak terbatas pada hasil itu,” kata Pineau.
“Ketika Anda menempatkan biaya tak terbatas, Anda tidak dapat melakukan diskusi rasional tentang hasil lainnya. Dan itu mengeluarkan oksigen dari ruangan untuk diskusi lain, yang menurut saya terlalu buruk.”
Sementara berbicara tentang risiko eksistensial adalah sinyal bahwa orang-orang teknologi menyadari risiko AI, doomer teknologi memiliki motif tersembunyi yang lebih besar,LeCun dan Pineau mengatakan: mempengaruhi hukum yang mengatur teknologi.
“Saat ini, OpenAI berada dalam posisi di mana mereka berada di depan, jadi hal yang benar untuk dilakukan adalah membanting pintu di belakang Anda,” kata LeCun. “Apakah kita menginginkan masa depan di mana sistem AI pada dasarnya transparan dalam fungsinya atau … dimiliki dan dimiliki oleh sejumlah kecil perusahaan teknologi di Pantai Barat AS?”
https://buy.tinypass.com/checkout/template/cacheableShow?aid=WUOCNSUgpu&templateId=OT1UKGGYDABG&templateVariantId=OTV0UIYE3N6OR&offerId=fakeOfferId&experienceId=EXGEI687Y0O9&iframeId=offer_1dc8ede44881317c6d78-0&displayMode=inline&pianoIdUrl=https%3A%2F%2Fauth.technologyreview.com%2Fid%2F&widget=template&url=https%3A%2F%2Fwww.technologyreview.com Teknologi open-sourcing menetapkan standar tinggi, karena memungkinkan orang luar menemukan kesalahan dan meminta pertanggungjawaban perusahaan, kata Pineau. Tetapi itu juga membantu teknologi Meta menjadi bagian yang lebih integral dari infrastruktur internet.
“Ketika Anda benar-benar membagikan teknologi Anda, Anda memiliki kemampuan untuk mendorong cara di mana teknologi akan dilakukan,” katanya.
Pembelajaran yang Lebih Dalam
Lima takeaways besar dari Undang-Undang AI Eropa
Sudah waktunya untuk Undang-Undang AI. Minggu lalu, Parlemen Eropa memilih untuk menyetujui rancangan aturannya.Rekan saya Tate Ryan-Mosleymemiliki lima takeaways dari proposal tersebut. Parlemen ingin Undang-Undang AI memasukkan larangan total pada biometrik waktu nyata dan kepolisian prediktif di ruang publik, kewajiban transparansi untuk model AI besar, dan larangan pengikisan materi berhak cipta. Itu juga mengklasifikasikan algoritma rekomendasi sebagai AI “berisiko tinggi” yang membutuhkan regulasi yang lebih ketat.
Apa yang terjadi selanjutnya? Ini tidak berarti UE akan mengadopsi kebijakan ini secara langsung. Selanjutnya, anggota Parlemen Eropa harus membahas detail dengan Dewan Uni Eropa dan lengan eksekutif UE, Komisi Eropa, sebelum rancangan aturan menjadi undang-undang. Undang-undang akhir akan menjadi kompromi antara tiga rancangan berbeda dari tiga institusi. Anggota parlemen Eropa bertujuan untuk mendapatkan Undang-Undang AI dalam kondisi akhir pada bulan Desember, dan peraturan tersebut harus berlaku pada tahun 2026.
Anda dapat membaca bagian saya sebelumnya tentang AI Act di sini.
Bit dan Bytes
Pertarungan atas pengenalan wajah akan membuat atau menghancurkan AI Act Apakah akan melarang penggunaan perangkat lunak pengenalan wajah di tempat umum akan menjadi pertarungan terbesar dalam negosiasi akhir untuk Undang-Undang AI. Anggota Parlemen Eropa menginginkan larangan lengkap terhadap teknologi tersebut, sementara negara-negara UE menginginkan kebebasan untuk menggunakannya dalam kepolisian. (Politico)
Peneliti AI menandatangani surat yang menyerukan fokus pada bahaya AI saat ini Surat terbuka lainnya! Yang ini berasal dari peneliti AI di konferensi ACM tentang Keadilan, Akuntabilitas, dan Transparansi (FAccT), meminta pembuat kebijakan untuk menggunakan alat yang ada untuk “mendesain, mengaudit, atau menolak sistem AI untuk melindungi demokrasi, keadilan sosial, dan hak asasi manusia.” Penandatangan termasuk Alondra Nelson dan Suresh Venkatasubramanian, yang menulis Bill of Rights AI Gedung Putih.
Inggris ingin menjadi pusat global untuk regulasi AI Perdana menteri Inggris, Rishi Sunak, menempatkan negaranya sebagai rumah global regulasi kecerdasan buatan. Harapan Sunak adalah bahwa Inggris dapat menawarkan “cara ketiga” antara Undang-Undang AI UE dan Wild West AS. Sunak menjadi tuan rumah KTT regulasi AI di London pada musim gugur. Saya skeptis. Inggris dapat mencoba, tetapi pada akhirnya perusahaan AI-nya akan dipaksa untuk mematuhi Undang-Undang AI UE jika mereka ingin melakukan bisnis di blok perdagangan yang berpengaruh. (Waktu)
YouTube bisa memberi Google keunggulan dalam AI Google telah memanfaatkan repositori video kaya dari situs videonya YouTube untuk melatih model bahasa besar berikutnya. Materi ini dapat membantu Google melatih model yang tidak hanya dapat menghasilkan teks tetapi juga audio dan video. Rupanya ini tidak hilang di OpenAI, yang diam-diam menggunakan data YouTube untuk melatih model AI-nya. (Informasi)
Startup AI berusia empat minggu mengumpulkan €105 juta Bicara tentang hype AI. Mistral, startup AI Prancis baru tanpa produk dan hampir tidak ada karyawan, telah berhasil mengumpulkan €105 juta di putaran unggulan terbesar-ever di Eropa. Para pendiri perusahaan sebelumnya bekerja di DeepMind dan Meta. Dua dari mereka berada di belakang tim yang mengembangkan model bahasa Llama sumber terbuka Meta. (Waktu Keuangan)
