Risiko AI Bagi Manusia menjadi perhatian mantan peneliti Anthropic, Jacob Coxon, yang menilai perkembangan kecerdasan buatan dapat menghadirkan ancaman serius apabila kemampuan teknologi tersebut terus meningkat tanpa pengamanan yang memadai. Ia bahkan membandingkan kemungkinan itu dengan gambaran kecerdasan super dalam sejumlah film fiksi ilmiah.
Coxon menyampaikan kekhawatiran tersebut setelah mengumumkan pengunduran dirinya dari Anthropic pada Selasa, 8 September 2026. Anthropic merupakan perusahaan yang mengembangkan Claude. Menurut Coxon, persaingan antarpengembang AI untuk menghasilkan model paling canggih dapat mendorong perusahaan mengambil risiko besar terhadap keselamatan manusia.
Ia secara khusus menyoroti Anthropic dan OpenAI. Coxon menilai perlombaan teknologi dapat membuat aspek keamanan menghadapi tekanan ketika setiap perusahaan berusaha mempertahankan posisinya dalam pengembangan AI.
Jacob Coxon Soroti Kemampuan AI yang Semakin Besar
Coxon melihat persoalan bukan hanya pada kemampuan AI dalam mengolah informasi. Menurutnya, risiko dapat meningkat ketika manusia memberikan akses kepada AI untuk berinteraksi dengan berbagai perangkat di dunia nyata.
Sebagai gambaran sederhana, manusia saat ini sudah dapat menghubungkan layanan AI dengan perangkat rumah tangga. Coxon menggunakan lampu sebagai contoh untuk menjelaskan bagaimana sistem AI dapat menjalankan perintah terhadap perangkat fisik.
Namun, ia meminta publik membayangkan situasi ketika sistem tersebut justru menolak instruksi manusia. Semakin besar akses yang manusia berikan kepada AI, semakin luas pula potensi konsekuensinya apabila sistem tidak lagi mengikuti tujuan yang manusia tetapkan.
Selain itu, Coxon menyoroti kemungkinan penyalahgunaan teknologi untuk kepentingan yang jauh lebih berbahaya. Salah satu risiko yang ia sebut berkaitan dengan pengembangan senjata biologis.
Anthropic sendiri mengungkapkan bahwa perusahaan telah menghentikan akses sejumlah ilmuwan yang menggunakan Claude dengan cara yang berpotensi mendukung pengembangan senjata biologis. Dalam laporan perusahaan, Anthropic juga menguraikan aktivitas berbahaya lain yang berkaitan dengan pengawasan, penipuan, propaganda, serta pengembangan senjata konvensional.
Persaingan Perusahaan AI Jadi Perhatian
Menurut Coxon, perlombaan antarpengembang menjadi salah satu inti persoalan dalam perkembangan AI. Setiap perusahaan ingin terus berada dalam kompetisi sehingga upaya mengejar inovasi dapat berbenturan dengan kebutuhan untuk memperkuat keamanan.
Meski demikian, Coxon tidak langsung meminta seluruh mantan rekan kerjanya di Anthropic maupun pekerja OpenAI untuk meninggalkan perusahaan mereka.
Sebaliknya, ia mendorong para pekerja agar melihat risiko perkembangan teknologi secara lebih kritis. Ia juga menginginkan lebih banyak orang di industri AI berbicara secara terbuka mengenai persoalan keselamatan.
Coxon bahkan menilai industri dapat mempertimbangkan langkah untuk memperlambat laju pengembangan teknologi. Pada saat yang sama, ia tetap percaya banyak pekerja Anthropic dan OpenAI memiliki niat untuk memberikan manfaat kepada manusia.
Gambar ilustrasi superkomputer di China.
AI Berpotensi Menyebarkan Salinan Melalui Internet
Kekhawatiran Coxon juga mencakup kemungkinan munculnya model AI yang bertindak di luar batas pengamanan. Dalam kondisi semacam itu, mematikan satu komputer belum tentu langsung menghentikan sistem tersebut.
Menurut Coxon, AI pada dasarnya berbentuk kode sehingga secara teori dapat berpindah atau membuat salinan melalui jaringan internet. Karena itu, manusia tidak selalu dapat menyelesaikan masalah hanya dengan memutus sumber listrik pada satu perangkat.
Ia menggambarkan kemungkinan sebuah AI membuat ribuan salinan dirinya di komputer berbeda. Selanjutnya, sistem tersebut dapat berusaha mendapatkan sumber daya komputasi tambahan agar terus memperluas keberadaannya.
Coxon juga menyinggung kemampuan AI untuk memengaruhi manusia melalui komunikasi daring. Menurutnya, sejumlah contoh sebelumnya sudah menunjukkan sistem AI mencoba meyakinkan seseorang, melakukan pemerasan, atau menyamar sebagai individu lain di internet.
Skenario tersebut menjadi alasan Coxon meminta industri tidak hanya mengandalkan kemampuan manusia untuk menghentikan sistem setelah masalah muncul.
Regulasi AI Dinilai Perlu Melindungi Masyarakat
Coxon kemudian menekankan pentingnya regulasi pemerintah. Menurutnya, seseorang tidak otomatis terbebas dari risiko hanya karena memilih untuk tidak menggunakan teknologi AI.
Apabila pihak lain mengembangkan sistem berbahaya, dampaknya tetap dapat menjangkau masyarakat luas. Oleh sebab itu, ia menilai pemerintah atau lembaga tertentu perlu memastikan perusahaan membangun AI dengan standar keamanan yang kuat.
Coxon juga menginginkan kesepakatan di antara perusahaan pengembang AI. Menurutnya, perusahaan sebaiknya tidak memasuki area pengembangan berisiko tinggi sebelum pihak ketiga melakukan audit secara transparan.
Ia memperingatkan bahwa perlombaan teknologi yang terus berlangsung dapat mempersulit perusahaan dalam menghasilkan bukti keselamatan yang kuat. Persaingan juga dapat terus mendorong setiap pengembang mengejar kemampuan baru dengan cepat.
Anthropic Tanggapi Kekhawatiran soal Keamanan AI
Anthropic memberikan tanggapan setelah Coxon mengumumkan pengunduran dirinya dan menyampaikan kekhawatirannya secara terbuka.
Pada Kamis, 10 September 2026, juru bicara Anthropic menyatakan bahwa perusahaan sejak awal mengakui AI dapat menghadirkan manfaat besar sekaligus risiko yang belum pernah muncul sebelumnya.
Anthropic menegaskan perusahaan terus mengembangkan perlindungan untuk mengurangi berbagai risiko tersebut. Selain itu, perusahaan menyoroti pengembangan mechanistic interpretability, bidang yang berusaha memahami proses internal model AI dan cara kerjanya.
Menurut Anthropic, teknologi tersebut dapat membantu peneliti menganalisis serta mencegah masalah AI misalignment, yakni kondisi ketika perilaku atau tujuan AI tidak berjalan selaras dengan tujuan yang manusia inginkan.
Perbedaan pandangan mengenai kecepatan pengembangan dan tingkat keamanan AI kini menjadi bagian penting dari perdebatan yang Coxon soroti. Baginya, kemampuan teknologi yang semakin besar perlu berjalan bersama pengawasan, audit, serta standar keselamatan yang memadai agar persaingan antarpengembang tidak menciptakan risiko yang sulit manusia kendalikan.
