KreAsik – 11 Juni 2026 | CEO Anthropic, Dario Amodei, baru-baru ini menerbitkan esai berjudul ‘Policy on the AI Exponential’ yang menekankan pentingnya pengawasan ketat terhadap AI yang tidak aman. Amodei menyerukan perlunya pengujian wajib oleh pihak ketiga terhadap model AI canggih dan pemberian wewenang kepada pemerintah untuk memblokir sistem yang gagal dalam audit keamanan.
Esai tersebut diterbitkan satu hari setelah Anthropic meluncurkan model AI Claude Fable 5. Amodei juga mengusulkan kerangka kerja yang terinspirasi dari Federal Aviation Administration (FAA) untuk mengatur model AI yang melebihi ambang komputasi tertentu. Model-model tersebut harus menjalani pengujian wajib dalam empat area, termasuk keamanan siber, senjata biologis, kehilangan kendali, dan penelitian AI otomatis.
Amodei juga menekankan pentingnya pelaporan insiden keamanan yang cepat dan perlindungan ketat terhadap bobot model. Ia memperingatkan bahwa model AI canggih dapat mengancam keamanan publik dan mempengaruhi sektor keuangan dan infrastruktur kritis.
Baca Juga:
Anthropic telah meluncurkan model Claude Fable 5 dengan fitur keamanan yang memblokir permintaan siber dan biologi yang berisiko tinggi. Namun, Amodei berpendapat bahwa batasan sukarela tersebut tidak dapat menggantikan peraturan yang mengikat di seluruh industri.
Esai Amodei juga membahas tentang risiko pekerjaan yang hilang dan perlunya perlindungan bagi pekerja yang terkena dampak. Ia mengusulkan asuransi gaji, insentif pajak untuk perusahaan yang mempertahankan pekerja, dan pelatihan kerja untuk pekerja yang terkena dampak.
Amodei juga menekankan pentingnya perlindungan terhadap kebebasan sipil dan mengusulkan larangan senjata otonom dalam penegakan hukum domestik. Ia juga menyerukan penutupan celah dalam pengumpulan data yang memungkinkan pembelian surveilans massal.
Dalam esai tersebut, Amodei menekankan bahwa kekhawatiran publik tentang AI tidak hanya merupakan masalah pemasaran, tetapi juga merupakan kekhawatiran yang akurat. Ia berharap bahwa Kongres akan mengambil tindakan untuk mengatur AI dan memastikan keamanan publik.
Kesimpulan dari esai Amodei adalah bahwa pengawasan ketat terhadap AI yang tidak aman sangat penting untuk memastikan keamanan publik. Ia berharap bahwa industri AI dan pemerintah dapat bekerja sama untuk mengembangkan peraturan yang efektif dan melindungi masyarakat dari risiko yang terkait dengan AI.
