Jakarta - CEO Anthropic Dario Amodei menyerukan agar laju pengembangan kecerdasan buatan (Artificial Intelligence/AI) mulai diperlambat atau "diinjak remnya". Menurut pimpinan perusahaan di balik chatbot Claude ini, kemampuan sistem AI berkembang begitu pesat hingga melampaui kecepatan manusia dalam memastikan keamanannya.
Melalui imbauannya, Amodei menegaskan bahwa dirinya tidak meminta penghentian total pengembangan AI. Namun, ia mengusulkan agar laju penambahan kemampuan AI diimbangi dengan sistem pengawasan dan keselamatan yang memadai.
Risiko Recursive Self-Improvement
Salah satu hal utama yang memicu kekhawatiran Amodei adalah fenomena recursive self-improvement (RSI), yaitu kondisi di mana AI yang cukup canggih mulai membantu meneliti, merancang, dan memperbaiki generasi AI berikutnya secara mandiri. Siklus ini dinilai berpotensi mempercepat kemampuan AI secara tak terkendali.
Selain itu, insiden internal di industri seperti pengujian model yang mampu bertindak secara tidak terduga di luar batasan sistem menjadi alarm bahaya. Amodei memprediksi, jika tidak diimbangi dengan regulasi ketat, pengoperasian AI Agent yang terlalu mandiri bisa memicu kerugian ekonomi dalam skala besar hingga ratusan miliar dolar AS di masa depan.
Tiga Langkah Keselamatan Utama
Untuk mengantisipasi risiko tersebut, Amodei mengusulkan tiga langkah konkret bagi para pengembang AI terdepan:
- Memberikan waktu yang cukup untuk pengujian sistem keselamatan serta membuka akses model AI kepada evaluator independen setingkat karyawan.
- Membangun kolaborasi antarperusahaan AI untuk menetapkan standar keselamatan bersama.
- Mendorong koordinasi tingkat internasional dalam mengelola risiko keamanan AI.
Didukung Sam Altman dan Elon Musk
Berdasarkan laporan KompasTekno, seruan Dario Amodei mendapat respons positif dari pesaing utamanya. CEO OpenAI Sam Altman menyatakan sepakat bahwa laju pengembangan AI terdepan perlu diatur agar keselamatan tetap terjaga. OpenAI bahkan berencana menerapkan skema evaluasi independen serupa.
Dukungan senada disampaikan oleh pendiri xAI, Elon Musk, yang mengaminkan imbauan tersebut. Sementara itu, Chairman Google DeepMind Demis Hassabis turut menyambut baik ide tersebut sebagai langkah awal yang tepat dalam membangun ekosistem AI yang lebih aman.
REFERENSI: