TELEGRAF – Teknologi berkembang pesat. Namun, bagaimana jika perkembangan tersebut malah menjadi ancaman?
The Institute of Management Development (IMD) dan TONOMUS Global Center for Digital and AI Transformation baru saja merilis sebuah instrumen yang mereka sebut “AI Safety Clock”, sebuah indikator yang dirancang untuk menunjukkan seberapa besar risiko kecerdasan buatan (AI) di dunia ini telah mendekati titik kritis, Jakarta (2/9/24).
Bayangkan jam yang menunjukkan waktu, tapi kali ini bukan tentang hitungan mundur menuju tengah malam, melainkan ancaman nyata bagi eksistensi kita.
“Perkembangan AGI (Artificial General Intelligence) telah berada pada titik di mana risiko meningkat dari sedang ke tinggi.
Ini peringatan serius, tapi belum terlambat untuk bertindak,” kata Michael Wade, Direktur IMD, yang juga memimpin riset ini.
Ketika jarum jam ini mendekati zona merah, itu bukan sekadar sinyal, tapi alarm bahwa bencana bisa segera terjadi.
Apa yang Membuat AI Jadi Berbahaya?
AGI atau Kecerdasan Buatan Umum adalah bentuk AI yang mampu melakukan tugas tanpa campur tangan manusia, dan bisa beroperasi mandiri.
Ketika ia berkembang tanpa kendali, maka dampaknya bisa fatal: dari mengendalikan senjata nuklir hingga memanipulasi infrastruktur penting seperti transportasi, energi, bahkan air minum kita.
Kondisi ini menjadi lebih mendesak karena adanya dua jenis AI yang mempercepat transisi menuju zona bahaya: AI Multimoda dan AI Agen.
AI Multimoda bisa memproses berbagai jenis input sekaligus—teks, gambar, audio—membuatnya lebih mampu mengatasi tugas-tugas rumit yang biasanya membutuhkan pengetahuan manusia.
Sementara AI Agen adalah entitas yang dapat membuat keputusan sendiri dan bertindak sesuai dengan rencana yang ia buat.
Gabungan kedua jenis AI ini berpotensi besar mengarah pada perkembangan AGI yang tak terkendali.
Teknologi seperti Gemini Ultra atau Pixtral 12B, yang menggunakan AI Multimoda, dan perkembangan robot humanoid dengan AI generatif, menjadi contoh bagaimana teknologi ini bisa dengan cepat berubah dari alat bantu menjadi entitas yang bisa mengubah tatanan kehidupan kita.
Manusia yang Terlambat Bergerak
Lantas, di mana peran manusia? Sejarah sudah berkali-kali menunjukkan bahwa regulasi selalu datang terlambat dibandingkan inovasi.
Sama seperti penemuan energi nuklir, ketika peraturan belum sempat mengimbangi, manusia telah dihadapkan pada Hiroshima dan Nagasaki.
Di Eropa, EU AI Act telah menjadi langkah pertama untuk menahan laju risiko ini, sementara negara bagian California di AS dengan SB 1047 juga mulai mengambil tindakan serupa.
Namun, regulasi ini masih menjadi upaya sporadis.
“Kami memerlukan upaya bersama yang lebih luas—dari pemerintah, perusahaan, hingga organisasi internasional,” tegas Wade.
Bukan hanya aturan yang dibutuhkan, tapi juga komitmen dari para raksasa teknologi. OpenAI dengan Preparedness Framework-nya, Alphabet yang memiliki Google DeepMind Frontier Safety Framework, serta Anthropic dengan Responsible Scaling Policy (RSP) adalah sebagian dari mereka yang mencoba menjaga keselamatan AI.
Namun, tanpa transparansi dan akuntabilitas yang jelas, semua langkah ini berisiko menjadi sekadar pajangan.
Saat Teknologi Jadi Bencana
Ketika teknologi menjadi lebih kompleks dan manusia tidak lagi mampu mengendalikannya, bencana hanya soal waktu.
Bayangkan AI yang bisa memanipulasi sistem keuangan dunia, mempengaruhi stabilitas politik, atau bahkan mengambil kendali dari infrastruktur vital seperti listrik atau transportasi.
Semua ini bukan lagi skenario fiksi, tapi kemungkinan nyata yang semakin dekat.
IMD mencatat bahwa saat ini sudah ada 3.500 perusahaan yang tengah mengembangkan model AI secara global.
Di China, robot humanoid yang ditenagai AI generatif kini sudah diuji coba di infrastruktur sensitif seperti pembangkit listrik tenaga nuklir.
Sementara itu, NVIDIA bermitra dengan beberapa perusahaan robotika untuk mengembangkan model dasar bagi robot-robot ini.
“Ini seperti bom waktu yang menunggu untuk meledak,” kata Wade.
Sebuah potensi yang besar, tapi juga membawa risiko yang bisa mengubah wajah dunia seperti yang kita kenal.
Harus Ada Langkah Nyata
Kehadiran AI Safety Clock ini bukan sekadar alat ukur, tapi panggilan darurat.
Bukan hanya untuk para pembuat kebijakan, tapi juga bagi kita semua. Ketika dunia bergerak semakin cepat menuju risiko kritis, keputusan kita hari ini akan menentukan apakah AI akan menjadi teman yang menyejahterakan, atau ancaman yang membawa kehancuran.
Kita mungkin tidak bisa menghentikan perkembangan teknologi, tapi kita bisa memastikan bahwa setiap langkah diambil dengan penuh tanggung jawab. K
arena jika kita tidak mengendalikan AI sekarang, bisa jadi suatu saat nanti, ia akan mengendalikan kita.
