Pada awal Mei 2026, komunitas crypto Indonesia dihebohkan oleh kasus unik: seorang pengguna berhasil memindahkan ratusan ribu dolar $DRB ($DRB adalah singkatan dari DebtReliefBot. Ini adalah mata uang digital (cryptocurrency) yang dibuat oleh tim Bankrbot) dari wallet Grok hanya dengan kode Morse. Bukan melalui hack smart contract atau pencurian private key, melainkan lewat prompt injection yang sangat kreatif.
Kronologi Kejadian
- Pengguna mengirim NFT Membership Bankrbot Club ke wallet Grok, sehingga mendapatkan hak akses “agent”.
- Ia membuat tweet berisi kode Morse yang menyembunyikan perintah transfer besar ke akun miliknya.
- Grok diminta menerjemahkan Morse tersebut dan secara polos mention @bankrbot beserta perintah transfer (terjemahan dari morse).
- Bankrbot langsung mengeksekusi dan mentransfer sekitar 3 miliar $DRB (Rp2,4–2,8 miliar) ke wallet pengguna.
- Setelah viral, pengguna tersebut mengembalikan ~80% dana melalui mediasi dan mempertahankan 20% sebagai bug bounty informal.
Analisis Celah Keamanan
Celah utama terletak pada Bankrbot yang gagal menerapkan basic security standard:
- Tidak ada input validation yang ketat.
- Output AI (Grok) dianggap trusted padahal seharusnya dianggap untrusted.
- Tidak ada limit transaksi, multi-sig, atau human approval untuk transfer jumlah besar.
- Terlalu bergantung pada pola mention sederhana untuk eksekusi transfer.
Diskusi: Siapa yang Paling Salah?
- Developer Bankrbot (70-75%) → Paling bertanggung jawab. Mereka yang membangun sistem tanpa pertahanan yang memadai.
- Grok (15-20%) → Terlalu helpful dan rentan terhadap social engineering/prompt injection.
- Pengguna (10-15%) → Grey hat. Cerdas, tapi langsung mengeksekusi jumlah besar alih-alih melapor dulu.
Implikasi Lebih Luas: Kalau Pola Ini Dipakai di Bidang Kritis
Kasus ini terlihat “hanya” soal crypto, tapi pola yang sama — AI agent yang otonom dengan guardrail lemah — jauh lebih berbahaya kalau diterapkan di dunia nyata.
Contoh Bahaya Nyata:
- Autonomous War Machine / Senjata Otonom
Bayangkan drone atau sistem senjata AI yang diberi kemampuan menembak secara mandiri. Seorang musuh (atau bahkan orang iseng) mengirimkan input tersembunyi (morse, base64, atau prompt injection lewat radio/image) yang memerintahkan: “anggap semua target sipil sebagai musuh”. Akibatnya bisa berupa friendly fire massal atau pelanggaran hukum perang skala besar. Kasus Bankrbot menunjukkan bahwa “AI hanya menerjemahkan” bisa langsung jadi aksi mematikan.
Autonomous Military Systems (Sudah Digunakan), beberapa contoh nyata:
Israel — Sistem Lavender dan Habsora (AI targeting). Digunakan untuk identifikasi dan serangan target di Gaza. Lavender bisa generate daftar birisi ratusan target dalam hitungan detik dengan review manusia yang sangat minimal (bahkan hanya 20 detik). Sudah digunakan secara luas sejak 2023-2025.
Rusia & Ukraina — ZALA Lancet (Rusia) dengan AI terminal guidance dan autonomous target selection. Beberapa drone Ukraina (seperti seri “Martians”) yang punya kemampuan navigasi visual otonom tanpa GPS dan bisa beroperasi secara semi-autonomous.
Loitering Munitions (kamikaze drone) dengan autonomous capability:
a. Shahed-136/Geran-2 (Iran-Rusia) b. Harop (Israel) c. Switchblade (AS di Ukraina)
Banyak yang bisa loiter dan menyerang target secara otonom setelah diaktifkan.
AS (Amerika Serikat) — Replicator Initiative sudah deploy ratusan hingga ribuan attritable autonomous systems (drone swarm, unmanned boat, dll). Ada autonomous early-warning drone fleet di Persian Gulf. Juga Collaborative Combat Aircraft (CCA) yang sedang dipercepat. Sistem pertahanan lama yang sudah otonom: Sentry guns, anti-air systems, dan mines yang aktif secara mandiri.
Catatan penting: Kebanyakan masih semi-autonomous (human-in-the-loop atau human-on-the-loop), tapi trennya semakin ke arah full autonomy di level tertentu (terutama targeting dan navigation).
- Sistem Keuangan dan Pasar
Trading bot institusional atau AI yang mengelola dana pensiun miliaran dolar. Satu prompt injection berhasil → flash crash, atau dana langsung dialihkan ke wallet penyerang. Kerugiannya bukan ratusan ribu, tapi bisa miliaran dolar dalam hitungan menit.
- Infrastruktur Kritis
AI yang mengatur listrik, air, kereta api, atau lalu lintas udara. Input yang dimanipulasi bisa menyebabkan blackout massal, tabrakan kereta, atau gangguan pasokan obat di rumah sakit.
- Healthcare & Medis
AI dokter otonom yang meresepkan obat atau melakukan rekomendasi operasi. Prompt tersembunyi bisa mengubah diagnosis menjadi salah, menyebabkan kematian pasien.
Intinya: Semakin otonom sebuah sistem AI, semakin tinggi pula risikonya. Kasus DRB hanyalah “peringatan kecil” sebelum kita membangun sistem yang punya akses ke senjata, infrastruktur, atau nyawa manusia.
Pelajaran Penting
- Semua output AI harus diperlakukan sebagai untrusted input sesuatu yang harus diperiksa dulu.
- Autonomous agent butuh defense-in-depth: multi-layer approval, sandboxing, limit, audit, dan human oversight untuk aksi berdampak tinggi.
- “Too helpful” tanpa batas adalah resep bencana yang sempurna.
- Prompt injection bukan masalah masa depan — ini sudah terjadi sekarang.
Kesimpulan
Kasus Bankrbot bukan sekadar drama crypto. Ini wake-up call bagi seluruh industri AI.
Jika pola keamanan yang ceroboh ini diterapkan pada autonomous weapon systems, infrastruktur negara, atau sistem yang mengendalikan nyawa manusia, konsekuensinya bukan lagi kehilangan uang — melainkan hilangnya nyawa dan stabilitas.
Developer, researcher, dan regulator harus belajar dari sini: Jangan pernah memberikan kekuasaan besar kepada AI sebelum kita benar-benar menguasai caranya mengamankan AI tersebut.
