Ekosistem kecerdasan buatan di Indonesia memasuki fase paradoks: potensi pasarnya diproyeksikan melesat, namun kasus-kasus tata kelola di tubuh startup berbasis AI membuka luka lama soal transparansi. Data e-Conomy SEA 2024 yang dirilis Google, Temasek, dan Bain & Company menunjukkan nilai ekonomi digital Indonesia bisa menembus USD 110 miliar pada 2025, dengan kontribusi signifikan dari solusi berkemampuan AI di sektor fintech, agritech, dan healthtech. Angka ini menggambarkan peluang yang sulit diabaikan, tetapi juga menyimpan tanda tanya besar: seberapa siap ekosistem kita mengelola risiko yang muncul seiring akselerasi tersebut?
Pertumbuhan di Atas Fondasi Rapuh
Aplikasi AI di Indonesia tidak lagi sekadar gimmick pemasaran. Di sektor pertanian, misalnya, teknologi pemberi pakan otomatis berbasis machine learning telah membantu ribuan petambak udang dan ikan. eFishery, startup agritech yang sempat dinobatkan sebagai calon unicorn berikutnya, menjadi contoh paling mencolok. Perusahaan ini membangun sistem smart feeder yang bisa mengenali pola makan ikan, mengoptimalkan pertumbuhan, dan memangkas biaya operasional. Secara bisnis, model ini sangat menjanjikan.
Namun, pada awal 2025, publik dikejutkan oleh audit forensik yang mengindikasikan dugaan penggelembungan pendapatan di internal perusahaan. Kasus eFishery memperlihatkan bahwa keunggulan algoritma tidak otomatis berbanding lurus dengan kematangan tata kelola. Ketika model bisnis berbasis data besar tidak diimbangi oleh transparansi dan kontrol keuangan yang ketat, risiko sistemik justru meningkat.
Regulasi yang Tertatih-tatih
Pemerintah Indonesia sebenarnya telah memiliki Strategi Nasional Kecerdasan Artifisial (Stranas AI) 2020–2045 yang diluncurkan Kementerian Komunikasi dan Informatika. Dokumen ini memetakan lima sektor prioritas: kesehatan, pangan, mobilitas, pendidikan, dan reformasi birokrasi. Masalahnya, implementasi di lapangan masih jauh dari kata seragam. Belum ada undang-undang khusus yang mengatur AI, sehingga standar etika, keamanan data, dan akuntabilitas algoritma masih bersandar pada peraturan umum seperti UU Perlindungan Data Pribadi yang penerapannya pun belum maksimal.
Ketiadaan regulasi spesifik ini menciptakan celah: perusahaan rintisan bergerak cepat mengadopsi AI, sementara publik tidak memiliki jaminan bahwa keputusan algoritmik yang memengaruhi hidup mereka—misalnya, skor kredit otomatis atau rekomendasi produk investasi—sudah melalui proses audit yang memadai.
Belajar dari Kegagalan
Kasus eFishery seharusnya tidak dipandang sebagai alasan untuk memperlambat adopsi AI, melainkan momentum untuk memperkuat tiga lapis fondasi: tata kelola perusahaan, literasi investor, dan kerangka regulasi yang adaptif. Menurut Laporan Government AI Readiness Index 2023 dari Oxford Insights, Indonesia menempati peringkat ke-45 dari 181 negara—naik signifikan dibanding tahun sebelumnya, tetapi masih tertinggal di pilar infrastruktur data dan tata kelola.
Peluang AI di Indonesia tidak bisa dilepaskan dari kesiapan institusi. Selama audit algoritma masih menjadi hal asing bagi mayoritas korporasi, dan pemahaman tentang explainable AI hanya dimiliki segelintir talenta, potensi ekonomi bernilai miliaran dolar akan terus dibayangi oleh spekulasi dan risiko moral.