Seri Cyclopedia Digital #4
Suhermanto Ja’far
Dosen Filsafat Digital Fakultas Ushuluddin dan FilsafatUniveristas Islam Negeri Sunan Ampel Surabaya
AI Governance merupakan istilah yang tersusun dari singkatan AI (Artificial Intelligence) yang berarti kecerdasan buatan, dan kata governance yang merujuk pada tata kelola, pengaturan, serta mekanisme pengambilan keputusan kolektif. Dengan demikian, AI Governance bukan singkatan tersendiri, melainkan istilah konseptual yang menunjuk pada kerangka kebijakan, regulasi, institusi, dan praktik yang mengarahkan pengembangan serta penggunaan AI agar selaras dengan kepentingan publik, nilai demokratis, dan tujuan sosial yang lebih luas (Kaal 2024, 1–54).
Secara makna, AI Governance dapat dipahami sebagai upaya sistematis untuk mengelola risiko, dampak, dan potensi AI melalui seperangkat aturan formal dan informal. Tata kelola ini mencakup aspek hukum, etika, teknis, dan organisasi, mulai dari perumusan kebijakan publik, standar industri, hingga mekanisme akuntabilitas dan pengawasan. Tujuan utamanya adalah memastikan bahwa AI dikembangkan dan digunakan secara aman, adil, transparan, serta bertanggung jawab, tanpa menghambat inovasi teknologi (Gasser and Almeida 2017, 58–62).
Dalam konteks bidang kajian, AI Governance bersifat multidisipliner. Ia menjadi fokus utama dalam studi kebijakan publik, hukum dan regulasi teknologi, etika AI, sosiologi digital, serta hubungan internasional. Di bidang hukum, AI governance membahas regulasi algoritma, perlindungan data, dan tanggung jawab hukum atas keputusan berbasis AI. Sementara itu, dalam kebijakan publik dan studi pemerintahan, AI governance dikaji sebagai tantangan baru bagi negara dalam mengelola teknologi global yang melampaui batas teritorial ((Crawford 2021, 137–41).
Lebih jauh, AI governance juga berkaitan erat dengan isu kekuasaan dan ketimpangan global. Sistem AI banyak dikembangkan oleh korporasi teknologi besar yang memiliki sumber daya data dan komputasi masif, sehingga memunculkan asimetri kekuasaan antara negara, pasar, dan warga. Yeung menekankan bahwa tanpa kerangka tata kelola yang kuat, AI berpotensi memperkuat algorithmic regulation yang bersifat opak dan mengurangi ruang deliberasi publik (Yeung 2018, 505–23). Oleh karena itu, AI governance tidak hanya bersifat teknokratis, tetapi juga politis.
Pada tingkat global, AI governance berkembang melalui berbagai inisiatif internasional, seperti pedoman etika, prinsip tata kelola, dan rancangan regulasi lintas negara. Contoh paling menonjol adalah pendekatan berbasis risiko dalam EU Artificial Intelligence Act, yang berupaya mengklasifikasikan sistem AI berdasarkan tingkat dampak dan bahayanya. Pendekatan ini menunjukkan bahwa AI governance diarahkan untuk menyeimbangkan antara perlindungan hak asasi manusia, keamanan publik, dan inovasi teknologi (Veale and Borgesius 2021, 87–112).
AI Governance dapat dipahami sebagai kerangka strategis untuk mengarahkan perkembangan AI agar tetap berada dalam kendali sosial dan politik manusia. Ia bukan sekadar persoalan regulasi teknis, tetapi refleksi normatif tentang bagaimana masyarakat ingin mengatur teknologi cerdas yang semakin memengaruhi struktur kekuasaan, pengambilan keputusan, dan kehidupan sehari-hari. Dalam konteks ini, AI governance menjadi fondasi penting bagi pembangunan ekosistem AI yang berkelanjutan, berkeadilan, dan berorientasi pada kepentingan publik.
Referensi
Crawford, Kate. 2021. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press.
Gasser, Urs, and Virgilio A.F. Almeida. 2017. “A Layered Model for AI Governance.” IEEE Internet Computing 21 (6): 58–62. https://doi.org/10.1109/MIC.2017.4180835.
Kaal, Wulf A. 2024. “AI Governance.” SSRN Electronic Journal, ahead of print. https://doi.org/10.2139/ssrn.4796714.
Veale, Michael, and Frederik Zuiderveen Borgesius. 2021. “Demystifying the Draft EU Artificial Intelligence Act.” Computer Law Review International 22 (4): 97–112. https://doi.org/10.9785/cri-2021-220402.
Yeung, Karen. 2018. “Algorithmic Regulation: A Critical Interrogation.” Regulation & Governance 12 (4): 505–23. https://doi.org/10.1111/rego.12158.
