Articles Detail

Dipublikasi oleh:

ROSALINDA SIREGAR

Kepala Bagian Manajemen Risiko

Tata Kelola Kecerdasan Buatan (AI Governance) memiliki peran yang sangat penting bagi Direksi dan Dewan Komisaris/Pengawas Perseroan. Karena AI semakin banyak digunakan untuk pengambilan keputusan, operasional bisnis, dan interaksi dengan pelanggan, memastikan bahwa sistem (AI Governance) dikelola dengan benar dan sesuai dengan prinsip-prinsip tata kelola yang baik adalah suatu keharusan.

Berikut adalah beberapa alasan mengapa AI Governance sangat penting bagi para pengurus perseroan :

1. Pengelolaan Risiko yang Efektif

AI dapat menimbulkan berbagai jenis risiko, mulai dari risiko etika, keamanan, hingga risiko hukum. AI Governance membantu mengidentifikasi, mengelola, dan memitigasi risiko-risiko ini melalui kebijakan dan prosedur yang jelas. Dengan AI yang digunakan dalam pengambilan keputusan yang dapat mempengaruhi banyak aspek bisnis dan pelanggan, penting bagi Direksi dan Dewan Komisaris untuk memastikan bahwa sistem AI yang digunakan aman, transparan, dan tidak merugikan pihak manapun.

Contoh:

1. Risiko Bias dan Diskriminasi : AI jika tidak dikelola dengan hati-hati, dapat memperkuat bias yang ada dalam data atau algoritma, yang bisa merugikan kelompok tertentu (misalnya dalam keputusan kredit atau perekrutan). Tata kelola AI memastikan sistem ini diuji dan diaudit untuk mengurangi bias;
2. Keamanan dan Perlindungan Data : AI dapat mengakses dan memproses data besar, termasuk data pribadi. Tata kelola yang tepat memastikan bahwa data pelanggan dan pengguna dilindungi dengan baik dan sesuai dengan regulasi seperti General Data Protection Regulation (GDPR) di Uni Eropa atau California Consumer Privacy Act (CCPA) di Amerika Serikat.

2. Kepatuhan terhadap Regulasi dan Peraturan

Peraturan yang mengatur penggunaan teknologi AI, baik itu dari pemerintah maupun lembaga internasional, semakin ketat. Tata kelola AI memastikan bahwa organisasi mematuhi regulasi tersebut dan menjalankan praktik yang transparan dan akuntabel dalam penggunaan AI.

Contoh:

Kepatuhan terhadap regulasi privasi data : Tata kelola AI membantu organisasi untuk memastikan bahwa sistem yang menggunakan AI mematuhi peraturan tentang privasi dan perlindungan data, menghindari masalah hukum dan reputasi yang dapat timbul dari pelanggaran data.

3. Keputusan yang Transparan dan Akuntabel

Salah satu tantangan utama dalam penerapan AI adalah "black box problem" (masalah kotak hitam), di mana keputusan yang diambil oleh AI sulit dipahami atau dijelaskan, bahkan oleh pengembangnya sendiri. Tata kelola AI membantu memastikan bahwa proses pengambilan keputusan oleh AI adalah transparan dan dapat dipertanggungjawabkan.

Contoh :

Direksi dan Dewan Komisaris perlu memastikan bahwa sistem AI yang digunakan oleh perusahaan dapat dijelaskan (explainable AI) untuk mempertanggungjawabkan keputusan yang diambilnya, baik itu dalam audit internal maupun kepada pihak eksternal seperti regulator atau pelanggan.

4. Mendukung Inovasi yang Bertanggung Jawab

AI Governance juga penting untuk memastikan bahwa penggunaan AI dilakukan secara etis dan bertanggung jawab. Direksi dan Dewan Komisaris perlu memastikan bahwa AI diterapkan untuk menciptakan nilai positif bagi perusahaan dan masyarakat, tanpa melanggar hak asasi manusia, lingkungan, atau norma-norma sosial.

Contoh :

Organisasi yang mengembangkan produk berbasis AI, seperti aplikasi kesehatan atau teknologi kendaraan otonom, perlu memastikan bahwa teknologi tersebut tidak hanya aman dan efektif, tetapi juga mengedepankan kesejahteraan pengguna.

5. Meningkatkan Reputasi dan Kepercayaan Publik

Organisasi yang menerapkan prinsip-prinsip tata kelola AI yang baik cenderung lebih dihargai oleh pemangku kepentingan, pelanggan, dan masyarakat. Kepercayaan publik terhadap penggunaan AI akan semakin penting, terutama dalam konteks aplikasi yang dapat mempengaruhi kehidupan sehari-hari, seperti kesehatan, pekerjaan, dan pendidikan.

Contoh :

Perusahaan yang mengadopsi AI dengan pendekatan yang transparan dan etis akan lebih mudah membangun kepercayaan dengan pelanggan dan mitra bisnis. Ini sangat penting dalam era di mana transparansi dan etika bisnis menjadi faktor penting dalam keputusan konsumen.

6. Peningkatan Pengawasan dan Evaluasi Kinerja AI

AI perlu dievaluasi secara berkala untuk memastikan bahwa sistemnya berfungsi sesuai dengan tujuan yang diinginkan dan terus berkembang seiring dengan perubahan lingkungan eksternal dan internal. Direksi dan Dewan Komisaris perlu memastikan bahwa ada pengawasan yang memadai terhadap kinerja sistem AI untuk memastikan bahwa teknologi tersebut berjalan secara efektif dan sesuai dengan standar yang ditetapkan.

Contoh :

Evaluasi Keberhasilan AI : Menetapkan metrik untuk menilai apakah sistem AI yang diterapkan memberikan hasil yang diinginkan dan apakah ada peningkatan atau perbaikan yang perlu dilakukan.

7. Peningkatan Pengelolaan Sumber Daya Manusia (SDM)

Dalam pengembangan dan penerapan AI, penting untuk memiliki tim yang kompeten yang memahami baik teknologi AI maupun konteks bisnisnya. Tata kelola AI juga mencakup pengelolaan SDM yang berfokus pada peningkatan keterampilan dan pelatihan berkelanjutan untuk karyawan dalam menggunakan AI secara efektif dan etis.

Contoh :

Pengembangan kompetensi di bidang AI bagi karyawan serta penetapan kebijakan yang memastikan bahwa penggunaan AI tidak menggantikan pekerjaan manusia secara sembarangan, tetapi lebih kepada meningkatkan kinerja karyawan.

Tata Kelola Kecerdasan Buatan (AI Governance) sangat penting bagi Direksi dan Dewan Komisaris karena memberikan kerangka kerja yang sistematis dan bertanggung jawab untuk mengelola dan mengawasi penggunaan teknologi AI dalam organisasi. Dengan tata kelola yang baik, perusahaan dapat memanfaatkan AI untuk mendorong inovasi, meningkatkan efisiensi, dan mengurangi risiko, sambil tetap mematuhi prinsip-prinsip etika, keamanan, dan kepatuhan. Ini memastikan bahwa AI digunakan dengan cara yang menguntungkan organisasi, pemangku kepentingan, dan masyarakat secara keseluruhan.

• dari berbagai sumber