Pilar-Pilar AI Generatif yang Muncul: Mengurai Tata Kelola, Risiko, dan Kepatuhan

INDUSTRY.co.id - Jakarta - Komitmen pemerintah Indonesia untuk menumbuhkan ekosistem AI terbukti melalui inisiatif Stategi AI Nasional. Namun, terdapat kesenjangan antara niat dan realita dalam mengadopsinya. 

Menurut analisis PwC dari tahun 2024, 41% CEO di Asia Pasifik mengakui bahwa organisasi mereka belum menerapkan kecerdasan buatan generatif (AI Generatif/GenAI). 

Dalam analisis yang sama, hampir setengah (49%) CEO khawatir tentang ancaman keamanan siber, dan 44% khawatir tentang misinformasi yang disebarkan oleh GenAI. Ini semua merupakan bagian dari kekhawatiran tentang risiko, kepatuhan, dan etika.

Para profesional di bidang tata kelola, risiko, dan kepatuhan (Governance, Risk and Compliance) sangat memahami kompleksitas bidang mereka. 

Menurut Ramprakash Ramamoorthy, Direktur Riset ManageEngine kompleksitas ini semakin meningkat dengan munculnya AI, seperti yang dicatat oleh ISC2. Meskipun GenAI telah unggul di bidang-bidang seperti pemasaran dan pembuatan konten, integrasinya ke dalam GRC terbukti lebih menantang. 

Menurut Ram penerapan GenAI yang lancar di GRC masih sulit dicapai, terutama karena rumitnya menyelaraskan teknologi yang berkembang pesat saat ini dengan kerangka kerja dan standar GRC yang sudah ada.

Ram membagikan  beberapa tantangan yang berkaitan tentang kompatibilitas antara GenAI dan standar GRC karena evolusi model GenAI yang tiada henti dan berkelanjutan.

Potensk GenAI yang Belum Terlihat

Organisasi yang mengabaikan integrasi GenAI ke dalam ekosistem GRC yang ada dapat kehilangan manfaat sebagai berikut:

●  Kemampuan mengotomatiskan tugas-tugas seperti pembuatan dan pemeliharaan kebijakan.

●  Pelacakan legislasi dan penilaian risiko secara real-time.

●  Penanganan kebijakan dan kontrol.

●  Pemantauan kepatuhan.

●  Perencanaan prediktif dan pemindaian risiko.

Setiap pilar GRC mencakup penyempurnaan yang sangat spesifik; mari kita bahas satu per satu.

Tata Kelola

●  AI mencari pola dan anomali dari threat feeds  dan laporan kepatuhan untuk menyesuaikan kebijakan dengan ancaman baru dan perubahan regulasi.

●  Pembelajaran mesin jauh lebih unggul dari teknik tradisional dalam mengidentifikasi indikator serangan siber yang tersembunyi dalam perilaku pengguna dan aliran data.

●  Pemrosesan bahasa alami (NLP) mengotomatiskan penegakan kebijakan keamanan dan kepatuhan terhadap regulasi internal dan eksternal.

●  AI melindungi perusahaan dari serangan siber dengan menyederhanakan tinjauan akses pengguna dan tugas-tugas pemulihan.

Risiko

-  Model risiko strategis menggabungkan data histori insiden keamanan siber melalui analistik tingkat lanjut dan Machine Learning.

-  Simulasi skenario eksposur berbasis  AI mengurangi kemungkinan terjadinya pelanggaran keamanan.

-  Praktik terbaik dalam taktik investasi dan mitigasi risiko memastikan pengalokasian sumber daya yang efisien.

-  Integrasi dengan alat pemodelan layanan keuangan memungkinkan pemahaman yang komprehensif tentang dampak finansial dari skenario pelanggaran tertentu, termasuk kerugian dan biaya.

-  Mengukur potensi keuntungan investasi memotivasi investasi strategis yang didukung oleh data.

Kepatuhan

●  Proses sistem pemantauan dan pelaporan yang lebih efisienmenjamin kepatuhan terhadap peraturan dengan menganalisis sejumlah besar data.

●  Enkripsi dan pengklasifikasian data pribadi secara otomatis membantu kepatuhan terhadap regulasi seperti GDPR.

●  Menganalisis komunikasi dan transaksi secara real time membantu mengidentifikasi kemungkinan adanya tindakan kriminal.

●  Pemantauan yang terus-menerus terhadap penyimbangan dari kepatuhan memastikan terpenuhinya kewajiban regulasi..

●  Proses penguraian dan analisis yang mampu menjalankan NLP terhadap dokumen regulasi yang rumit memudahkan upaya kepatuhan.

Manfaat dan Risiko Adopsi GenAI

Seiring dengan semakin terintegrasinya GenAI ke dalam domain GRC, GenAI menawarkan peluang dan tantangan yang signifikan. Salah satu risiko utama adalah penyebaran misinformasi karena kecenderungan AI untuk menghasilkan data yang salah, yang dapat berdampak negatif pada proses pengambilan keputusan. 

Ram juga mengkhawatirkan hal lainnya yang dapat terjadi yaitu tentang bias dalam model AI, yang berpotensi memengaruhi netralitas, yang penting bagi tata kelola. 

Selain itu, kurangnya verifikasi sumber yang andal dalam sistem AI saat ini dapat mengurangi kredibilitas, yang merupakan hal penting bagi praktik GRC. Tantangan etika dan hukum juga menuntut keseimbangan yang cermat antara inovasi dan kepatuhan.

“Jadi, tantangan yang signifikan adalah adanya penyebaran atau kesalahan informasi karena kecenderungan AI untuk menghasilkan data yang salah, hal ini berdampak negatif pada proses pengambilan Keputusan. Dan hal ini tentunya akan berdampak pada netralitas yang tentunya berdampak cukup serius pada sebuah tata Kelola," terang Ram.

Sehubungan dengan hal ini, pemerintah Indonesia telah mengembangkan Strategi AI Nasional dalam upaya untuk mengatur penggunaan AI di Indonesia, untuk memandu pengembangan dan implementasinya. 

Strategi ini juga mempertimbangkan pentingnya keamanan data, praktik AI yang etis, dan penciptaan tenaga kerja terlatih untuk mendukung proyek-proyek AI.

Meningkatnya adopsi teknologi AI bukan tanpa risiko; ada dampak negatif yang berkaitan antara AI dan peluang kerja yang tersedia, yang jika tidak dikelola dengan baik, dalam beberapa kasus terbukti dapat merugikan masyarakat. 

Pengembang dan para spesialis GRC harus berkolaborasi dan menavigasi medan yang kompleks ini untuk memastikan bahwa integrasi AI meningkatkan integritas organisasi dan bukan merusaknya. Meskipun jalan di depan menuntut navigasi yang hati-hati, potensi manfaatnya membuat perjalanan ini sepadan.

Ram menambahkan para pakar GRC harus menjadi pemimpin dalam revolusi GenAI ini. Mereka tidak hanya bertugas untuk mengawasi, tetapi juga menjadi arsitek kerangka kerja untuk inovasi yang etis. 

“Mereka harus membuat kebijakan yang jelas dan kerangka kerja yang kuat untuk pengendalian internal guna memastikan bahwa kekuatan AI dijalankan dengan cara yang konsisten dengan nilai-nilai organisasi, melindungi dari risiko, dan membantu kepatuhan terhadap peraturan," ujarnya.

Seperti yang disoroti dalam laporan Forrester, GRC dapat menyediakan jalan untuk menyelaraskan risiko dengan tujuan GenAI, mengembangkan kerangka tata kelola, dan mengatasi risiko pihak ketiga. Profesional GRC harus mengambil peran sebagai pemimpin strategis yang membimbing dan mengarahkan adopsi GenAI oleh organisasi.

Meskipun masih ada kesulitan dalam tahap awal GRC yang berbasis GenAI, kekhawatiran tentang integrasi yang aman dan penyelarasan regulasi harus segera diatasi. 

AI berkembang sangat cepat. Menurut Panduan Belanja AI dan AI Generatif di Seluruh Dunia yang dirilis oleh IDC, kawasan Asia-Pasifik memimpin dunia dalam industri GenAI, yang diprediksi akan mencapai penjualan sebesar 26 miliar USD pada tahun 2027.

Perusahaan dapat menggunakan GenAI dengan sangat sukses jika dipadukan dengan pengetahuan GRC, paduan ini akan menghilangkan berbagai hambatan terhadap inovasi dan ekspansi serta menjamin bahwa perilaku etis dan kepercayaan pemangku kepentingan terpenuhi sepenuhnya. 

Konsolidasi GenAI dengan GRC pada akhirnya penting untuk mengatasi hambatan yang menghalangi inovasi dan pertumbuhan.