Penerbitan Ke-9

PERSPEKTIF DAN PANDANGAN GLOBAL Kecerdasan Buatan (Artificial Intelligence/AI) -

Pertimbangan untuk Profesi Audit Internal Edisi Khusus

2

globaliia.org

globaliia.org 1

globaliia.org

Daftar Isi

Pendahuluan...........................................................................................2

Konteks Artificial Intelligence (AI)...........................................................2

AI – Hal Hal Mendasar............................................................................3

Big Data dan Algoritma....................................................................3

Jenis Jenis AI.....................................................................................4

Peluang dan Risiko AI..............................................................................4

Peluang.............................................................................................5

Risiko................................................................................................5

Peran Audit Internal...............................................................................5

Kompetensi AI: Menutup Celah Pemahaman..................................6

Memperkuat Ketahanan Cyber........................................................7

Kerangka Audit AI...................................................................................7

Strategi.............................................................................................7

Komponen........................................................................................8

Kesimpulan.............................................................................................9

Diterjemahkan dan diselaraskan oleh IIA Indonesia Volunteers:

1. I Made Suandi Putra MSc, CIA, CRMP

2. Yullyan, SE, MAk, Ak., CPA, CIA, CA

Tentang IIA

Institute of Internal Auditor (IIA)

adalah advokat, pendidik, dan

penyedia standar, panduan, dan

sertifikasi profesi audit internal yang

paling banyak dikenal. Didirikan pada

tahun 1941, IIA saat ini melayani lebih

dari 190.000 anggota dari lebih dari

170 negara dan teritori. Kantor pusat

global IIA berada di Lake Mary,

Florida, AS. Untuk informasi lebih

lanjut, kunjungi www.globaliia.org.

Feedback Pembaca

Kirimkan pertanyaan dan komentar ke

globalperspectives@theiia.org.

Penerbitan Sebelumnya

Penerbitan isu isu dan pembahasan

berbagai topik dalam Perspektif dan

Pandangan Global sebelumnya dapat

ditemukan di www.theiia.org/gpi.

Disclaimer

Pendapat yang diungkapkan dalam

Perspektif dan Pandangan Global

tidak mewakili pendapat pribadi

kontributor atau organisasi dimana

kontributor bekerja.

Hak Cipta

Hak Cipta © 2017 oleh The Institute

of Internal Auditors, Inc.

2

globaliia.org

Kecerdasan Buatan (Artificial Intelligence/AI)

Pertimbangan Untuk Profesi Audit Internal

Pendahuluan

Kecerdasan Buatan (AI) adalah istilah umum yang

mengacu pada teknologi yang mampu membuat mesin

menjadi "cerdas." Organisasi berinvestasi dalam

penelitian dan aplikasi AI untuk mengotomatisasi,

meningkatkan, atau mereplikasi kecerdasan manusia -

analisis dan pengambilan keputusan manusia - dan

profesi audit internal harus siap untuk berpartisipasi

penuh dalam inisiatif organisasi dalam menerapkan AI.

Ada banyak istilah lain yang terkait dengan AI, seperti,

deep learning (pembelajaran mendalam), machine

learning (mesin yang mampu belajar), pengenalan

gambar, pemrosesan bahasa alami, cognitive computing

(komputasi yang mampu mengenali sesuatu), amplifikasi

kecerdasan, peningkatan kognitif, peningkatan

kecerdasan mesin, dan peningkatan kecerdasan. AI, yang

digunakan dalam pembahasan ini, mencakup semua

konsep dan istilah diatas.

Konteks Artificial Intelligence (AI)

AI bukan hal yag baru. Menurut makalah diskusi

McKinsey Global Institute's (MGI) "Artificial Intelligence:

The Next Digital Frontier," gagasan AI sudah ada sejak

tahun 1950 ketika Alan Turing pertama kali

mengemukakan bahwa sebuah mesin dapat

berkomunikasi dengan cukup baik untuk meyakinkan

seorang manusia yang bertindak sebagai evaluator

bahwa mesin tersebut juga adalah manusia.

AI mewakili serangkaian kemajuan signifikan dalam

teknologi, namun ini bukanlah kemajuan yang pertama,

dan sepertinya tidak akan menjadi yang terakhir.

Melihat kembali pada beberapa dekade terakhir,

kemunculan komputer, PC, spreadsheet, database

relasional, konektivitas yang canggih, dan kemajuan

teknologi serupa, semuanya mempengaruhi bagaimana

organisasi beroperasi dan mencapai tujuan mereka. AI

siap melakukan hal yang sama dengan potensi untuk

menjadi atau lebih disruptive (menyebabkan

perubahan) daripada banyak kemajuan teknologi

sebelumnya.

AI dapat dipandang sebagai kemajuan signifikan terbaru

dalam rangkaian kemajuan yang telah terjadi dalam

perkembangan teknologi. Apa yang menjadi

perkembangan terbaru adalah kemajuan dan skalabilitas

teknologi yang membuat penerapan AI dapat

dipergunakan secara praktis (practical).

Penerapan ini ditunjukkan secara terbuka kepada

khalayak luas pada tahun 2011 saat platform AI milik

IBM, yaitu IBM Watson, mampu menjadi pemenang

dalam sebuah acara kuis Jeopardy!. Menurut IBM

Research, IBM "dipandu oleh istilah 'augmented

intelligence' daripada 'artificial intelligence', dan

berfokus pada pengembangan aplikasi AI yang praktis

dan dapat membantu orang-orang dalam sebuah tugas

yang terdefinisi dengan baik." Keahlian manusia dapat

mengembangkan teknologi untuk membuat mesin

cerdas, dan mesin yang cerdas, selanjutnya, lebih

meningkatkan kemampuan manusia.

Penerapan AI sudah terjadi di berbagai sektor (publik,

swasta, pemerintah, dan nirlaba) dan industri. Dibawah

ini merupakan contoh dimana AI memungkinkan

sejumlah kemampuan baru yang masih mustahil

beberapa tahun yang lalu:

Pabrikan otomotif mengembangkan kendaraan yang

mampu menyetir sendiri (self-driving).

Mesin pencari online yang mampu

merekomendasikan hasil pencarian yang diinginkan.

Media sosial mampu mengenali wajah dalam foto

dan menyaring berita berita.

Perusahaan media mampu merekomendasikan buku

buku dan pertunjukan kepada para pelanggannya.

Toko retail yang mampu membuat pengalaman

online yang dipersonalisasi bagi para pelanggan

3

globaliia.org

Global Perspectives: Artificial Intelligence

Perusahaan logistik yang mampu menemukan jalur

pengiriman paling optimal

Pemerintah mampu memperkirakan sebuah epidemi

penyakit.

Profesional pemasaran memberikan konten yang

dipersonalisasi secara personal kepada pelanggan

secara real time.

Asisten virtual menggunakan bahasa alami untuk

berinteraksi dengan konsumen.

Tapi bukan hanya aktivitas baru saja yang dipengaruhi AI.

Aktivitas rutin yang telah dipraktekkan selama beberapa

dekade turut terpengaruh dan dapat ditingkatkan

kualitasnya oleh AI seperti pe-modelan rugi, analisa

kredit, penilaian, pemrosesan transaksi, dan sejumlah hal

lainnya.

Sangat penting bagi auditor internal untuk

memperhatikan penerapan praktis AI dalam bisnis, dan

mengembangkan kompetensi yang memungkinkan

profesi audit internal untuk memberikan layanan

konsultasi dan assurance atas AI yang diterapkan

organisasi di semua sektor dan di semua industri.

AI bergantung pada Big Data dan Algoritma, hal ini

mungkin dapat mengintimidasi, terutama untuk kegiatan

audit internal dan organisasi yang belum menguasai Big

Data. Namun auditor internal tidak harus menjadi

seorang Data Scientist atau analis kuantitatif untuk

memahami apa yang AI dapat lakukan untuk organisasi,

pemerintah, dan masyarakat pada umumnya.

Tulisan ini:

Menyajikan overview dasar-dasar AI.

Mengeksplorasi peran audit internal dalam

penerapan AI.

Membahasa risiko dan peluang penerapan AI.

Menyajikan kerangka kerja bagi auditor internal (the

Framework).

Tulisan ini adalah Bagian I dari tiga seri. Bagian II dan III

akan memberikan informasi lebih rinci tentang Kerangka

Kerja dan penerapan praktisnya.

AI – Hal Hal Mendasar

Big Data dan Algoritma

AI dijalankan melalui algoritma tertentu, dan algoritma

tersebut menggunakan Big Data, jadi sebelum sebuah

organisasi memulai penggunaan AI, organisasi harus

memiliki dasar yang kuat dalam Big Data. Dan sebelum

audit internal berpikir untuk menangani AI, seharusnya

mereka sudah memiliki pondasi yang kuat dalam Big

Data. Untuk panduan komprehensif dalam memahami

dan mengaudit Big Data, termasuk diskusi tentang

peluang, risiko, dan contoh program kerja, dapat melihat

GTAG IIA tentang “Memahami dan Mengaudit Big Data”,

yang tersedia gratis untuk anggota IIA, dan juga tersedia

untuk non-anggota melalui Toko Buku IIA

(www.theiia.org).

Big Data memiliki arti lebih dari sekedar data dalam

jumlah besar – Big Data mengacu pada data (informasi)

yang memiliki volume, variasi, kecepatan, dan variabilitas

tinggi yang diinvestasikan oleh organisasi dalam

arsitektur sistem, peralatan, dan praktik yang dirancang

khusus untuk menangani data. Sebagian besar data ini

dihasilkan oleh organisasi itu sendiri, sementara data lain

FOKUS AUDIT Standard IIA 1210: Proficiency (Kutipan)

Auditor internal harus memiliki pengetahuan,

keterampilan, dan kompetensi lain yang

diperlukan untuk melaksanakan tanggung jawab

individualnya. Kegiatan Audit Internal secara

kolektif harus memiliki atau memperoleh

pengetahuan, keterampilan, dan kompetensi lain

yang diperlukan untuk melaksanakan tanggung

jawabnya.

1210.A3 – Auditor internal harus memiliki

pengetahuan yang cukup mengenai risiko dan

pengendalian teknologi informasi utama dan

teknik audit berbasis teknologi untuk melakukan

pekerjaan mereka. Namun, tidak semua auditor

internal diharapkan memiliki keahlian

sebagaimana yang dimiliki auditor yang tanggung

jawab utamanya adalah audit teknologi informasi.

4

globaliia.org

mungkin tersedia untuk umum atau dibeli dari sumber

eksternal.

Untuk menggunakan Big Data dengan baik, organisasi

harus mengembangkan algoritma. Algoritma adalah

seperangkat aturan atau prosedur yang harus diikuti oleh

mesin. Algoritma inilah yang memungkinkan sebuah

mesin untuk memproses sejumlah data dengan cepat,

yang mungkin tidak mampu diproses atau dipahami

manusia dalam waktu dan dengan cara yang masuk akal.

Kinerja dan keakuratan algoritma sangat penting.

Algoritma pada awalnya dikembangkan oleh manusia,

sehingga human error dan bias (baik disengaja maupun

tidak disengaja) akan berdampak pada kinerja algoritma.

Algoritma yang salah dapat menyebabkan gangguan

minor atau menyebabkan sebuah bencana besar dalam

operasi organisasi. Secara umum diketahui bahwa

algoritma cacat, setidaknya sebagian, memicu krisis

keuangan global tahun 2008.

Jenis Jenis AI

Dalam Perbincangan "Memahami Empat Jenis AI, dari

Robot Yang Reaktif sampai menjadi Sesuatu Yang

Memiliki Kesadaran Sendiri," Arend Hintze, asisten

profesor Biologi Integratif & Ilmu Komputer dan Teknik di

Michigan State University, menguraikan empat jenis AI:

Type I. Reactive machines: Jenis ini merupakan AI

yang paling sederhana. Reactive machines

menanggapi situasi yang sama dengan cara

yang persis sama, setiap saat. Contoh dari ini

adalah mesin yang bisa mengalahkan pemain

catur kelas dunia karena telah diprogram

untuk mengenali semua bagian catur,

mengetahui bagaimana bagian catur tersebut

bergerak, dan bisa memprediksi pergerakan

berikutnya dari setiap pemain.

Type II. Limited memory: Mesin AI Limited memory

dapat melihat ke masa lalu, namun tidak

melakukan penyimpanan memory. Mesin

Limited memory tidak bisa membangun

memory atau "belajar" dari pengalaman masa

lalu. Contohnya adalah kendaraan yang

bergerak sendiri (self-driving vehicle) yang bisa

memutuskan untuk mengganti jalur karena

beberapa saat yang lalu ia mencatat adanya

hambatan di jalurnya.

Type III. Theory of mind: Theory of mind mengacu pada

gagasan bahwa sebuah mesin dapat

mengenali bahwa orang lain yang berinteraksi

dengannya memiliki pikiran, perasaan, dan

harapan. Mesin yang disematkan pada Tipe III

AI dapat memahami pikiran, perasaan, dan

harapan orang lain, dan dapat menyesuaikan

tingkah lakunya sendiri.

Type IV. Self-awareness: Sebuah mesin dengan AI Tipe

IV memilki kesadaran diri. Hal ini merupakan

pengembangan dari Theory of Mind, dimana

mesin memiliki kesadaran akan dirinya sendiri,

tahu tentang keadaan internalnya, dan dapat

memprediksi perasaan orang lain.

Dengan kata lain, kendaraan self-driving dengan AI Tipe II

akan memutuskan untuk mengubah jalur saat pejalan

kaki berada di jalurnya, karena mesin mengenali pejalan

kaki sebagai penghalang. Kendaraan self-driving dengan

AI tipe III akan mengerti bahwa pejalan kaki akan

mengharapkan dia berhenti, dan kendaraan self-driving

dengan AI tipe IV akan tahu bahwa dia harus berhenti

karena itulah yang dia inginkan seandainya dia berada

pada jalur kendaraan lain yang sedang melaju dari arah

berlawanan. Wow.

Sebagian besar "Mesin Cerdas" saat ini adalah

manifestasi AI Tipe I atau Tipe II. Inisiatif penelitian dan

pengembangan yang berkelanjutan akan memungkinkan

organisasi untuk maju menuju aplikasi praktis dari AI Tipe

III dan Tipe IV.

Peluang dan Risiko AI

Langkah awal untuk memahami peluang dan risiko bagi

organisasi dalam penerapan AI adalah memahami secara

menyeluruh peluang dan risiko Big Data bagi organisasi.

Sekali lagi, untuk panduan komprehensif dalam

memahami dan mengaudit Big Data, termasuk diskusi

tentang peluang, risiko, dan contoh program kerja, dapat

melihat GTAG IIA tentang “Memahami dan Mengaudit

Big Data”, yang tersedia gratis untuk anggota IIA, dan

juga tersedia untuk non-anggota melalui Toko Buku IIA

(www.theiia.org).

5

globaliia.org

Global Perspectives: Artificial Intelligence

Contoh dari peluang dan risiko penerapan AI adalah:

Peluang

Kemampuan untuk mempersingkat siklus

pengolahan data.

Kemampuan untuk mengurangi kesalahan dengan

mengganti tindakan tindakan yang dilakukan

manusia dengan tindakan mesin yang dilakukan

secara berulang dengan sempurna.

Kemampuan untuk mengganti aktivitas yang semula

membutuhkan waktu lama dengan aktivitas yang

lebih hemat waktu (otomatisasi proses), mengurangi

waktu dan biaya tenaga kerja.

Kemampuan untuk menempatkan robot atau drone

untuk menggantikan manusia dalam situasi yang

berpotensi bahaya.

Kemampuan untuk membuat prediksi yang lebih

baik, mulai dari memprediksi penjualan barang

tertentu di pasar tertentu hingga memprediksi

epidemi dan malapetaka alam.

Kemampuan untuk menghasilkan pendapatan dan

meningkatkan pangsa pasar melalui inisiatif

penggunaan AI.

Risiko

Risiko bahwa “bias” manusia yang tidak

teridentifikasi akan tertanam dalam teknologi AI.

Risiko kesalahan logika manusia akan tertanam

dalam teknologi AI.

Risiko bahwa pengujian dan pengawasan terhadap

AI tidak memadai, sehingga menghasilkan sesuatu

yang dapat dipertanyakan secara etika.

Risiko bahwa produk dan layanan AI akan

membahayakan, mengakibatkan kerusakan finansial

dan/atau reputasi.

Risiko bahwa pelanggan atau pemangku kepentingan

lainnya tidak akan menerima atau mengadopsi

inisiatif penggunaan AI organisasi.

Risiko bahwa organisasi akan kalah dari pesaing jika

tidak berinvestasi di AI.

Risiko bahwa investasi di AI (infrastruktur, penelitian

dan pengembangan, dan akuisisi sumber daya

manusia) tidak akan menghasilkan ROI yang

diharapkan.

Informasi lebih mendalam tentang risiko AI akan

dipaparkan di Bagian II dan III dari seri Perspektif dan

Pandangan Global ini, yang memberikan rekomendasi

pemanfaatan Kerangka (Framework) dalam memberikan

jasa assurance dan konsultasi terkait AI akan dijelaskan.

Peran Audit Internal

Audit internal mahir dalam mengevaluasi dan memahami

risiko dan peluang terkait kemampuan organisasi dalam

mencapai tujuannya. Dengan memanfaatkan

kemampuan ini, audit internal dapat membantu

organisasi dalam mengevaluasi, memahami, dan

mengkomunikasikan sejauh mana AI memberi dampak

(negatif atau positif) pada kemampuan organisasi untuk

menciptakan nilai dalam jangka pendek, menengah, atau

panjang. Audit internal dapat melakukan setidaknya lima

aktivitas penting yang terkait dengan kecerdasan buatan:

FOKUS AUDIT Standar IIA 2120: Risk Management (Kutipan)

Kegiatan audit internal harus mengevaluasi

efektifitas dan berkontribusi terhadap

peningkatan proses manajemen risiko.

2120.A1 – Kegiatan audit internal harus

mengevaluasi eksposur risiko yang berkaitan

dengan tata kelola, operasi, dan sistem informasi

organisasi mengenai:

Pencapaian tujuan organisasi.

Keandalan dan Integritas informasi keuangan

dan operasional.

Efektifitas dan Efisiensi operasi dan program.

Pengamanan asset.

Kepatuhan terhadap hukum, peraturan,

kebijakan, prosedur, dan kontrak.

6

globaliia.org

Untuk seluruh organisasi, audit internal harus

memasukkan AI dalam penilaian risikonya dan

mempertimbangkan apakah akan menyertakan AI

dalam rencana audit berbasis risikonya.

Bagi organisasi yang sedang mengeksplorasi AI, audit

internal harus dilibatkan secara aktif dalam proyek

AI sejak awal, untuk dapat memberikan saran dan

masukan yang berkontribusi terhadap keberhasilan

implementasi. Namun, untuk menghindari persepsi

atau penurunan aktual terhadap independensi dan

objektivitas, audit internal seharusnya tidak

memiliki, atau bertanggung jawab atas, pelaksanaan

proses, kebijakan, atau prosedur AI.

Untuk organisasi yang telah menerapkan beberapa

aspek AI, baik dalam operasinya (seperti pabrikan

yang menggunakan robot pada kegiatan produksi)

atau digabungkan ke dalam produk atau layanan

(seperti retailer yang menyesuaiakn penawaran

produk kepada pelanggan berdasarkan riwayat

pembelian), audit internal harus memberikan

keyakinan (assurance) terhadap pengelolaan risiko

terkait dengan keandalan algoritma dan data yang

dipergunakan.

Audit internal harus memastikan isu moral dan etika

yang mungkin ada di sekitar penggunaan AI telah

dipertimbangkan dan dinilai.

Seperti penggunaan sistem lainnya, struktur tata

kelola (governance) yang baik perlu dibentuk dan

audit internal dapat memberikan assurance

mengenai governance tersebut.

Terlepas dari aktivitas spesifik yang perlu dilakukan, audit

internal sangat sesuai untuk menjadi kontributor utama

pada kegiatan terkait dengan AI organisasi, karena Audit

Internal:

Memahami tujuan strategis organisasi dan proses

yang diimplementasikan untuk mencapai tujuan

tersebut.

Mampu mengevaluasi apakah kegiatan AI mencapai

tujuan penerapannya.

Dapat memberikan keyakinan (assurance) internal

atas aktivitas pengelolaan manajemen risiko yang

relevan dengan risiko AI.

Dianggap sebagai penasihat terpercaya yang dapat

mendukung secara positif adopsi AI untuk

memperbaiki proses bisnis atau meningkatkan

kualitas produk dan layanan.

Audit internal harus menangani AI seperti menangani

hal hal yang lainnya - dengan metode yang sistematis

dan disiplin untuk mengevaluasi dan meningkatkan

efektivitas proses manajemen, pengendalian, dan tata

kelola risiko yang berkaitan dengan AI.

Kompetensi AI: Menutup Celah Pemahaman

Profesional dalam bidang teknologi yang memiliki

keahlian di bidang AI jumlahnya tidak banyak. Organisasi

yang ingin berpartisipasi dalam revolusi AI perlu

mengembangkan atau mendapatkan sumber daya

manusia dengan kompetensi di banyak bidang seperti:

Pemrosesan Bahasa secara Natural.

Antarmuka Program Aplikasi/Application program

interfaces (APIs) seperti pengenalan wajah, analisa

gambar, and analisa teks.

Algoritma dan Pemodelan tingkat lanjut.

Teori Probabilitas dan Statistik Terapan.

Analisis Data.

Rekayasa Perangkat Lunak.

Bahasa Pemrograman.

Mesin yang mampu belajar/Machine learning.

Computer vision, dimana komputer dapat mengenali

unsur unsur dalam gambar dan video.

Robotics.

Meskipun saat ini hanya sedikit organisasi di bidang

teknologi, otomotif, manufaktur, jasa keuangan, dan

industri utilitas yang tampaknya memimpin revolusi

AI, sulit membayangkan ada organisasi yang tidak akan

terpengaruh oleh AI. Sama seperti komputer,

spreadsheet, dan pemrosesan terdistribusi yang

7

globaliia.org

Global Perspectives: Artificial Intelligence

diterapkan secara terbatas pada tahap awal, pada

akhirnya semua organisasi mengadopsi aspek

teknologi tersebut. Ketika AI pada saatnya nanti

menjadi lebih umum diterapkan, kegiatan audit

internal harus siap untuk menyediakan layanan

assurance dan konsultasi terkait AI.

Bagaimana CAE dapat meningkatkan skills auditor

internal agar siap menghadapi tantangan? Langkah

pertama adalah menyadari bahwa serangkaian

keterampilan baru memang dibutuhkan. Secara kolektif,

aktivitas audit internal harus memiliki pemahaman AI

yang memadai, bagaimana organisasi menggunakannya,

dan risiko AI bagi organisasi. CAE harus dapat

mengkomunikasikan pemahaman ini kepada manajemen

senior, dewan, dan komite audit. Tempat yang baik untuk

memulai adalah dengan membaca IIA Thought

Leadership tentang AI, dan panduan tambahan IIA

mengenai topik seperti Big Data dan Talent

Management.

Memperkuat Ketahanan Cyber

Ancaman keamanan cyber terus meningkat. Adopsi dan

evolusi AI akan memaksa organisasi untuk terus

memperkuat kembali kemampuan ketahanan cyber

mereka. Karena AI menjadi lebih powerful dan lebih

banyak keputusan diserahkan ke algoritma baru, rumit,

membingungkan, dan menggunakan kumpulan data yang

besar, maka melindungi sistem ini dari ancaman yang

berasal dari luar organisasi menjadi sangat penting dalam

mencapai kesuksesan. Laporan EY 2014 mendefinisikan

ketahanan cyber sebagai kemampuan untuk melawan,

bereaksi, dan pulih dari serangan cyber - dan

memodifikasi lingkungan untuk meningkatkan keamanan

dan keberlanjutan operasi dari waktu ke waktu.

Ketahanan Cyber sangat penting bagi organisasi

manapun yang semakin bergantung pada AI.

Di antara semua kompleksitas seputar keamanan cyber,

ada empat area utama dimana kegiatan audit internal

dapat memberikan dampak secara langsung:

Memberikan keyakinan (assurance) atas kesiapan

dan respon terhadap ancaman cyber.

Mengkomunikasian level risiko dan upaya

penangangan risiko kepada Eksekutif dan Dewan.

Berkolaborasi dengan bagian IT dan pihak lainnya

untuk meyakinkan sistem pertahanan dan respon

yang efektif telah tersedia.

Memfasilitasi komunikasi dan melakukan koordinasi

terkait risiko-risiko dengan semua pihak dalam

organisasi.

Pelanggaran terhadap keamanan Cyber AI yang

dampaknya berpotensi bencana bukanlah hal yang

terlalu dilebih lebihkan. Jika organisasi belum memiliki

ketahanan cyber yang kuat, maka CAE harus segera

berinisiatif mendorong diperkuatnya keamanan cyber

tersebut.

Kerangka Audit AI

Kerangka Audit AI terdiri dari 6 komponen, dan

semuanya ditetapkan sesuai dengan konteks strategi AI

organisasi.

Strategi

Strategi AI masing-masing organisasi akan berbeda

sesuai dengan pendekatan masing masing dalam

memanfaatkan peluang yang diberikan AI. Strategi AI

organisasi mungkin merupakan perluasan strategi data

digital atau Big Data organisasi secara keseluruhan -

organisasi dengan penerapan strategi digital/big-data

yang dikembangkan dengan baik akan berada satu

langkah di depan dalam penerapan AI. Menurut MGI,

organisasi yang "menggabungkan kemampuan digital

yang kuat, adopsi AI yang menyeluruh, dan strategi

yang proaktif memiliki kinerja keuangan yang kuat."

Audit internal harus mempertimbangkan strategi AI

organisasi terlebih dahulu. Apakah organisasi memiliki

strategi yang jelas untuk penerapan AI? Apakah

organisasi mengeluarkan investasi dalam penelitian dan

pengembangan AI? Apakah ada proses identifikasi

ancaman, peluang AI dan langkah-langkah mitigasi

risiko AI? AI dapat menjadi keunggulan kompetitif bagi

organisasi, dan audit internal harus membantu

manajemen dan dewan direksi untuk menyadari

pentingnya merumuskan strategi AI yang sesuai dengan

tujuan organisasi.

8

globaliia.org

Komponen

Tata Kelola AI

Tata kelola AI mengacu pada struktur, proses, dan

prosedur yang diterapkan untuk mengarahkan,

mengelola, dan memantau aktivitas AI organisasi dalam

mencapai tujuan organisasi. Tingkat formalitas dan

struktur tata kelola perusahaan AI akan bervariasi

berdasarkan karakteristik spesifik organisasi tersebut.

Terlepas dari pendekatan spesifik, tata kelola AI

menetapkan mekanisme pertanggungjawaban dan

pengawasan, membantu memastikan bahwa mereka

yang bertanggung jawab memiliki keterampilan dan

keahlian yang diperlukan untuk memantau AI secara

efektif, dan membantu memastikan nilai organisasi

tercermin dalam aktivitas AI-nya. Poin terakhir ini tidak

boleh diabaikan atau kurang mendapat perhatian.

Kegiatan AI harus menghasilkan keputusan dan

tindakan yang sesuai dengan tanggung jawab etis,

sosial, dan hukum organisasi.

Arsitektur dan Infrastruktur Data

Arsitektur dan infrastruktur AI kemungkinan besar

menggunakan arsitektur dan infrastruktur yang sama

dengan Big Data. Hal ini termasuk pertimbangan-

pertimbangan untuk:

Cara mengakses data (metadata, taxonomy,

identifikasi yang unik, dan konvensi penamaan).

Privasi informasi dan keamanan di seluruh siklus

pengolahan data (pengumpulan data, penggunaan,

penyimpanan, dan penghancuran).

Peran dan tanggung jawab untuk kepemilikan dan

penggunaan data sepanjang siklus pengolahan data.

Kualitas Data

Kelengkapan, keakuratan, dan reliabilitas data yang

digunakan oleh Algoritma AI sangat penting. Sayangnya,

hal yang biasanya terjadi, organisasi memiliki struktur

data yang tidak didefinisikan secara jelas dan tidak

koheren. Seringkali, sistem tidak berkomunikasi satu

sama lain atau komunikasi dilakukan melalui add-on atau

kustomisasi yang rumit. Bagaimana data disatukan,

disarikan, dan divalidasi memegang peranan sangat

penting.

Mengukur Kinerna AI

Seiring organisasi mengintegrasikan AI ke dalam aktivitas

mereka, ukuran kinerja harus didefinisikan untuk

mengaitkan aktivitas AI ke tujuan bisnis dan secara jelas

menggambarkan apakah AI secara efektif mendukung

pencapaian tujuan tersebut. Manajemen harus secara

aktif memantau kinerja kegiatan AI-nya.

Faktor Manusia

Algoritma dikembangkan oleh manusia. Kesalahan dan

bias manusia (baik disengaja maupun tidak disengaja)

akan berdampak pada kinerja algoritma. Komponen

faktor manusia diperhitungkan untuk

mempertimbangkan apakah:

Risiko bias manusia yang tidak disengaja

kemungkinan termasuk dalam desain AI telah

diidentifikasi dan dikelola.

Pengujian terhadap efektifitas AI telah dilakukan

untuk meyakinkan bahwa hasil AI sesuai dengan

tujuan awalnya.

Teknologi AI bisa transparan mengingat teknologi

tersebut bersifat rumit.

Output AI digunakan secara legal, etis, dan

bertanggung jawab.

Secara umum kesalahan manusia adalah penyebab

utama dari pelanggaran privasi dan keamanan informasi.

Demikian pula, komponen faktor manusia menjadi hal

utama untuk mengatasi risiko kesalahan manusia yang

dapat memperlemah kemampuan AI untuk memberikan

hasil yang diharapkan.

Faktor Kotak Hitam (Black Box)

Menurut kamus online Merriam-Webster, Kotak Hitam

adalah "perangkat elektronik yang biasanya rumit yang

mekanisme dasarnya tersembunyi atau misterius bagi

pengguna; secara umum: apapun yang memiliki fungsi atau

mekanisme internal yang misterius atau tidak dikenal. "

Seiring kemajuan organisasi dalam menerapkan teknologi

AI Tipe III dan Tipe IV yang memanfaatkan mesin atau

platform yang dapat belajar sendiri atau berkomunikasi

satu sama lain, mekanisme algoritma beroperasi menjadi

tidak transparan atau sulit difahami. Faktor kotak hitam

9

globaliia.org

Global Perspectives: Artificial Intelligence

akan semakin menjadi tantangan karena aktivitas AI

organisasi menjadi lebih canggih.

Kesimpulan

Profesi audit internal tidak boleh tertinggal dalam apa

yang mungkin menjadi kemajuan digital berikutnya, yaitu

Artificial Intelligence (Kecerdasan Buatan). Untuk

mempersiapkan diri, auditor internal harus memahami

dasar-dasar AI, peran yang harus dilakukan oleh audit

internal, dan risiko dan peluang AI. Untuk memenuhi

tantangan ini, auditor internal harus memanfaatkan

Kerangka ini dalam melakukan metode yang sistematis

dan disiplin untuk mengevaluasi dan meningkatkan

efektivitas proses manajemen risiko, pengendalian, dan

tata kelola organisasi yang berkaitan dengan AI.

Makalah ini adalah Bagian I dari seri tiga bagian. Bagian II

akan memberikan informasi dan rekomendasi lebih rinci

mengenai Tata Kelola AI; Arsitektur Data dan

Infrastruktur; dan komponen Kualitas Data. Bagian III

akan memberikan informasi dan rekomendasi lebih rinci

mengenai komponen Pengukuran Kinerja, Faktor

Manusia, dan komponen Black Box. Bagian II dan III akan

mencakup tujuan dan prosedur penugasan yang relevan

yang dapat digunakan oleh kegiatan audit internal untuk

menyesuaikan program audit AI agar sesuai dengan profil

risiko dan tujuan strategis organisasi mereka.

FOKUS AUDIT Standar IIA Utama Yang Relevan Untuk AI

Standar Internasional IIA untuk Praktik Profesional

Audit Internal mencakup beberapa standar yang

sangat relevan bagi AI, termasuk:

Standar IIA 1210: Kemampuan Professioal

(Proficiency)

Standar IIA 2010: Perencanaan (Planning)

Standar IIA 2030: Manajemen Sumber Daya

(Resource Management)

Standar IIA 2100: Sifat Pekerjaan (Nature of

Work)

Standar IIA 2110: Tata Kelola (Governance)

Standar IIA 2130: Pengendalian (Control)

Standar IIA 2200: Perencanaan Penugasan

(Engagement Planning)

Standar IIA 2201: Pertimbangan dalam

Perencanaan (Planning Considerations)

Standar IIA 2210: Tujuan Penugasan

(Engagement Objectives)

Standar IIA 2220: Ruang Lingkup Penugasan

(Engagement Scope)

Standar IIA 2230: Alokasi Sumber Daya untuk

Penugasan (Engagement Resource Allocation)

Standar IIA 2240: Program Kerja Penugasan

(Engagement Work Program)

Standar IIA 2310: Mengidentifikasi Informasi

(Identifying Information)

Teks lengkap untuk Standar tersedia di

www.theiia.org. Setiap standar dilengkapi dengan

Panduan Implementasi.

10

globaliia.org

globaliia.org