PENGGUNAAN ARTIFICIAL INTELLIGENCE DAN PERLINDUNGAN …

PENGGUNAAN ARTIFICIAL INTELLIGENCE DAN PERLINDUNGAN

DATA USERS

Dr. Sinta Dewi Rosadi, SH., LL.M

Disampaikan dalam Webinar Series, UNPAR+

Kamis 1 Oktober, 2020

Copy Right. Sinta Dewi, 2019


PENDAHULUAN

BENEFITS

• AI merupakan mesin cerdas yang bekerja dan

bereaksi seperti manusia. AI telah menjadi

bagian penting dari industri teknologi.

• Kecerdasan buatan dapat membantu mengatasi

coronavirus - jika diterapkan dengan cara yang

kreatif.

• Pengembangan dan kemampuan AI telah terlihat

dari munculnya mobil tanpa pengemudi, asisten

virtual, hingga chatbot yang dapat mempelajari

kebiasaan manusia.

• Pada awalnya teknologi AI lebih banyak

digunakan di sektor industri teknologi informasi.

Google, Facebook, Alibaba, dan Amazon tercatat

sebagai pengguna terbesar teknologi AI.


• Pola yang ditemukan adalah

perilaku online dengan

mengungkapkan kondisi

kesehatan, afiliasi, agama,

kepercayaan politik, ras, etnis,

jenis kelamin dan orientasi

seksual, bahkan jika orang tidak

pernah mengungkapkan informasi

ini kepada siapa pun yang online.


KONSULTASI KESEHATAN

• Dengan adanya layanan Chatbot untuk penyebaran informasi edukatif

mengenai pencegahan COVID-19, masyarakat dapat berkonsultasi

secara online dan interaktif tentang bagaimana ciri, penyebab dan

penanganan dalam menghadapi COVID-19 ketika melakukan suatu

perjalanan. Salah satu Perusahaan yang telah menerapkan teknologi ini

adalah Tencent yang menyediakan fasilitas konsultasi kesehatan gratis

secara online via WeChat.


MENGANALISA DATA DANMEMPERKIRAKAN PERSEBARAN WABAH

COVID 19

• Menganalisis laporan berita, sentiment masyarakat di media

sosial, dan juga dokumen yang dirilis pemerintah tentang

persebaran COVID-19.

• AI dapat mendeteksi wabah dan memperkirakan resiko

puncak dari penyakit menular.


COMPUTER VISION UNTUKMENDETEKSI PENDERITA COVID 19 DARI X-RAY IMAGE

• COVID-19 dapat diidentifikasi dengan melakukan pemotretan x-ray untukmelihat jejak penyebaran virus yang berada di paru-paru penderitanya.

• Dengan makin terbukanya informasi dataset yang berkaitan dengan COVID-19,maka hal ini juga akan membantu pihak Para Medis mengidentifikasiseseorang.

• Apakah terinfeksi atau tidak, dan seberapa parah melalui penginderaan digitalyang dapat dilakukan dengan Deep Learning yang memanfaatkan TensorFlow.


MENDETEKSI ORANG YANG TERINFEKSI• Pengujian coronavirus drive-through, di mana

seseorang mengendarai mobilnya di dalam

laboratorium pengujian, mengumpulkan sampelnya

sambil duduk di dalam kendaraan, dan

mendapatkan hasil pengujian dalam beberapa

menit.

• Jika ditemukan terinfeksi, mereka segera diisolasi

dan dibawa ke fasilitas perawatan khusus. Banyak

lab drive-through seperti itu sedang operasional,

dijalankan dengan fasilitas 5G yang disediakan oleh

operator seluler.


TANTANGAN

Produk yang digerakkan oleh AI melalui Autonomous

System sering dilengkapi dengan sensor yang

menghasilkan dan mengumpulkan sejumlah besar data

tanpa sepengetahuan atau persetujuan dari mereka

yang berada di dekatnya. (Privasi Internasional)


UN GLOBAL PULSE AND IAPP, 2018

Pengumpulan data dengan skala besar dapat

mengekspos karakteristik dan perilaku seorang

individu, sehingga menyebabkan hal-hal berikut:

1) Sampel data yang tidak akurat

2) Kurangnya transparansi

3) Mengurangi hak individu

Inaccuracy,

Discrimination,

Transparancy

Reidentification/

De-

anonymisation

Data

Exploitation

Profiling

PERMASALAHAN



Approach

RegulationEthical


STANDAR UMUM INSTRUMEN PRIVASI

FIPPS/ Fair Information

Practices Principles

GDPR

APEC Privacy

Framework


1. Pembatasan pengumpulan

2. Spesifikasi Tujuan

3. Pembatasan Pemakaian

4. Transparansi dan Persetujuan

5. Akuntabitiltas dan Governance

PRINSIP PRIVASI


INISIATIF INDUSTRI

- Global Initiative on Ethics of Autonomous and Intelligent

System dalam mengembangkan standar teknis yang

menanamkan etika pada sistem AI

- The Partnership on Artificial Intelligence to Benefit People and

Society, yang didirikan oleh Microsoft, Google, Amazon,

Facebook, dan IBM untuk ‘mempelajari and merumuskan

praktik terbaik dalam penggunaan sistem AI, meningkatkan

pembahaman public terhadap AI, dan berperan sebagai

platform yang terbuka untuk diskusi dan keterlibatan tentang

AI and pengaruhnya terhadap masyarakat’.

- Self-Regulation


INISIATIF INERNASIONAL

Pedoman pada Data Privasi, Perlindungan

Data, Etika Data dalam UNDG

1) Pengumpulan oleh sektor swasta sebagai

peluang usaha

2) Pembagian terhadap negara anggota

UNDG untuk memperkuat program demi

menunjang agenda 2030


VISI

1. Menetapkan prinsip umum pada UNDG untuk mendukung

penggunaan operasional pada big data demi mencapai

tujuan Sustainable Development Goals (SDGs);

2. Berfungsi sebagai alat manajemen resiko dengan

memperhatikan hak asasi manusia yang fundamental;

3. Menetapkan prinsip dalam memperoleh, penyimpanan,

penggunaan and pengendalian mutu untuk data dari sektor

swasta.


1. Penggunaan yang tidak melawan hukum, sah, dan adil

2. Spesifikasi Tujuan, Batasan Penggunaan dan KompabilitasTujuan

3. Mitigasi Risiko dan Penilaian Risiko, Bahaya dan Manfaat

4. Data Sensitif dan Konteks Sensitif

5. Keamanan Data

6. Penyimpanan Data and Data Minimization

7. Kualitas Data

8. Data Terbuka, Transparansi and Akuntabilitas

9. Due Dilligence untuk pihak ketiga


MODEL PDPC AI

Internal Governance

Decicion Making Models

Operations Managements

Customer Relationship Managements


• Menyesuaikan struktur tata kelola internal yang ada dan menyiapkan

langkah-langkah untuk memasukkan nilai, risiko, dan tanggung

jawab yang berkaitan dengan pengambilan keputusan secara

algoritmik

• Sebuah metode untuk membantu organisasi dalam menetapkan

tingkat risiko yang siap diterima saat menggunakan AI dan

mengidentifikasi model pengambilan keputusan yang tepat untuk

pengimplementasian AI

• Permasalahan yang harus dipertimbangkan saat mengembangkan,

memilih dan memelihara model AI, termasuk manajemen data

• Strategi untuk berkomunikasi dengan konsumen dan pelanggan,

serta menjaga hubungan dengan mereka


Pengambilan

Keputusan

Transparan

Adil

Dapat

Dijelaskan


Solutions Humancentrics


PENGGUNAAN AI DI INDONESIA

- Di Indonesia, AI masih belum sekompleks China.

- Namun, aplikasi dari teknologi ini telah dirasakan dalam bentuk

yang lebih sederhana;

- Salah satunya yaitu melalui teknologi chatbot yang mungkin

sering ditemukan dalam aplikasi pesan singkat, seperti Line,

Telegram atau Whatsapp.


INDUSTRI YANG TELAH MENGGUNAKAN AI

• Telkom (Pelayanan Pelanggan),

• Kesehatan,

• E-Commerce,

• Fast Moving Consumer Goods (FMCG).

TANTANGAN

• Pemahaman atas kepemimpinan dan komitmen

yang masih rendah (hanya 24,4% perusahaan di

Indonesia yang menerapkan sistem AI)

• Sumber daya manusia

• Budaya Perusahaan


PENGATURAN DATA PRIVASI DI INDONESIA

Undang-Undang Informasi dan Transaksi

Elektronik

Peraturan Pemerintah

Peraturan Menteri


PENGATURAN DATA PRIVASI


Data Privasi dilindungi berdasarkan:

• Persetujuan

• Spesifikasi Tujuan

• Pemberitahuan Pelanggaran

• Prinsip Akuntabilitas


ETIKA

1. Batas Waktu. Penggunaan data pribadi harus dibatasi selama masa

krisis ini dan kemudian dihapus.

2. Pembatasan Penggunaan. Penggunaan data pribadi harus dibatasi

pada penggunaan khusus seperti pelacakan kontak atau pelaksanaan

karantina.

3. Keadilan dan Inklusivitas. Sistem AI harus memperlakukan setiap

warga negara secara adil tanpa memandang jenis kelamin, etnis, dan

lainnya. Hal ini mengharuskan pemerintah untuk berhati-hati terhadap

data yang terintegrasi dengan algoritmenya. Semua data warga negara

perlu dimasukkan, terutama kelompok minoritas yang mungkin

terkena dampak Covid-19 secara tidak proporsional


4. Transparansi. Penggunaan data yang dipakai harus dikomunikasikan ke

warga akan spesifikasi tujuanya untuk membangun kepercayaan.

Agoritma pengambilan keputusan oleh AI hanya boleh dipakai setelah

dijelaskan rasionalitas dari sistem tersebut.

5. Akuntabilitas. Penggunaan data pribadi dan AI semestinya harus dapat

dipertanggungjawabkan dan dapat digunakan oleh instansi pemerintah.

6. Pengawasan. Harus terdapatnya pengawasan oleh parlemen dan badan

independen untuk memastikan tanggung jawab atas implementasi AI.


THE AMERICAN MEDICAL ASSOCIATION (AMA)/MEI2020

1. Individuals have the right to know exactly what data of theirs an entity is accessing, using, disclosing, and processing—and for what purpose—at or before the point of collection.

2. Individuals have the right to control how entities access, use, process, and disclose their data, including secondary (and beyond) uses

3. Individuals should be notified within a reasonable period of time following a material change in the entity’s data access, use, disclosure, and processing practices.

4. Individuals have a right to direct entities to not sell or otherwise share data about them

5. All entities that maintain an individual’s health information should have an obligation or “duty of loyalty” to the individual, including the duty to maintain the confidentiality of that information.

THANK YOU!

PENGGUNAAN ARTIFICIAL INTELLIGENCE DAN PERLINDUNGAN …

Documents

Transcript of PENGGUNAAN ARTIFICIAL INTELLIGENCE DAN PERLINDUNGAN …