Ujian Tengah Semester - Magister Hukum Kesehatan MK: Digitalisasi Hukum Kesehatan
Jumat, 18 April 2025
Soal dikerjakan per-orang-an dan dikumpulkan paling lambat tanggal 28 April 2024
Jawaban dikumpulkan dengan nama file NIM-Nama-UTS.pdf dalam GDrive yang dibuat oleh Korti kelas.
Teknologi AI (artificial intelligence) atau kecerdasan buatan sudah banyak digunakan, termasuk di bidang hukum dan juga kesehatan. Berikut beberapa sumber terkait kebijakan dan aturan terkait AI yang bisa dijadikan acuan untuk mengerjakan soal UTS.
a. Q&A Policy on AI : https://ec.europa.eu/commission/presscorner/detail/en/QANDA_21_1683 b. REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL
of 13 June 2024, laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) http://data.europa.eu/eli/reg/2024/1689/oj
c. Exploring Students’ Perceptions of ChatGPT: Thematic Analysis and Follow-Up Survey, https://ieeexplore.ieee.org/document/10105236
d. Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial,
https://jdih.kominfo.go.id/produk_hukum/view/id/883/t/surat+edaran+menteri+komunikasi+dan+inf ormatika+nomor+9+tahun+2023
e. The AI Act is the first-ever legal framework on AI, which addresses the risks of AI and positions Europe to play a leading role globally,
https://digital-strategy.ec.europa.eu/en/policies/regulatory- framework-ai
f. Panduan Kode Etik Kecerdasan Buatan (Artificial Intelligence/AI) yang Bertanggung Jawab dan Terpercaya di Industri Teknologi Finansial, https://ojk.go.id/id/berita-dan-
kegiatan/publikasi/Pages/Panduan-Kode-Etik-Kecerdasan-Buatan-AI-yang-Bertanggung-Jawab-dan- Terpercaya-di-Industri-Teknologi-Finansial.aspx
g. AI GUIDANCE FOR STAFF AND STUDENTS (/BAYES/AI-GUIDANCE-FOR-STAFF-AND- STUDENTS, https://www.ed.ac.uk/bayes/ai-guidance-for-staff-and-students/ai-guidance-for-students h. University Policy on AI - https://libguides.chapman.edu/AI/policies
i. AI and Privacy Policy: https://openai.com/policies/privacy- policy/
j. UU Kesehatan No 17 Tahun 2023 - https://www.its.ac.id/burb/wp-
content/uploads/sites/106/2023/08/UU-Kesehatan-Nomor-17-Tahun-2023.pdf k. UU No 27 Tahun 2022 tentang Perlindungan Data Pribadi -
https://jdih.setkab.go.id/PUUdoc/176837/Salinan_UU_Nomor_27_Tahun_2022.pdf
l. https://www.setneg.go.id/baca/index/urgensi_undang_undang_kecerdasan_buatan_artificial_intellige nce
m. Sharing & Publication Policy: https://openai.com/policies/sharing-publication- policy/
Soal:
1) Jelaskan secara singkat 2 (dua) contoh penggunaan AI pada bidang Kesehatan yang telah diimplementasikan di Fasilitas Layanan Kesehatan di Indonesia.
2) Apakah sudah ada regulasi penggunaan AI untuk bidang Kesehatan di Indonesia? Jika sudah ada, sebutkan dan jelaskan regulasi tersebut. Jika belum ada, jelaskan resiko yang mungkin muncul.
3) Berdasarkan jawaban no 1, no 2, dan semua referensi di atas, berikan usulan aturan yang baru terkait penggunaan AI pada bidang Kesehatan, bisa dalam bentuk UU / Peraturan Pemerintah / Peraturan Faskes / SOP, dll.
4) Mengapa aturan yang ketat akan menghambat pengembangan AI, jelaskan secara singkat.
5) Jelaskan tipe resiko dari AI pada bidang Kesehatan berdasarkan regulasi EU terkait AI.
- Terima kasih dan Selamat Bekerja -
JAWABAN UTS - DIGITALISASI HUKUM KESEHATAN
MK: Digitalisasi Hukum Kesehatan Jumat, 18 April 2025
1) Jelaskan secara singkat 2 (dua) contoh
penggunaan AI pada bidang Kesehatan yang telah diimplementasikan di Fasilitas Layanan Kesehatan di Indonesia.
a. Sistem AI untuk Analisis Citra Radiologi di RSUP Nasional Dr. Cipto Mangunkusumo (RSCM)
RSUP Nasional Dr. Cipto Mangunkusumo telah mengimplementasikan sistem AI untuk membantu dokter radiologi dalam menganalisis citra medis seperti rontgen dada, CT scan, dan MRI. Sistem ini dikembangkan bekerjasama dengan perusahaan teknologi lokal dan dapat mendeteksi abnormalitas pada citra radiologi dengan tingkat akurasi yang tinggi. Sistem AI ini mampu melakukan deteksi awal untuk beberapa kondisi seperti tuberkulosis paru, tumor, dan pneumonia pada rontgen dada, serta dapat memprioritaskan kasus- kasus yang memerlukan perhatian segera.
Implementasi ini telah membantu mengurangi waktu interpretasi citra radiologi hingga 30-40%, mengingat jumlah radiolog yang terbatas di Indonesia. Namun, keputusan diagnostik akhir tetap berada di tangan dokter radiologi. Sistem ini juga telah terintegrasi dengan sistem informasi rumah sakit (SIMRS) yang ada,
sehingga memudahkan pengarsipan dan pelaporan.
b. AI untuk Telemedicine dan Triase Digital di Aplikasi Halodoc dan Alodokter
Platform kesehatan digital seperti Halodoc dan Alodokter telah mengimplementasikan AI untuk melakukan triase awal pasien dan memberikan panduan kesehatan. Sistem AI ini bekerja dengan menggunakan natural language processing (NLP) dan machine learning untuk memahami keluhan pasien yang diinputkan, kemudian memberikan rekomendasi apakah pasien perlu konsultasi dengan dokter spesialis tertentu, dokter umum, atau cukup diberikan saran kesehatan umum.
Sistem ini juga mampu membantu dokter dengan menyediakan informasi kesehatan yang relevan sesuai dengan gejala yang dilaporkan pasien, serta mengingatkan tentang kemungkinan diagnosis dan rekomendasi pengobatan berdasarkan protokol medis terkini. Beberapa rumah sakit besar di Indonesia seperti RS Pondok Indah, RS Siloam, dan lainnya telah berintegrasi dengan platform ini, sehingga pasien dapat melakukan konsultasi jarak jauh, registrasi online, dan mendapatkan panduan awal sebelum bertemu dokter secara langsung.
2) Apakah sudah ada regulasi penggunaan AI
untuk bidang Kesehatan di Indonesia? Jika sudah ada, sebutkan dan jelaskan regulasi tersebut. Jika belum ada, jelaskan resiko yang mungkin muncul.
Saat ini, Indonesia belum memiliki regulasi spesifik yang mengatur penggunaan AI untuk bidang kesehatan.
Meskipun terdapat beberapa regulasi umum yang dapat menjadi acuan seperti UU Kesehatan No. 17 Tahun
2023, UU No. 27 Tahun 2022 tentang Perlindungan Data Pribadi, dan Surat Edaran Menteri Komunikasi dan
Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial, namun belum ada kerangka regulasi
yang komprehensif khusus untuk implementasi AI di bidang kesehatan.
Risiko yang mungkin muncul akibat ketiadaan regulasi spesifik tersebut:
Risiko keamanan dan privasi data pasien:
1.
Tanpa regulasi khusus, pengumpulan, penyimpanan, dan pemrosesan data kesehatan yang bersifat sensitif melalui sistem AI tidak memiliki standar keamanan yang jelas2.
Potensi kebocoran data kesehatan yang dapat mengakibatkan diskriminasi, penipuan identitas, atau penyalahgunaan informasi medis pasien3.
Ketidakjelasan pertanggungjawaban jika terjadi pelanggaran dataRisiko akurasi dan keandalan sistem AI:
1.
Tidak adanya standar validasi dan sertifikasi untuk sistem AI kesehatan dapat mengakibatkan penggunaan teknologi yang belum teruji dengan baik2.
Bias algoritma yang dapat mempengaruhi rekomendasi diagnosis atau pengobatan untuk kelompok demografis tertentu3.
Ketidakjelasan mekanisme pengawasan dan evaluasi terhadap performa sistem AIRisiko pertanggungjawaban hukum:
1.
Ketidakjelasan pertanggungjawaban ketika terjadi kesalahan medis akibat rekomendasi sistem AI2.
Potensi konflik antara rekomendasi AI dengan penilaian klinis tenaga kesehatan3.
Ketiadaan mekanisme kompensasi untuk pasien yang dirugikan akibat keputusan berbasis AIRisiko aksesibilitas dan keadilan:
1.
Tanpa regulasi, implementasi AI di fasilitas kesehatan dapat menciptakan kesenjangan digital antara daerah urban dan rural2.
Potensi diskriminasi terhadap pasien yang tidak memiliki akses atau kemampuan untuk menggunakan teknologi digital3.
Ketidakmerataan distribusi manfaat teknologi AIRisiko ketergantungan pada teknologi asing:
1.
Mayoritas teknologi AI kesehatan masih dikembangkan oleh perusahaan asing dengan data populasi non-Indonesia2.
Tanpa regulasi yang mendorong pengembangan lokal, dapat terjadi ketergantungan pada teknologi asing yang mungkin tidak sesuai dengan konteks kesehatan Indonesia3.
Risiko keamanan nasional terkait ketergantungan pada infrastruktur teknologi asing untuk sistem kesehatan3) Berdasarkan jawaban no 1, no 2, dan semua
referensi di atas, berikan usulan aturan yang baru terkait penggunaan AI pada bidang Kesehatan, bisa dalam bentuk UU / Peraturan Pemerintah / Peraturan Faskes / SOP, dll.
Usulan: Peraturan Pemerintah tentang Implementasi Kecerdasan Buatan dalam Sistem Pelayanan Kesehatan
Berdasarkan identifikasi risiko dan melihat regulasi internasional seperti EU AI Act, berikut usulan kerangka
regulasi untuk penggunaan AI di bidang kesehatan Indonesia:
I. Ketentuan Umum
Definisi dan Kategorisasi:
1.
Definisi jelas tentang AI di bidang kesehatan, termasuk sistem diagnostik, prediktif, administratif, dan pendukung keputusan klinis2.
Kategorisasi sistem AI berdasarkan level risiko (rendah, menengah, tinggi, tidak dapat diterima) sesuai dengan dampak potensial terhadap keselamatan pasienRuang Lingkup Penerapan:
1.
Ketentuan tentang jenis fasilitas kesehatan yang dapat mengimplementasikan AI (berdasarkan level dan kapasitas)2.
Batasan jelas tentang fungsi yang dapat dan tidak dapat didelegasikan ke sistem AIII. Standar Pengembangan dan Validasi
Standar Data Training:
1.
Kewajiban penggunaan data training yang representatif terhadap populasi Indonesia2.
Protokol validasi silang untuk memastikan sistem bekerja dengan baik pada berbagai kelompok demografisValidasi Klinis:
1.
Kewajiban uji klinis untuk sistem AI risiko tinggi2.
Standar validasi performa minimal (sensitivitas, spesifisitas, akurasi) berdasarkan kategori risiko3.
Kewajiban registrasi dan sertifikasi oleh Kementerian Kesehatan untuk sistem AI kritisTransparansi Algoritma:
1.
Kewajiban dokumentasi tentang cara kerja algoritma (tanpa perlu mengungkapkan kekayaan intelektual)2.
Kewajiban penjelasan tentang faktor-faktor yang mempengaruhi keputusan AIIII. Standar Implementasi di Fasilitas Kesehatan
Standar Operasional Prosedur (SOP):
1.
Kewajiban faskes untuk memiliki SOP khusus implementasi AI2.
Kewajiban dokumentasi intervensi manusia dan pengambilan keputusan akhirPelatihan Tenaga Kesehatan:
1.
Kewajiban pelatihan tenaga kesehatan dalam menggunakan dan menginterpretasikan output sistem AI2.
Integrasi literasi AI dalam kurikulum pendidikan tenaga kesehatanEvaluasi Berkala:
1.
Kewajiban evaluasi berkala terhadap performa sistem AI dalam setting klinis nyata2.
Mekanisme pencabutan izin untuk sistem yang tidak memenuhi standarIV. Perlindungan Data dan Privasi Pasien Standar Keamanan Data:
1.
Kewajiban enkripsi data pasien2.
Protokol akses berjenjang sesuai dengan kebutuhan dan otoritasPersetujuan Pasien:
1.
Format persetujuan khusus (informed consent) untuk penggunaan AI dalam diagnosis dan pengobatan2.
Hak pasien untuk menolak intervensi berbasis AIPengelolaan Data:
1.
Protokol penyimpanan, penggunaan, dan penghapusan data pasien2.
Limitasi penggunaan data untuk pengembangan lebih lanjutV. Pertanggungjawaban Hukum
Distribusi Tanggung Jawab:
1.
Kejelasan pembagian tanggung jawab antara produsen AI, fasilitas kesehatan, dan tenaga kesehatan2.
Mekanisme kompensasi untuk kerugian akibat kesalahan sistem AIAsuransi Khusus:
1.
Kewajiban asuransi khusus untuk pengembang dan pengguna sistem AI risiko tinggiPelaporan Insiden:
1.
Sistem pelaporan wajib untuk insiden dan near-miss terkait AI2.
Mekanisme investigasi dan pembelajaranVI. Pengawasan dan Penegaka
Badan Pengawas:
1.
Pembentukan tim khusus di Kementerian Kesehatan untuk evaluasi dan pengawasan implementasi AI2.
Kolaborasi dengan BPOM untuk aspek keamanan sistem AI yang bersifat perangkat medisSanksi:
1.
Penentuan sanksi administratif dan pidana untuk pelanggaran regulasi2.
Mekanisme remediasi dan perbaikanVII. Insentif Pengembangan Lokal
Pendanaan Penelitian:
1.
Skema pendanaan untuk pengembangan AI kesehatan lokal2.
Insentif fiskal untuk startup AI kesehatanKolaborasi Internasional:
1.
Kerangka kerja untuk transfer teknologi dan pengetahuan2.
Perlindungan inovasi lokal4) Mengapa aturan yang ketat akan menghambat
pengembangan AI, jelaskan secara singkat.
Aturan yang terlalu ketat dapat menghambat pengembangan AI dalam bidang kesehatan karena beberapa alasan berikut
Menghambat Inovasi dan Eksperimen:
1.
Regulasi yang sangat preskriptif dapat membatasi ruang untuk eksperimen dan inovasi2.
Pengembang AI perlu kebebasan tertentu untuk mencoba pendekatan baru yang mungkin tidak terakomodasi dalam regulasi rigidBiaya Kepatuhan yang Tinggi:
1.
Persyaratan dokumentasi, pengujian, dan sertifikasi yang ekstensif memerlukan investasi besar2.
Startup dan perusahaan kecil mungkin tidak mampu memenuhi standar regulasi yang sangat ketat,menciptakan barrier to entry
Keterlambatan Time-to-Market:
1.
Proses persetujuan dan sertifikasi yang panjang dapat memperlambat akses pasien ke teknologi AI yang berpotensi menyelamatkan nyawa2.
Teknologi mungkin sudah usang ketika akhirnya mendapatkan persetujuanKetidaksesuaian dengan Sifat Iteratif AI:
1.
AI kesehatan perlu terus belajar dan beradaptasi dari data baru (continuous learning)2.
Regulasi yang mengharuskan persetujuan ulang untuk setiap perubahan algoritma dapat menghambat peningkatan performaKetidakmampuan Mengakomodasi Kemajuan Teknologi:
1.
Perkembangan teknologi AI sangat cepat, sementara proses pembuatan regulasi relatif lambat2.
Regulasi yang terlalu spesifik pada teknologi tertentu dapat dengan cepat menjadi tidak relevanHambatan Akses Data:
1.
Pembatasan yang terlalu ketat pada penggunaan data pasien dapat menghambat pembangunan model AI yang akurat2.
Kebutuhan persetujuan eksplisit untuk setiap penggunaan data dapat membatasi dataset yang tersediaResiko Regulatory Arbitrage:
1.
Pengembang AI mungkin memilih yurisdiksi dengan regulasi lebih longgar, menyebabkan "brain drain"2.
Pasien Indonesia mungkin kehilangan akses ke teknologi terbaruPenekanan Berlebih pada Risiko vs. Manfaat:
1.
Regulasi yang terlalu fokus pada mitigasi risiko tanpa mempertimbangkan potensi manfaat dapat mencegah adopsi teknologi yang secara keseluruhan menguntungkan2.
Pendekatan "zero-risk" tidak realistis dan dapat mengorbankan kesempatan untuk meningkatkan kualitas pelayanan kesehatanOleh karena itu, regulasi yang ideal perlu mencari keseimbangan: cukup ketat untuk melindungi keamanan dan hak pasien, namun cukup fleksibel untuk memungkinkan inovasi dan perkembangan teknologi yang bermanfaat.
5) Jelaskan tipe resiko dari AI pada bidang
Kesehatan berdasarkan regulasi EU terkait AI.
Berdasarkan EU AI Act (Regulation 2024/1689), tipe risiko dari AI pada bidang kesehatan dapat dikategorikan sesuai dengan pendekatan berbasis risiko (risk-based approach) sebagai berikut:
1. Risiko Tidak Dapat Diterima (Unacceptable Risk)
Kategori ini mencakup aplikasi AI yang dianggap bertentangan dengan nilai-nilai Uni Eropa dan dilarang sepenuhnya:
Sistem AI yang menggunakan teknik subliminal atau manipulatif yang dapat menyebabkan kerugian fisik atau psikologis serius pada pasien
Sistem AI yang mengeksploitasi kerentanan kelompok tertentu (seperti pasien lansia atau penyandang disabilitas) berdasarkan usia, disabilitas, atau kondisi sosial ekonomi
Sistem AI untuk penilaian risiko kesehatan yang menargetkan individu atau kelompok berdasarkan perilaku sosial, karakteristik pribadi, atau prediksi yang dapat menyebabkan diskriminasi
2. Risiko Tinggi (High-Risk)
Kategori ini mencakup aplikasi AI yang memiliki potensi dampak signifikan terhadap kesehatan dan keselamatan individu. Untuk bidang kesehatan, ini mencakup:
Sistem AI yang digunakan sebagai perangkat medis dalam kategori risiko tinggi (seperti sistem diagnostik otomatis untuk penyakit kritis)
Sistem AI untuk triase darurat dan penentuan prioritas penanganan pasien
Sistem AI untuk interpretasi hasil pemeriksaan radiologi, patologi, atau diagnostik lainnya
Sistem AI untuk perencanaan bedah atau prosedur invasif
Sistem AI untuk penentuan dosis obat atau terapi
Sistem AI untuk prediksi risiko komplikasi atau kekambuhan penyakit
Sistem AI untuk manajemen pasien kritis atau penentuan keputusan life-support
Sistem dalam kategori ini harus memenuhi persyaratan ketat sebelum dapat digunakan:
Penilaian kesesuaian sebelum penempatan di pasar
Sistem manajemen risiko yang komprehensif
Dokumentasi teknis yang terperinci
Logging otomatis untuk traceability
Transparansi tinggi dan penyediaan informasi kepada pengguna
Pengawasan manusia yang efektif
Akurasi, ketahanan, dan keamanan yang tinggi
3. Risiko Terbatas (Limited Risk)
Kategori ini mencakup aplikasi AI dengan risiko lebih rendah namun masih memerlukan transparansi:
Chatbot kesehatan yang memberikan informasi umum tentang gejala
Aplikasi wellness yang memberikan rekomendasi gaya hidup tanpa klaim diagnostik
Sistem AI untuk manajemen jadwal atau administrasi rumah sakit
Sistem AI untuk analisis tren kesehatan populasi
Sistem dalam kategori ini memerlukan:
Transparansi yang memadai
Pengungkapan bahwa pengguna berinteraksi dengan sistem AI
Penjelasan tentang keterbatasan sistem
4. Risiko Minimal (Minimal Risk)
Kategori ini mencakup sebagian besar aplikasi AI lainnya yang dianggap memiliki risiko minimal:
Sistem AI untuk analisis literatur medis
Sistem AI untuk pelatihan tenaga kesehatan
Aplikasi kesehatan sederhana yang tidak membuat klaim diagnostik
Sistem AI untuk mengoptimalkan proses administratif di fasilitas kesehatan
Sistem dalam kategori ini dapat dikembangkan dan digunakan tanpa kewajiban tambahan, meskipun pengembang didorong untuk mengadopsi kode etik sukarela.
Risiko Spesifik untuk Sektor Kesehatan
Selain kategorisasi umum di atas, EU AI Act juga mengidentifikasi risiko spesifik untuk sektor kesehatan:
Risiko terhadap Keselamatan Pasien:
o Kesalahan diagnosis yang menyebabkan penundaan pengobatan yang diperlukan o Rekomendasi terapi yang tidak tepat yang dapat menyebabkan bahaya
o Kegagalan mengidentifikasi kondisi darurat
Risiko terhadap Privasi dan Perlindungan Data:
o Pemrosesan data kesehatan yang sensitif tanpa perlindungan yang memadai o Potensi re-identifikasi pasien dari data yang dianonimkan
o Penggunaan data kesehatan di luar tujuan yang dimaksudkan
Risiko Bias dan Diskriminasi:
o Model AI yang menunjukkan bias terhadap kelompok demografis tertentu o Disparitas dalam akurasi diagnosis atau rekomendasi pengobatan
o Penguatan ketidaksetaraan kesehatan yang ada
Risiko Otonomi dan Pengambilan Keputusan:
o Pengurangan otonomi profesional tenaga kesehatan o Ketergantungan berlebihan pada sistem AI
o Ambiguitas dalam rantai tanggung jawab untuk keputusan berbasis AI
Risiko Keamanan Siber:
o Kerentanan terhadap serangan siber yang dapat mengubah output AI o Risiko manipulasi data yang mempengaruhi keputusan klinis o Gangguan pada sistem kesehatan kritikal
Pendekatan berbasis risiko ini memungkinkan regulasi yang proporsional: kontrol ketat untuk aplikasi berisiko tinggi, sementara tetap memungkinkan inovasi untuk aplikasi berisiko lebih rendah. Hal ini sangat relevan untuk bidang kesehatan di mana potensi manfaat AI sangat besar, namun risiko terhadap
keselamatan pasien juga signifikan.
