SIAPA YANG BERTANGGUNG JAWAB KALAU AI SALAH? Kekosongan Regulasi AI Medis dan Politik Akuntabilitas Kesehatan di Indonesia

Asrul Putra Nanda, SKM

Mahasiswa Magister Kesehatan Masyarakat, Peminatan Promosi Kesehatan

 

Bayangkan seorang pasien di sebuah kabupaten yang kekurangan dokter spesialis. Sebuah sistem berbasis kecerdasan buatan (AI) menganalisis gejalanya dan merekomendasikan diagnosis tertentu. Dokter yang bertugas, dengan beban pasien yang menumpuk, mengikuti rekomendasi itu. Belakangan diketahui diagnosisnya keliru dan pasien terlambat mendapat penanganan yang tepat. Siapa yang harus bertanggung jawab? Dokter yang menandatangani rekam medis, rumah sakit yang mengadopsi sistem tersebut, perusahaan pengembang aplikasi, atau pemerintah yang mendorong pemanfaatan teknologi ini tanpa pedoman yang jelas?

Pertanyaan ini bukan andai-andai. Justru pertanyaan inilah yang, dengan redaksi yang nyaris sama, dilontarkan sendiri oleh Wakil Menteri Kesehatan Prof. Dante Saksono Harbuwono saat membuka Konferensi Nasional “Menuju Masa Depan Ekosistem Kecerdasan Buatan Kesehatan yang Aman, Adil, dan Bertanggung Jawab” di Jakarta, 8 Juni 2026. Di hadapan para pemangku kepentingan kesehatan digital, ia menegaskan bahwa penerapan AI di bidang kesehatan bukan sekadar soal kecanggihan teknologi, melainkan menyangkut hidup dan nyawa manusia, sehingga menuntut tata kelola yang kuat dan aturan yang adaptif. Ia bertanya lugas kepada forum, “siapa yang bertanggung jawab jika rekomendasinya salah?” Pertanyaan itu hingga kini belum punya jawaban yang tegas dalam bentuk regulasi. Melalui penulisan ini menemukan bahwa pembebanan tanggung jawab klinis tunggal kepada dokter, di tengah minimnya audit algoritme dan mitigasi bias data, merupakan bentuk distribusi risiko yang asimetris (asymmetric risk distribution). Kondisi ini berpotensi memperdalam ketimpangan sosiomedis, terutama di wilayah perifer (DTPK). Artikel ini merekomendasikan pembentukan National Health AI Governance Framework serta pergeseran peran promosi kesehatan menuju advokasi kebijakan berbasis keadilan digital (digital health justice).

 Wacana Melaju, Regulasi Tertinggal

Ironisnya, sementara pertanyaan mendasar soal akuntabilitas ini masih menggantung, dorongan untuk memperluas pemanfaatan AI justru terus bergulir di ranah politik dan kebijakan. Hanya beberapa pekan setelah forum tersebut, dalam rapat kerja Komisi IX DPR RI pada 25 Juni 2026, Wakil Ketua Komisi IX Nihayatul Wafiroh mengusulkan agar Kementerian Kesehatan memanfaatkan AI untuk membantu analisis penyakit di daerah-daerah yang kekurangan tenaga medis. Menteri Kesehatan Budi Gunadi Sadikin menanggapi dengan menegaskan bahwa AI tidak bisa menggantikan peran dokter karena pasien tetap perlu diperiksa dan disentuh secara langsung, dan bahwa prioritas utama pemerintah tetaplah menambah jumlah dokter serta meratakan distribusinya, bukan menjadikan AI sebagai jalan pintas.

Perdebatan ini memperlihatkan sebuah ironi: teknologi yang justru diusulkan untuk menambal kekurangan dokter di wilayah terpencil adalah teknologi yang paling rawan dipakai tanpa pengawasan memadai, sebab di wilayah itu pulalah kapasitas untuk mengoreksi kesalahan AI, baik secara medis maupun hukum, umumnya paling lemah.

Wacana transformasi kesehatan digital di Indonesia mencapai titik krusial pada pertengahan tahun 2026. Di satu sisi, pemerintah dan lembaga legislatif secara agresif mendorong pemanfaatan Kecerdasan Buatan (Artificial Intelligence/AI) sebagai instrumen akseleratif untuk menambal lubang menganga akibat krisis dan ketimpangan distribusi tenaga medis di Daerah Terpencil, Perbatasan, dan Kepulauan (DTPK). Di sisi lain, lompatan teknologi ini tidak diiringi oleh kesiapan instrumen hukum dan etika yang adekuat.

 Pedoman Etik yang Belum Ada

Hanya berselang beberapa hari dari perdebatan di DPR itu, pengurus Ikatan Ahli Kesehatan Masyarakat Indonesia (IAKMI) dr. Iqbal Mochtar mengungkapkan kepada Kompas.com pada 29 Juni 2026 bahwa Indonesia sesungguhnya belum memiliki pedoman etik nasional yang komprehensif untuk mengatur pemanfaatan AI dalam membantu diagnosis maupun pengambilan keputusan klinis. Menurutnya, pemanfaatan AI di sektor kesehatan Indonesia memang baru berkembang belakangan ini, sehingga kerangka etik yang tersedia saat ini, dalam istilahnya, “masih berupa kerangka umum”, belum berupa aturan spesifik yang menjawab persoalan teknis semacam siapa yang menanggung akibat ketika algoritme keliru.

Memang ada satu pijakan yang sudah cukup jelas. Konsil Kesehatan Indonesia menegaskan bahwa tanggung jawab klinis tetap berada di tangan dokter, apa pun rekomendasi yang diberikan sistem AI. Namun ketentuan ini sesungguhnya baru menjawab separuh persoalan. Ia menegaskan siapa yang harus digugat di ruang praktik, tetapi belum menjawab pertanyaan yang lebih besar, siapa yang mengaudit keandalan algoritme sebelum dipakai di fasilitas kesehatan, siapa yang bertanggung jawab bila data latih yang dipakai bias terhadap populasi tertentu, bagaimana mekanisme pelaporan dan kompensasi bagi pasien yang dirugikan, dan sejauh mana pengembang teknologi ikut menanggung risiko yang mereka ciptakan.

Dalam tata kelola AI di sektor kesehatan Indonesia masih berada dalam status fragmented governance. Kerangka regulasi hukum positif yang ada, seperti UU ITE, UU Pelindungan Data Pribadi (PDP), hingga UU Kesehatan No. 17 Tahun 2023 belum menyediakan pasal spesifik yang mengatur medical AI liability (tanggung jawab hukum AI medis).

Dilema Struktur Akuntabilitas AI Medis
Pengembang Teknologi		Menyediakan algoritme dan data latih (aman dari gugatan malpraktek klinis)
Sistem AI Medis		Memberikan rekomendasi diagnosis/terapi (Balck box : proses penalaran tidak transparan)
Dokter/Faskes		Menandatangani rekam medis dan mengeksekusi (Menanggung 100% Risiko hukum beban kerja)
Pasien di DPTK		Menerima dampak jika terjadi “Machine error” (Kelompok rentan, literasi dan akses hukum lemah)

 

Mengapa Kekosongan Ini Adalah Persoalan Politik, Bukan Sekadar Teknis

Ketika teknologi AI didorong masuk ke fasilitas kesehatan tanpa regulasi akuntabilitas pengembang yang setara, terjadi apa yang disebut dalam sosiologi politik sebagai "Eksternalisasi Risiko" (Beck, 1992). Korporasi teknologi memanen keuntungan finansial dari penjualan sistem dan penyerapan data, sementara seluruh risiko legalitas, etika, dan keselamatan jiwa pasien ditimpakan (shifted) seutuhnya kepada dokter di ruang praktik dan rumah sakit.  Penempatan AI sebagai "jalan pintas" untuk mengatasi kelangkaan dokter di daerah pelosok adalah refleksi dari pilihan politik kesehatan yang diskriminatif. Masyarakat di DTPK secara struktural berada dalam posisi paling lemah: mereka memiliki keterbatasan literasi digital, keterbatasan jangkauan lembaga bantuan hukum, serta keterbatasan akses fisik menuju fasilitas rujukan jika terjadi malapraktik akibat kesalahan algoritme.

Di sinilah kekosongan regulasi ini perlu dibaca bukan sebagai keterlambatan administratif belaka, melainkan sebagai persoalan politik kesehatan yang sesungguhnya. Sebagaimana pernah ditegaskan dalam kajian tentang politik kesehatan, kesehatan adalah persoalan politik karena kekuasaan dijalankan sebagai bagian dari sistem ekonomi, sosial, dan politik yang lebih luas, dan menyangkut siapa yang menanggung beban ketika sistem itu gagal melindungi warganya. Ketika aturan main hanya membebankan tanggung jawab akhir pada dokter yang berhadapan langsung dengan pasien, sementara pengembang teknologi dan pengambil kebijakan yang mendorong adopsinya nyaris tanpa kewajiban hukum yang setara, di situlah tampak bagaimana risiko didistribusikan secara tidak seimbang, persis pola yang oleh para pemikir politik kesehatan disebut sebagai inti dari ketidaksetaraan: bukan soal siapa yang paling bersalah secara teknis, melainkan siapa yang paling berdaya menghindar dari konsekuensi.

Pola ini menjadi lebih tajam ketika dikaitkan dengan usulan menempatkan AI justru di wilayah-wilayah yang paling kekurangan dokter. Kelompok masyarakat yang paling mungkin bergantung pada rekomendasi AI tanpa pendamping dokter yang memadai adalah justru kelompok yang secara struktural paling lemah untuk menuntut pertanggungjawaban ketika terjadi kesalahan, entah karena keterbatasan akses hukum, informasi, maupun jarak ke fasilitas rujukan. Tanpa regulasi yang eksplisit melindungi mereka lebih dulu, perluasan AI berisiko memperdalam ketimpangan kesehatan yang sudah ada, alih-alih menguranginya.

 Di Mana Posisi Promosi Kesehatan?

Bagi bidang promosi kesehatan, kekosongan regulasi ini bukan sekadar isu hukum kedokteran yang berjarak. Promotor kesehatan memiliki peran strategis pada setidaknya tiga hal. Pertama, membangun literasi masyarakat tentang batas kemampuan AI dalam layanan kesehatan, agar masyarakat memahami bahwa rekomendasi AI bukan diagnosis final dan tetap berhak meminta penjelasan serta second opinion dari tenaga kesehatan. Kedua, mengawal agar prinsip persetujuan tindakan (informed consent) turut mencakup transparansi kapan dan bagaimana AI digunakan dalam proses perawatan mereka. Ketiga, turut bersuara dalam forum kebijakan agar penyusunan pedoman etik nasional melibatkan perspektif kesehatan masyarakat, bukan hanya perspektif teknis kedokteran dan industri teknologi, sehingga aturan yang lahir benar-benar berpihak pada kelompok yang paling rentan, bukan hanya melindungi institusi yang paling berkuasa.

Dalam tradisi kesehatan masyarakat klasik, peminatan Promosi Kesehatan sering kali diredusir perannya sebatas pada modifikasi perilaku individu (seperti pembuatan pamflet KB, edukasi cuci tangan, atau kampanye gizi). Namun, dalam era New Public Health, promosi kesehatan harus bergerak ke arah advokasi struktural dan pemberdayaan politik Masyarakat.

Menghadapi tantangan kekosongan regulasi AI ini, promosi kesehatan memiliki tiga wilayah kerja strategis: 

1)    Transformasi dari Literasi Kesehatan Tradisional menuju Literasi AI Kritis (Critical AI Literacy).

Promotor kesehatan bertanggung jawab merancang intervensi edukasi untuk membangun kesadaran kritis masyarakat. Pasien harus diposisikan sebagai subjek hukum yang berdaya, yang memahami bahwa luaran dari teknologi AI hanyalah sebuah opsi rekomendasi, bukan kebenaran absolut. Masyarakat perlu dilatih untuk berani bertanya dan meminta penjelasan ulang kepada tenaga medis jika mereka merasa ragu terhadap hasil pembacaan mesin. 

2)    Rekonseptualisasi Informed Consent Digital

Promosi kesehatan harus mengintervensi tata kelola administrasi rumah sakit dengan memastikan bahwa lembar persetujuan tindakan (informed consent) tidak lagi bersikap pasif. Informed consent era baru wajib mencantumkan secara transparan apabila proses diagnosis pasien melibatkan pemrosesan data oleh algoritme pihak ketiga. Pasien berhak mengetahui sejauh mana data medis mereka digunakan untuk melatih algoritme komersial tersebut.

3)    Advokasi Kebijakan Berbasis Keadilan Sosial (Health Policy Advocacy)

Promotor kesehatan harus bertindak sebagai kelompok penekan dalam perumusan kebijakan etika AI nasional. Advokasi harus diarahkan untuk mendesak pemerintah agar menyusun regulasi yang memuat tanggung jawab mutlak bagi vendor pengembang AI, mendirikan komite audit algoritme independen, serta menyediakan dana kompensasi kegagalan teknologi guna melindungi keselamatan pasien di wilayah rentan

 Penutup: Pertanyaan yang Tidak Boleh Dibiarkan Menggantung

Kekosongan regulasi akuntabilitas AI medis di Indonesia bukan sekadar kendala teknis-birokratis, melainkan bentuk manifestasi dari determinan politik kesehatan yang menempatkan keselamatan masyarakat marginal sebagai objek eksperimen efisiensi teknologi. Langkah memperluas implementasi AI demi menutup defisit dokter, tanpa dibentengi oleh regulasi yang kokoh dan adil, adalah bentuk perjudian sosial dengan risiko tertinggi yang harus ditanggung oleh kelompok masyarakat miskin.  Sebagai rekomendasi taktis, Kementerian Kesehatan bersama Konsil Kesehatan Indonesia dan asosiasi profesi (seperti IAKMI dan IDI) harus segera menginisiasi penyusunan National Health AI Governance Framework. Regulasi ini wajib mengadopsi prinsip tata kelola AI yang aman, adil, transparan, dan bertanggung jawab sebagaimana kesepakatan konferensi nasional 2026. Terakhir, bidang Promosi Kesehatan harus berdiri di garis depan untuk memastikan bahwa penetrasi teknologi digital di sektor kesehatan tidak mengorbankan prinsip keadilan sosial dan hak asasi manusia atas pelayanan kesehatan yang bermutu dan aman.

 

Daftar Pustaka

Beritasatu.com. (2026, 25 Juni). Menkes tegaskan AI tak bisa gantikan dokter.

Beck, U. (1992). Risk Society: Towards a New Modernity. SAGE Publications

Dawes, D. A. (2020). The Political Determinants of Health. Johns Hopkins University Press

Kemkes RI. (2026, 8 Juni). Kemenkes tekankan pemanfaatan AI kesehatan harus diiringi tata kelola ketat dan etika yang kuat. https://www.kemkes.go.id

Kompas.com. (2026, 30 Juni). Muncul ide AI bantu dokter, sudah adakah aturan spesifiknya?

Liputan6.com. (2026, 29 Juni). Wacana AI gantikan peran dokter, ahli kesehatan bilang begini.

Tirto.id. (2026, 25 Juni). Salah kaprah logika pemakaian AI selesaikan isu krisis dokter RI.

Viva.co.id. (2026, 25 Juni). DPR usul Kemenkes gunakan AI untuk analisis penyakit pasien.