WHO telah mengeluarkan panduan baharu tentang etika dan tadbir urus model berbilang modal besar (LMM) untuk kegunaannya yang sesuai untuk mempromosikan dan melindungi kesihatan penduduk. LMM ialah sejenis generatif yang berkembang pesat kecerdasan buatan (AI) teknologi yang mempunyai lima aplikasi luas untuk kesihatan in
1. Diagnosis dan penjagaan klinikal, seperti menjawab pertanyaan bertulis pesakit;
2. Penggunaan berpandukan pesakit, seperti untuk menyiasat simptom dan rawatan;
3. Tugas perkeranian dan pentadbiran, seperti mendokumenkan dan meringkaskan lawatan pesakit dalam rekod kesihatan elektronik;
4. Pendidikan perubatan dan kejururawatan, termasuk menyediakan pelatih dengan simulasi pertemuan pesakit, dan;
5. Penyelidikan saintifik dan pembangunan ubat, termasuk untuk mengenal pasti sebatian baru.
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
Oleh itu, untuk mewujudkan LMM yang selamat dan berkesan, WHO telah membuat cadangan untuk kerajaan dan pemaju LMM.
Kerajaan mempunyai tanggungjawab utama untuk menetapkan piawaian untuk pembangunan dan penggunaan LMM, dan penyepaduan serta penggunaannya untuk tujuan kesihatan dan perubatan awam. Kerajaan harus melabur dalam atau menyediakan infrastruktur bukan untuk keuntungan atau awam, termasuk kuasa pengkomputeran dan set data awam, boleh diakses oleh pembangun dalam sektor awam, swasta dan bukan untuk keuntungan, yang memerlukan pengguna mematuhi prinsip dan nilai etika dalam pertukaran untuk akses.
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· Menugaskan agensi kawal selia sedia ada atau baharu untuk menilai dan meluluskan LMM dan aplikasi yang dimaksudkan untuk digunakan dalam penjagaan kesihatan atau perubatan – sebagaimana yang dibenarkan oleh sumber.
· Memperkenalkan pengauditan pasca keluaran mandatori dan penilaian impak, termasuk untuk perlindungan data dan hak asasi manusia, oleh pihak ketiga yang bebas apabila LMM digunakan secara besar-besaran. Pengauditan dan penilaian impak hendaklah diterbitkan
dan harus merangkumi hasil dan kesan yang diasingkan mengikut jenis pengguna, termasuk contohnya mengikut umur, bangsa atau ketidakupayaan.
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM direka bentuk untuk melaksanakan tugas yang jelas dengan ketepatan dan kebolehpercayaan yang diperlukan untuk meningkatkan kapasiti sistem kesihatan dan memajukan minat pesakit. Pembangun juga harus dapat meramal dan memahami potensi hasil sekunder.
***
sumber:
WHO 2024. Etika dan tadbir urus kecerdasan buatan untuk kesihatan: panduan tentang model berbilang modal yang besar. Boleh didapati di https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
