Dünya Sağlık Örgütü (DSÖ / WHO), 19 Ekim 2023 tarihinde sağlık için yapay zeka (YZ) konusunda bir dizi düzenleyici husus yayınladı (basın bülteni ve tam yayın). Bu yayın bir rehber veya politika niteliğinde olmayıp, YZ’ye gömülü tıbbi cihazlar tasarlayan ve geliştiren üreticiler, YZ sistemlerini yönetme ve kolaylaştırma yaklaşımlarını belirleme sürecindeki düzenleyiciler ve klinik uygulamada tıbbi cihazları ve YZ sistemlerini kullanmak isteyen sağlık uygulayıcıları da dahil olmak üzere tıbbi cihaz ekosistemlerindeki ilgili paydaşlar için bir kaynak olarak tasarlandı.
DSÖ, YZ’nin sağlık hizmetlerinde oynadığı hayati ve giderek artan rolü kabul ediyor. Bununla birlikte, bu teknolojilerin oluşturabileceği risklerin de altını çiziyor. YZ sağlık teknolojilerini sorumlu bir şekilde yönetmek için artan ihtiyaca, hükümetlerin ve düzenleyicilerin ulusal veya bölgesel düzeyde YZ ile ilgili mevzuatlarını ve rehberliklerini geliştirirken ve/veya güncellerken dikkate almaları gereken altı alanı özetledi.
Sağlık Hizmetlerinde Yapay Zeka
Yapay zeka, sağlık sektörünü dönüştürme potansiyeline sahiptir. Sağlık hizmeti sunumunun farklı aşamalarında sağlık sonuçlarını iyileştirebilir. Örneğin, öz bakım, önleme ve sağlıklı yaşamı teşvik ederek erken/önleyici bir aşamada çalışabilir. Klinik deneylerin sonuçlarını güçlendirerek araştırma ve geliştirmeye yardımcı olabilir. YZ ayrıca, örneğin bakımı kişiselleştirerek, teşhis ve tedaviyi iyileştirerek, bakım ve sağlık sistemi verimliliğini artırarak ve sağlık çalışanlarının bilgi, beceri ve yetkinliklerini tamamlayarak hastaların klinik bakımını iyileştirme potansiyeline sahiptir.
Sağlık Hizmetlerinde YZ’nin Risk ve Zorlukları
DSÖ, YZ’nin hızla yaygınlaşmasıyla birlikte, YZ teknolojisinin sağlık hizmetlerinde kullanımının da önemli zorluklar ortaya çıkardığını kabul etmektedir. Karmaşık YZ teknolojilerinin nasıl çalıştığına dair bir anlayış eksikliği (yani ‘kara kutu’ sorunu) olabilir ve bu da hastaların zarar görmesine neden olabilir. YZ teknolojileri, özellikle de makine öğrenimi süreçlerini kullananlar, modelin kendisinde ve eğitim verilerinde bulunan önyargılara karşı savunmasızdır. Ayrıca, sağlık hizmetlerinde kullanılan YZ teknolojilerinin genellikle hassas kişisel verilere erişimi vardır. Bu nedenle, YZ’nin kullanıldığı kullanımın yanı sıra bu verilerin etkili bir şekilde korunması ve yönetilmesine ihtiyaç vardır.
Sağlık Hizmetlerinde Yapay Zeka Nasıl Düzenlenir?
Bu riskleri yönetmek için DSÖ, sağlık hizmetlerinde yapay zekanın düzenlenmesi için altı temel hususu ana hatlarıyla belirtmektedir:
1. Şeffaflık ve Dokümantasyon
DSÖ, geliştiriciler, üreticiler ve son kullanıcıların yanı sıra YZ sistemlerine güven oluşturmak için dokümantasyon ve şeffaflık ihtiyacını vurgulamaktadır. YZ teknolojisi geliştiricilerinin, geliştirme süreçlerini izlemenin yanı sıra tüm ürün yaşam döngüsünü belgelemelerini önermektedir. Etkili dokümantasyon ve şeffaflık, veri önyargılarına ve manipülasyonuna karşı korunmaya yardımcı olur.
2. Risk Yönetimi
DSÖ ayrıca, sağlık hizmetlerinde kullanılan YZ sistemlerinin, tıbbi cihazlarda kullanılan YZ sistemleri de dahil olmak üzere birçok kategoriye girebileceğini vurgulamaktadır. DSÖ, pazar öncesi ve sonrası dağıtım da dahil olmak üzere tüm ürün yaşam döngüsü boyunca bütünsel bir risk temelli yaklaşımın benimsenmesini önermektedir. YZ teknolojisi geliştiricilerinin, üreticilerinin ve dağıtıcılarının kullanım amacı, sürekli öğrenme, insan müdahaleleri, eğitim modelleri ve siber güvenlik tehditleri ile ilgili konuları ele almalarını önermektedir.
3. Kullanım Amacı ve Analitik ve Klinik Validasyon
DSÖ, bir YZ sisteminin kullanım amacını açıkça belirlemenin önemini vurgulamaktadır. YZ sistemlerinin koda, eğitim verilerine, ortama ve kullanıcı etkileşimine bağlı olduğu göz önüne alındığında, sistemin güvenli ve etkili bir şekilde çalışması için ilgili kullanım durumunu tanımlamak önemlidir.
Ek olarak, DSÖ, YZ sisteminin uygun şekilde doğrulanmasını önermektedir. Verilerin harici olarak doğrulanmasını ve bu verilerin nasıl kullanıldığının açık olmasını tavsiye etmektedir. Harici doğrulama, modellerde kullanılan girdi verilerinin kalitesini ve güvenliğini sağlayarak hastalara yönelik riski en aza indirir.
4. Veri Kalitesi
Veri, yapay zeka sistemlerinin temelidir ve sağlık alanında çok büyük miktarda veri bulunmaktadır. Ancak, düşük kaliteli ve önyargılı veri setlerinin kullanımı önemli bir endişe kaynağıdır. DSÖ, veri kalitesini sağlamak için yayın öncesi titiz değerlendirme sistemlerinin kullanılmasını önermektedir. Bu, sistemlerin önyargıları güçlendirmemesini sağlamalıdır.
5. Gizlilik ve Veri Koruma
DSÖ, YZ teknolojisi geliştiricilerinin, dağıtıcılarının ve üreticilerinin ilgili veri koruma ve gizlilik yasalarının kapsamını ve gereksinimlerini anlamalarını önermektedir. AB Genel Veri Koruma Yönetmeliği (“GDPR”) ve ABD Sağlık Sigortası Taşınabilirlik ve Sorumluluk Yasası (“HIPAA”) özellikle önemlidir.
6. Katılım ve İşbirliği
DSÖ, geliştiricilerin, üreticilerin, sağlık hizmeti uygulayıcılarının, hastaların, politika yapıcıların, düzenleyici kurumların ve diğer paydaşların YZ teknolojilerinin güvenliğini ve kalitesini artırmak için birbirleriyle aktif olarak etkileşime girmelerini ve işbirliği yapmalarını önermektedir. Birçok düzenleyici kurumun (Birleşik Krallık İlaç ve Sağlık Ürünleri Düzenleme Kurumu, Avrupa Komisyonu, ABD Gıda ve İlaç İdaresi ve diğer uluslararası düzenleyiciler dahil) halihazırda YZ ile ilgilendiğini ve işbirliği yaptığını belirtmektedir. DSÖ, YZ’de uygulamayı değiştiren gelişmeleri hızlandırmak için bu tür bir katılım ve işbirliği yoluyla YZ düzenlemesi için gözetim sürecini kolaylaştırmanın temel olduğunu düşünmektedir.
Bu Sağlık Hizmetlerinde YZ için Ne Anlama Geliyor?
DSÖ’nün yayını, hükümetlerin ve düzenleyici otoritelerin ulusal veya bölgesel düzeyde YZ ile ilgili yeni bir kılavuz geliştirirken veya mevcut kılavuzu uyarlarken göz önünde bulundurmaları gereken temel ilkeleri ana hatlarıyla belirlemeyi amaçlamaktadır.
Yayın bazı önemli temaları ele alıyor. İlk olarak, YZ’nin sağlık sektöründeki (potansiyel) önemi. İkinci olarak, hasta güvenliğini sağlamak için YZ’yi etkin bir şekilde düzenleme ihtiyacı. Üçüncüsü ise, paydaşların etkileşime girmeye devam etmesi ve toplumun genelinin ortak anlayış ve karşılıklı öğrenme için çalışmasıdır. Bu nedenle, kısa vadede YZ konusunda daha fazla uluslararası rehberlik ve ilkelerin yayınlanmasını bekliyoruz.
Bu müvekkil uyarısında tartışılan materyallerle veya daha geniş anlamda sağlık hizmetlerinde YZ kullanımıyla ilgili herhangi bir sorunuz varsa, lütfen Gıda, İlaç ve Cihaz uygulamamızın üyeleriyle iletişime geçin.
Kaynak: Sarah Cowlishaw / Covington
Yapayzeka.news’in hiçbir güncellemesini kaçırmamak için bizi Facebook, Twitter, LinkedIn, Instagram‘ ve Whatsapp Kanalımız‘dan takip edin.
, 19 Ekim 2023 tarihinde sağlık için yapay zeka (YZ) konusunda bir dizi düzenleyici husus yayınladı.){kind=link}