Teknolojinin gelişmesiyle birlikte yapay zeka (YZ) araçları sağlık alanında da kullanılmaya başlandı. Copilot Health, ChatGPT Health ve Amazon HealthAI gibi hizmetler, kullanıcıların tıbbi kayıtlarını yorumlamalarına, semptomları ve tedavi seçenekleri hakkında bilgi almalarına olanak tanıyor. Ancak, bu tür YZ araçlarının doktorların yerini alması potansiyel riskler barındırıyor.
Yapay zeka sohbet robotlarının kötüye kullanımının, sağlık teknolojisi alanında önde gelen bir tehlike olduğu belirtiliyor. Bu araçların 7/24 hizmet vermesi ve kesin cevaplar sunması, gergin hastaları rahatlatma potansiyeli taşıyor. Tıbbi yardım almadan önce YZ yardımıyla kendi kendine teşhis koyma eğiliminin artması bekleniyor.
Bu durum, bazı endişeleri de beraberinde getiriyor. Yapay zeka araçlarının verebileceği yanlış tavsiyeler ve 'halüsinasyonlar' bunlardan biri. Şubat ayında Nature Medicine'de yayımlanan bir Oxford Üniversitesi araştırması, kullanıcıların YZ ile hangi bilgileri paylaşmaları gerektiğini bilmediğini ve modellerin hem olumlu hem de olumsuz tavsiyelerde bulunabildiğini, ancak kullanıcıların bu ayrımı yapmakta zorlandığını ortaya koydu. Araştırmacılara göre, yapay zeka henüz bir hekimin rolünü üstlenmeye hazır değil.
Sağlık verilerinin gizliliği de önemli bir risk faktörü. Hassas tıbbi bilgilerin halka açık sohbet robotlarıyla paylaşılması, verilerin modelin eğitimi için kullanılmasına ve dolayısıyla üçüncü taraflara aktarılmasına yol açabilir. Modellerin kullanıcı verilerini kasıtsız olarak ifşa ettiği durumlar biliniyor. Sağlık verileri, bir yapay zeka aracıyla paylaşıldığında kalıcı bir dijital kayıt haline gelebilir.
Birçok sağlık odaklı YZ hizmeti, verileri eğitim amaçlı kullanmayacaklarına dair taahhütte bulunsa da, üçüncü taraf veri paylaşımı konusunda aynı güvenceyi vermeyebilirler. Kişisel tıbbi bilgiler, veri toplayıcıları aracılığıyla reklam verenlerle paylaşılabilir. Sağlık verilerinin son derece hassas olduğu ve anonimleştirme yöntemlerinin her zaman tüm riskleri ortadan kaldırmadığı vurgulanıyor.
