Sağlık Uyarıları Gizlenerek Kullanıcılar Riske Atılıyor

The Guardian’ın özel haberine göre, Google, arama sonuçlarının en üstünde gösterilen yapay zeka tabanlı “AI Overviews” özetlerinde, tıbbi tavsiyelerin hatalı olabileceğine dair güvenlik uyarılarını (disclaimer) yeterince görünür kılmamakla suçlanıyor.
Google, sağlık gibi hassas konularda yapay zekanın ürettiği özetlerin kullanıcıları uzman görüşü almaya teşvik ettiğini savunsa da, yapılan incelemeler uyarıların ancak kullanıcı ek bilgi talep ettiğinde ortaya çıktığını gösteriyor.

Habere göre, kullanıcılar ilk etapta tıbbi bir tavsiye ile karşılaştıklarında herhangi bir uyarı metni görmüyor. Uyarılar ancak kullanıcı “Daha Fazla Göster” (Show more) butonuna tıkladığında ve metnin en sonuna indiğinde, daha küçük ve soluk bir yazı tipiyle beliriyor.
Bu uyarı metninde: “Bu bilgiler sadece bilgilendirme amaçlıdır. Tıbbi tavsiye veya teşhis için bir uzmana danışın. Yapay zeka yanıtları hatalar içerebilir” ifadesi yer alıyor.
MIT ve Queen Mary University of London gibi kurumlardan uzmanlar, bu tasarım tercihinin ciddi tehlikeler yarattığını belirtiyor:
Yapay zeka modelleri hala “halüsinasyon” (uydurma bilgi) görebiliyor veya kullanıcıyı memnun etmek için yanlış bilgi verebiliyor.
Stanford Üniversitesi’nden araştırmacı Sonali Sharma, arama sayfasının en tepesinde beliren bu özetlerin, kullanıcılarda “tam ve doğru cevap” algısı yaratarak daha fazla araştırma yapma ihtiyacını körelttiğini vurguluyor.
Özellikle sağlık alanında, bağlamdan kopuk veya kısmen doğru kısmen yanlış bilgilerin ayırt edilmesinin zor olduğu, bu nedenle uyarıların en başta ve belirgin olması gerektiği ifade ediliyor.
Google sözcüsü ise eleştirilere yanıt olarak, sistemin “uygun olduğunda” özet metninin içinde de tıbbi yardım almaya yönlendirdiğini savundu. Ancak hasta hakları savunucuları, uyarıların metnin en başında ve standart yazı boyutunda olması gerektiği konusunda ısrarcı.