OpenAI CEO’su Sam Altman, 16 Eylül’deki blog yazısında, gençlere yönelik sohbet robotlarının (chatbotların) “flört etmemesi” ve intihar konularında içerik sunmaması gerektiğini belirtmişti.
TRT Haber’in aktardığına göre genç kullanıcıların hesaplarında grafik içerikler, romantik ve cinsel rol yapma, tehlikeli viral akımlar ve “aşırı güzellik idealleri” ile ilgili yanıtlar sınırlandırılacak.
Ayrıca ebeveynler, çocuklarının belirli saatlerde ChatGPT kullanmasını engelleyebilecek, görsel üretimini kapatabilecek ve sohbetlerin yapay zekâ eğitiminde kullanılmasına izin vermeme seçeneğini değerlendirebilecek.
OpenAI, genç bir kullanıcının kendine zarar verme niyeti taşıdığına dair işaretler görülmesi halinde ebeveynlere uyarı gönderileceğini bildirdi. Şirket, bu adımların özellikle çocuk güvenliği konusundaki baskılar sonrası hayata geçirildiğini belirtti.
Yeni düzenlemeler, bir ailenin ChatGPT’nin çocuklarını intihara teşvik ettiği iddiasıyla açtığı dava sonrasında ve ABD Senatosu Yargı Komitesi’nin yapay zekânın olası zararlarına ilişkin oturumu öncesinde açıklandı.
OpenAI, henüz girişte yaş doğrulaması zorunlu olmasa da, gelecekte kullanıcıların kimlik yüklemesiyle yaş doğrulamasının gündeme gelebileceğini ifade etti.
Şirket açıklamasında, “Koruma önlemleri yardımcı olur ancak tamamen kusursuz değildir. Bilinçli şekilde aşılabilir. Bu nedenle ebeveynlere, çocuklarıyla sağlıklı yapay zekâ kullanımı hakkında konuşmalarını tavsiye ediyoruz” denildi.
