Çocuk güvenliği odaklı kuruluş Common Sense Media, Google’ın yapay zekâ modeli Gemini’yi çocuk ve gençler için “yüksek riskli” olarak sınıflandırdı. Kuruluş, sistemin yalnızca yetişkin sürümlerine eklenen basit filtrelerle çocuklara sunulduğunu ve bu nedenle uygunsuz içerikler üretebildiğini açıkladı.
Filtreler yetersiz bulundu
Rapor, Gemini’nin yetişkin sürümüne eklenen kısıtlamaların çocukları korumada yeterli olmadığını vurguluyor. Buna göre yapay zekâ, çocuklara uygun olmayan yanıtlar verebiliyor.
Google’dan güvenlik açıklaması
Google, Gemini için ek güvenlik önlemleri geliştirdiklerini belirtiyor. Şirket, çocuk kullanıcılar için daha güvenli deneyimler sunmayı hedeflediğini savunuyor.
Uzmanlardan çağrı
Uzmanlara göre çocuklara yönelik yapay zekâ, mevcut sistemlerin filtrelenmiş versiyonlarıyla değil, temelden güvenli tasarımlarla geliştirilmek zorunda. Common Sense Media, teknoloji şirketlerini bu konuda daha kapsamlı adımlar atmaya çağırıyor.