OpenAI, 18 Yaş Altı Kullanıcılar İçin ChatGPT’ye Sınırlama Getirdi
OpenAI, genç kullanıcıları korumak için yeni ‘ChatGPT for Teens’ modunu tanıttı. Riskli içeriklere sınırlama getirildi.
OpenAI, yapay zekanın olumsuz etkilerine dair artan endişeler ışığında, genç kullanıcıları koruma amacıyla yeni bir mod olan “ChatGPT for Teens”i tanıttı. Bu mod, riskli içeriklerin yer aldığı sohbetleri otomatik olarak sınırlayarak, gençlerin güvenliğini artırmayı hedefliyor.
Şirketin blogunda yer alan bilgilere göre, yeni mod, kendine zarar verme, şiddet, yeme bozuklukları ve cinsel içerik gibi yüksek risk taşıyan konuşmaları kısıtlayacak. Ayrıca, bazı durumlarda ChatGPT, ebeveyn denetimlerini etkinleştirmiş olan yetişkinleri uyaracak.
ChatGPT’nin bu yeni versiyonu, gençlerin ödevlerine yardımcı olurken doğrudan yanıt vermek yerine, onları düşünmeye teşvik eden sorular yöneltecek şekilde tasarlandı. OpenAI, kullanıcıların yaşlarını belirtmelerini zorunlu kıldığını ve 13 yaş altındaki kullanıcıların platforma erişimlerinin kısıtlandığını belirtti. Ancak, bazı kullanıcıların yaş bilgilerini doğru vermediği de ifade ediliyor.
OpenAI, 18 yaşından küçük kullanıcıları tespit etmek için 2000’den fazla sinyalin analiz edildiğini ve bu sinyallerin gizliliğe az müdahale edecek şekilde kullanıldığını duyurdu. Gençlerin sohbet robotunu kullanabilmesi için ebeveyn izni gerekliliği de getirildi. Şirket, genç kullanıcıların güvenliği ve ruh sağlığı konusundaki artan endişelerle karşı karşıya olduğunu belirtiyor.
Son zamanlarda, birçok aile, çocuklarının tehlikeli içeriklere maruz kaldığını ve bu durumun olumsuz sonuçlar doğurduğunu iddia ederek OpenAI’ye dava açtı. Florida, bu konuda OpenAI’ye dava açan ilk ABD eyaleti oldu ve şirketi küçük yaştaki kullanıcılar için güvenlik konusunda yanıltıcı bilgiler vermekle suçladı.
New York, Los Angeles gibi bölgelerdeki ebeveyn grupları, yapay zeka ürünlerinin okullarda kullanılmasına karşı baskı yapıyor. Eğitim uzmanları, bu tür araçların gençlerin eleştirel düşünme becerilerini olumsuz etkileyebileceği konusunda uyarılarda bulunuyor. Ancak OpenAI, yeni modun gençler için ek bir eğitim aracı olduğunu savunuyor.
Şirket, blog yazısında, “Yapay zekanın eğitim fırsatlarını genişletmesi gerektiğine inanıyoruz. Bu nedenle ChatGPT for Teens’i, yardımın her zaman mevcut olmadığı anlarda destek sunacak şekilde tasarladık” ifadelerini kullandı. OpenAI’nin gençler için geliştirdiği bu yaklaşım, sosyal medya şirketlerinin benzer yöntemlerini izliyor ve gençlere yönelik güvenlik önlemleri içeren yeni modlar oluşturuluyor.
Çocuk güvenliği savunucuları ve yasa koyucular, bu yaklaşımı eleştirerek, şirketlerin oluşturduğu zararlara ilişkin sorumluluğun ebeveynlere yüklenmesini sorguluyor. Ayrıca, kullanıcıların yaşlarını doğrulamak için kullanılan yöntemlerin kolayca aşılabilmesi, teknoloji şirketleri açısından uzun süredir bir sorun teşkil ediyor.
