OpenAI, genç kullanıcıların güvenliği için ChatGPT'ye 'Genç Modu'nu getiriyor! Ebeveyn kontrolleri, içerik filtreleri ve kriz anında SMS uyarılarıyla 18 yaş altı kullanıcılar için kapsamlı önlemler 2025 sonuna kadar devrede olacak.
ABD merkezli yapay zekâ şirketi olan OpenAI, son günlerde yaşanan olayların önüne geçmek ve genç kullanıcıların güvenliği için ChatGPT'ye kapsamlı güvenlik önlemleri getirmeye hazırlanıyor. OpenAI tarafından yapılan açıklamada, 18 yaş altı kullanıcılar için geliştirilen "Genç Modu" ile ebeveyn kontrolleri, içerik filtreleri ve kriz bildirimi gibi birçok yenilik devreye girecek.
KRİZ ANINDA SMS İLE EBEVEYNLERE UYARI GİDECEK
OpenAI, gençlerin ruh sağlığını korumaya yönelik özel bir izleme sistemi geliştirdiğini duyurdu. Bu sistem hayata geçtikten sonra eğer bir genç, kendine zarar verme niyetini ima eden ifadeler kullanırsa sistem otomatik olarak bunu algılayacak. Durumun acil olarak değerlendirilmesi halinde, ebeveynlere SMS, e-posta ve uygulama bildirimi yoluyla anlık uyarılar gönderilecek.
Şirket, "Mükemmel bir sistem yok. Yanlış alarm verebiliriz. Ama sessiz kalmaktansa, bir ebeveyni uyarıp çocuğuna müdahale etmesini sağlamak daha iyidir" diyerek sistemin zaman zaman yanlış alarm verebileceğinin de altını çizdi.
EBEVEYN KONTROLÜ DEVREYE GİRECEK
"Genç Modu" sisteminin gelmesi halinde ebeveynler, çocuklarının ChatGPT kullanımlarında şunları düzenleyebilecek:
- Kullanım saatlerini sınırlama,
- Gece erişimini kapatma,
- Sesli sohbet ve görsel üretim özelliklerini devre dışı bırakma,
- Sohbet geçmişinin kaydını kapatma,
- Model eğitimine veri katkısını engelleme.
Ancak, bu kontroller yalnızca gençlerin onayıyla etkinleştirilebilecek ve gençler istedikleri zaman bağlantıyı kesebilme yetkisine sahip olacaklar.
YAŞ TAHMİNİYLE OTOMATİK TANIMLAMA YAPILACAK
OpenAI, 18 yaş altındaki kullanıcıları otomatik olarak tanımlayabilecek bir yaş tahmin sistemi üzerinde de çalıştıklarını duyurdu. Bu sistem sayesinde yaş doğrulaması yapmayan kullanıcılar da, otomatik olarak "Genç Modu" devreye alınacak.
GENÇ MODU NE ZAMAN DEVREYE GİRECEK?
OpenAI CEO'su Sam Altman, şirket blogunda yaptığı açıklamada, gençler için güvenliği, mahremiyet ve özgürlükten önce tuttuklarını belirterek, Genç Modu'nun ve ebeveyn denetimlerinin 2025 yılı sonuna kadar kademeli olarak kullanıma açılacağını belirtti.
NE OLMUŞTU?
2024'te intihar eden 16 yaşındaki Adam Raine'in ailesi, ChatGPT'nin oğullarına intihar yöntemi önerdiğini iddia ederek OpenAI ve CEO Sam Altman'a dava açması üzerine, ABD Federal Ticaret Komisyonu (FTC), OpenAI ve diğer teknoloji şirketlerine yönelik, yapay zekâ sistemlerinin gençler üzerindeki potansiyel zararlarına ilişkin resmi bir soruşturma başlatmıştı.
BİR YORUM YAPIN 0