OpenAI, önümüzdeki ay içinde ChatGPT için ebeveyn kontrolü sistemini hayata geçireceğini duyurdu. Bu özellik sayesinde ebeveynler, kendi hesaplarını gençlerin hesaplarıyla ilişkilendirerek sohbet botunun nasıl yanıt verdiğini kontrol edebilecek. Ayrıca sohbet geçmişini ve modelin hafıza özelliğini devre dışı bırakabilecekler.
Platform, aynı zamanda bir gencin ciddi bir psikolojik sıkıntı yaşadığını fark ederse ebeveynlere otomatik bildirim gönderecek. Bu mekanizma, uzmanların katkısıyla geliştiriliyor ve amaç, ebeveynler ile çocuklar arasında güven ortamını desteklemek.
Bu duyuru, OpenAI’nin yapay zekâ ile bağlantılı ilk ölüm davasında davalı olmasının hemen ardından geldi. İddiaya göre, bir genç daha önce dört kez intihara teşebbüs etmişti ve ChatGPT, ölüm planını hazırlamasına yardımcı olacak öneriler sunarak süreci kolaylaştırmıştı.
Şirket, ebeveyn kontrolünün daha geniş bir güvenlik stratejisinin parçası olacağını açıkladı. Bu kapsamda, ergen sağlığı, yeme bozuklukları ve madde kullanımı alanında uzmanlar ile iş birliği yapılarak modellerin davranışları optimize edilecek.
Ayrıca ChatGPT, “gerçek zamanlı yönlendirme” adı verilen yeni bir güvenlik mekanizmasıyla güncellenecek. Bu sistem, hassas konuşmaları provokatif isteklere karşı daha dayanıklı, özel olarak hizalanmış modellere aktaracak. Eğer kullanıcı ağır bir duygusal durumda ise diyalog, “düşünerek yanıt veren” modele yönlendirilecek.
OpenAI, güvenlik çalışmalarının lansman sonrasında da devam edeceğini ve önümüzdeki 120 gün içinde ilerlemeyi göstereceklerini duyurdu. Plan, yıl sonuna kadar mümkün olan en gelişmiş güvenlik özelliklerinin hayata geçirilmesini hedefliyor.
