OpenAI, gençlerin yapay zekâ kullanımına yönelik daha güçlü güvenlik önlemleri getirmeyi amaçlayan California Senato Tasarısı 1119’u (SB 1119) desteklediğini açıkladı.
Şirket, tasarının gençlerin AI araçlarına erişimini tamamen kısıtlamak yerine, onların öğrenme, üretme ve geleceğe hazırlanma ihtiyaçlarına uygun güvenlik mekanizmaları oluşturduğunu savunuyor.
OpenAI Küresel Politika Başkan Yardımcısı Ann O’Leary tarafından yapılan açıklamada, federal düzeyde kapsamlı bir düzenleme bulunmadığı bir dönemde California’nın gençlerin AI kullanımı konusunda güçlü bir standart oluşturabileceği belirtildi.
Şirket ayrıca California Valisi Gavin Newsom’a gönderdiği mektupta tasarının imzalanarak yasalaştırılması çağrısında bulundu.
Gençler AI ile büyüyen ilk nesil
OpenAI’ye göre gençler, yapay zekâyı günlük yaşamlarının giderek daha doğal bir parçası haline getiriyor.
Şirketin paylaştığı verilere göre ChatGPT kullanan gençlerin yaklaşık yüzde 90’ı, herhangi bir haftada platformdan öğrenme, bilgi edinme, beceri geliştirme veya üretkenlik amacıyla yararlanıyor.
OpenAI, bu kullanımın aynı zamanda şirketlere önemli bir sorumluluk yüklediğini düşünüyor.
Buna göre gençlere sunulan AI deneyimlerinin yetişkinlere yönelik sistemlerden farklı olarak yaşa ve gelişimsel ihtiyaçlara uygun şekilde tasarlanması gerekiyor.
SB 1119 hangi önlemleri getiriyor?
OpenAI’nin özellikle desteklediği tasarının temel maddeleri arasında gençlerin AI kullanımını daha güvenli hale getirmeye yönelik çeşitli zorunluluklar bulunuyor.
Bunlar arasında:
- Kullanıcının yaşının belirlenmesi,
- Ürün gençlere sunulmadan önce güvenlik risklerinin tespit edilmesi,
- Bağımsız güvenlik denetimlerinden geçilmesi,
- Kendine zarar verme ve cinsel istismar gibi yüksek riskli içeriklere karşı koruma,
- Ebeveynlere çocuklarının AI kullanımını yönetebilecek araçlar sunulması,
- Ciddi güvenlik risklerinde kriz destek kaynaklarına yönlendirme,
- Hedefli reklamların sınırlandırılması ve gençlerin kişisel bilgilerinin korunması
yer alıyor.
13-17 yaş aralığındaki kullanıcılar için bu korumaların varsayılan olarak aktif olması öngörülüyor.
OpenAI’nin yeni yaklaşımı: ChatGPT for Teens
OpenAI, tasarıya verdiği desteğin kendi ürün politikalarıyla da paralel olduğunu belirtiyor.
Şirketin kısa süre önce kullanıma sunduğu ChatGPT for Teens, 18 yaş altındaki kullanıcılar için daha güvenli bir AI deneyimi oluşturmayı amaçlıyor.
Sistem, kullanıcının 18 yaşından küçük olduğunu tahmin ettiğinde veya kişinin yaşının 13-17 arasında olduğunu belirtmesi halinde otomatik olarak gençlere yönelik deneyime geçiyor.
Buradaki önemli nokta ise güvenlik önlemlerinin isteğe bağlı ayarlar olarak sunulmaması.
OpenAI, söz konusu korumaların genç kullanıcı deneyiminin temel bir parçası olduğunu belirtiyor.
Eğitim odaklı yeni AI özellikleri geliyor
ChatGPT for Teens kapsamında gençlerin öğrenme süreçlerini desteklemek amacıyla çeşitli özellikler de bulunuyor.
Bunlar arasında Quiz’ler, Learning Visualizations ve Study Mode gibi araçlar yer alıyor.
OpenAI, bu özelliklerin eğitimciler ve öğrenme uzmanlarıyla birlikte geliştirildiğini ve öğrencilerin problemlerin yanıtını doğrudan almak yerine adım adım düşünmesine ve konuyu anlamasına yardımcı olmayı amaçladığını belirtiyor.
Şirket ayrıca geçmiş konuşmalardan bağlam taşıyan özelliklerin de güvenlik ve öğrenme deneyimini daha tutarlı hale getirebileceğini savunuyor.
Ebeveyn kontrolleri ve yaş tahmini genişletiliyor
OpenAI, gençlerin güvenliği konusunda son bir yılda bir dizi yeni mekanizma geliştirdiğini belirtiyor.
Bunlar arasında ebeveyn kontrolleri, yaş tahmini, Teen Safety Blueprint ve Model Spec’e eklenen 18 yaş altı kullanıcı ilkeleri bulunuyor.
Şirketin genç kullanıcılar için belirlediği kurallar arasında AI’ın kullanıcıyla romantik ilişki kurmaya çalışmaması, duygusal bağımlılığı teşvik etmemesi ve kendisini insan ya da bilinç sahibi bir varlık gibi göstermemesi de bulunuyor.
Ebeveynlere sunulan kontroller ise ailelerin genç kullanıcıların bazı ayarlarını yönetmesine ve yüksek riskli durumlarda bildirim almasına olanak tanıyor.
OpenAI, AI ile sosyal medyayı birbirinden ayırıyor
OpenAI, SB 1119’un önemli noktalarından birinin yapay zekâyı sosyal medyayla aynı kategoriye koymaması olduğunu düşünüyor.
Şirkete göre AI araçları; eğitim, araştırma, üretkenlik ve yaratıcılık gibi alanlarda gençlere önemli faydalar sağlayabiliyor.
Bu nedenle amaç, gençlerin AI’a erişimini tamamen ortadan kaldırmak değil, bu erişimi daha güvenli ve yaşa uygun hale getirmek.
Tasarı aynı zamanda AI sistemlerinin hafıza gibi özelliklerinin sorumlu kullanımına da alan bırakırken genç kullanıcılar için daha güçlü güvenlik standartları oluşturmayı hedefliyor.
OpenAI’nin AI güvenliği politikası değişiyor
California’daki SB 1119 tartışması, OpenAI’nin ürünlerinde gençlere yönelik güvenlik yaklaşımının giderek daha merkezi hale geldiğini gösteriyor.
Şirket bir yandan gençlerin AI kullanımından eğitimsel ve üretkenlik açısından faydalanmasını isterken diğer yandan yaş tespiti, otomatik güvenlik önlemleri ve ebeveyn denetimini temel gereklilikler olarak konumlandırıyor.
OpenAI, tasarının yasalaşması halinde uygulama sürecinde yapılacak çalışmaların ve teknolojideki gelişmeler doğrultusunda kuralların güncellenmesinin önemli olacağını belirtiyor.
Şirketin nihai hedefi ise genç kullanıcılar için daha fazla erişim kısıtlaması getirmekten ziyade, AI deneyimini yaşa uygun, güvenli ve eğitim odaklı hale getirmek olarak öne çıkıyor.
