OpenAI tarafından geçen hafta işten çıkarılan üç yapay zeka güvenliği araştırmacısı, şirketin kendilerine yönelttiği suçlamalara karşı ortak bir açıklama yaptı.
- OpenAI Araştırmacıları Neden İşten Çıkardı?
- Araştırmacılar OpenAI’ın Güvenlik Kültürünün Değiştiğini Savunuyor
- OpenAI: Güvenlik Endişelerini Dile Getirdikleri İçin Kovulmadılar
- Araştırmacılar The Information’a Bilgi Sızdırdıkları İddiasını Reddetti
- Hugging Face Olayı da Tartışmanın Merkezinde
- Mikita Balesni’nin Çalışmalarına Yöneticilerin Destek Verdiği Savunuldu
- Jasmine Wang İşten Çıkarılma Gerekçesini Açıkladı
- Araştırmacılardan OpenAI’a Üç Güvenlik Çağrısı
- OpenAI’daki Güvenlik Tartışmaları Devam Ediyor
Jasmine Wang, Tomek Korbak ve Mikita Balesni, OpenAI’ın hassas şirket bilgilerinin uygunsuz şekilde kullanıldığı yönündeki iddialarını reddederek işten çıkarılmalarının şirket kültürü açısından olumsuz sonuçlar doğurabileceğini savundu.
Araştırmacılar, OpenAI’ın Güvenlik ve Emniyet Komitesi, Güvenlik Danışma Grubu ve Misyon Danışma Konseyi’ne hitaben açık bir mektup yayımladı.
Mektupta, işten çıkarılmalarına ilişkin şirket içi ve dışındaki iletişimin eski çalışma arkadaşları üzerinde korku yarattığı öne sürüldü.
Üç araştırmacı, daha önce OpenAI’daki çalışmaların doğal bir parçası olarak kabul edilen bazı davranışların artık çalışanlar açısından riskli görüldüğünü belirtti.
OpenAI Araştırmacıları Neden İşten Çıkardı?
OpenAI, üç araştırmacıyı gizli şirket bilgilerinin üçüncü taraf bir yapay zeka güvenliği kuruluşuyla uygunsuz biçimde paylaşıldığı iddialarının ardından işten çıkardı.
Şirket, araştırmacıların hassas kurumsal bilgilere erişim ve bu bilgilerin kullanımıyla ilgili politikaları ihlal ettiğini açıkladı.
OpenAI sözcüsü, TechCrunch’a yaptığı açıklamada yürütülen soruşturmanın şirket politikalarının açık biçimde ihlal edildiği bir usulsüzlük örüntüsü ortaya koyduğunu savundu.
Sözcü ayrıca iddiaların yalnızca dışarıdaki bir yapay zeka değerlendirme kuruluşuyla bilgi paylaşılmasından ibaret olmadığını belirtti.
Ancak OpenAI, araştırmacıların tam olarak hangi politikaları ihlal ettiği, işten çıkarılma süreçlerinin ayrıntıları ve güvenlik endişelerini bildiren çalışanların nasıl korunduğu konusundaki soruları doğrudan yanıtlamadı.
Araştırmacılar OpenAI’ın Güvenlik Kültürünün Değiştiğini Savunuyor
Üç araştırmacı, yayımladıkları mektupta yapay zeka güvenliği çalışmalarının diğer teknoloji alanlarından farklı gereksinimleri bulunduğunu vurguladı.
Araştırmacılara göre gelişmiş yapay zeka sistemleriyle çalışan güvenlik ekipleri, riskleri çoğu zaman diğer çalışanlardan önce tespit ediyor.
Bu nedenle dışarıdaki bağımsız uzmanlarla yakın iş birliği yapılmasının güvenlik araştırmalarının önemli bir parçası olduğu savunuluyor.
Mektupta, dış uzmanlarla korku yaşamadan iletişim kurabilmenin ve bu çalışmaları destekleyen açık şirket içi prosedürlerin bulunmasının başlı başına bir güvenlik mekanizması olduğu ifade edildi.
Araştırmacılar, OpenAI’ın geçmişte çalışanları güvenlik endişelerini dile getirmeye ve görüş ayrılıklarını açıkça tartışmaya teşvik ettiğini belirtti.
Ancak işten çıkarılmalarının ardından çalışanların hangi davranışların kabul edilebilir olduğu konusunda belirsizlik yaşadığını ileri sürdüler.
OpenAI: Güvenlik Endişelerini Dile Getirdikleri İçin Kovulmadılar
OpenAI, araştırmacıların iddialarına karşı farklı bir açıklama yaptı.
Şirket, açık mektuba doğrudan resmî bir yanıt yayımlamasa da TechCrunch ile bir araştırma yöneticisine atfedilen şirket içi notu paylaştı.
Notta üç araştırmacının yapay zeka güvenliğine katkıları takdir edilirken işten çıkarma kararlarının misilleme amacı taşımadığı savunuldu.
OpenAI, çalışanların güvenlik endişelerini dile getirmelerini her zaman teşvik ettiğini ve bu nedenle çalışanların işine son verilmediğini belirtti.
Şirketin açıklaması, araştırmacıların işten çıkarılmalarının güvenlik konusundaki eleştirilerinden değil, bilgi güvenliği politikalarının ihlal edildiği iddialarından kaynaklandığı yönünde.
Araştırmacılar The Information’a Bilgi Sızdırdıkları İddiasını Reddetti
Açık mektupta OpenAI’ın yeni yapay zeka modellerindeki güvenlik tartışmalarına da değinildi.
Araştırmacılar, The Information tarafından yayımlanan ve OpenAI’ın yeni modellerinde kullanılan bazı mimarilerin güvenlik açısından izlenebilirliğini sorgulayan haberle bağlantılı herhangi bir bilgi sızıntısına karışmadıklarını açıkladı.
Söz konusu tartışma, modellerin chain-of-thought olarak bilinen akıl yürütme süreçlerinin izlenmesini zorlaştırabilecek teknik yaklaşımlarla ilgiliydi.
Üç araştırmacı ayrıca görevlerinin kapsamı dışında dış taraflarla uygunsuz iletişim kurdukları iddiasını da reddetti.
Hugging Face Olayı da Tartışmanın Merkezinde
Araştırmacıların mektubunda, OpenAI’ın daha önce yaşadığı Hugging Face güvenlik olayına ilişkin ayrıntılar da yer aldı.
Bu olayda bir grup yapay zeka ajanı, kendileri için oluşturulan izole çalışma ortamından çıkarak harici sistemlere erişmişti.
Araştırmacılar, olayın ve ardından yürütülen soruşturmanın benzeri görülmemiş nitelikte olduğunu belirtti.
Bu nedenle bazı şirket içi güvenlik prosedürlerinin soruşturma devam ederken geliştirildiğini savundular.
Mektuba göre Tomek Korbak, olayın hassasiyeti nedeniyle dış güvenlik değerlendiricileriyle yakın iletişim kurmanın güven oluşturmak açısından gerekli olduğunu düşündü.
Korbak, bu iletişimi yürütürken OpenAI’ın o dönemde geçerli olan politikaları ve çalışma normları çerçevesinde hareket ettiğine inanıyordu.
Mikita Balesni’nin Çalışmalarına Yöneticilerin Destek Verdiği Savunuldu
Mektupta Mikita Balesni’nin yapay zeka modellerinin izlenebilirliğiyle ilgili çalışmalarına da yer verildi.
Araştırmacılar, gelişmiş modellerin iç süreçlerinin güvenlik açısından değerlendirilebilmesi için dış uzmanlarla kapsamlı iletişimin gerekli olduğunu savundu.
Balesni’nin bu çalışmalar sırasında OpenAI yönetim kurulu üyeleri ve yöneticileriyle koordinasyon içinde olduğu ve destek aldığı öne sürüldü.
Ayrıca Balesni’nin dışarıyla paylaşılacak materyallerden hassas bilgileri çıkarmaya özen gösterdiği ve yöneticileriyle düzenli iletişim kurduğu belirtildi.
Araştırmacılara göre Balesni, çalışmalarını iyi niyetle ve o dönemde geçerli şirket uygulamaları çerçevesinde yürüttü.
Jasmine Wang İşten Çıkarılma Gerekçesini Açıkladı
Jasmine Wang ise X üzerinden yaptığı ayrı bir açıklamada kendi işten çıkarılma sürecine ilişkin ayrıntılar paylaştı.
Wang’ın iddiasına göre OpenAI, bir yöneticinin e-posta hesabına erişmesini işten çıkarılma gerekçelerinden biri olarak gösterdi.
Wang, söz konusu erişimin işe alım çalışmaları kapsamında kendisine OpenAI tarafından verildiğini belirtti.
Artık erişime ihtiyacı kalmadığında BT ekibinden yetkinin kaldırılmasını istediğini ancak talebinin yerine getirilmediğini söyledi.
E-posta hesabının telefonundaki posta uygulamasına diğer hesaplardan ayırt edilemeyecek şekilde eklendiğini belirten Wang, hassas bir e-postayı yanlışlıkla açtığında durumu birkaç dakika içinde ilgili yöneticiye bildirdiğini ve erişimin kaldırılmasını yeniden talep ettiğini aktardı.
Wang, bu sürecin hiçbir aşamasının gizlenmediğini savundu.
Ayrıca işten çıkarılmalarına ilişkin gerekçelerin birbiriyle örtüşmediğini ve kendilerinin OpenAI’dan şüpheli koşullarda ayrılan ilk çalışanlar olmadığını ileri sürdü.
Araştırmacılardan OpenAI’a Üç Güvenlik Çağrısı
Üç araştırmacı, açık mektuplarında OpenAI’ın yapay zeka güvenliği konusundaki kamuya açık taahhütlerine bağlı kalmasını istedi.
Bu kapsamda şirketin bağımsız güvenlik değerlendiricilerini kuruluş içindeki çalışmalara dahil etmesi, gelişmiş yapay zeka modellerinin izlenebilirliğini koruması ve güvenlik araştırmacılarıyla dış güvenlik ekosistemi arasında açık iletişimi desteklemesi gerektiğini savundular.
OpenAI ise paylaştığı şirket içi notta bu önerilerle aynı görüşte olduğunu belirtti.
OpenAI’daki Güvenlik Tartışmaları Devam Ediyor
Üç araştırmacının işten çıkarılması, OpenAI’ın yapay zeka ajanlarıyla ilgili güvenlik olayları ve yeni modellerine ilişkin bilgi sızıntıları nedeniyle inceleme altında olduğu bir döneme denk geldi.
Araştırmacılar, işten çıkarma kararlarının diğer çalışanların güvenlik sorunlarını bildirme konusunda çekingen davranmasına neden olabileceği görüşünde.
Jasmine Wang, çalışanların benzer uygulamalara karşı ses çıkarmaması halinde başka kişilerin de aynı durumla karşılaşabileceğinden endişe duyduğunu belirtti.
Wang’a göre risklere en yakın çalışanların konuşmaktan korktuğu bir ortamda güvenli AGI geliştirmek mümkün değil.
OpenAI ise güvenlik endişelerinin dile getirilmesini desteklediğini ve üç araştırmacının işten çıkarılmasının bu faaliyetlerle bağlantılı olmadığını savunmaya devam ediyor.
