Anthropic’te son üç yıldır ön eğitim (pre-training) araştırmaları üzerinde çalışan Jacob Coxon, yapay zekânın geleceğine ilişkin ciddi endişelerini gerekçe göstererek şirketten ayrıldı. Coxon, daha önce OpenAI’de de aynı alanda çalıştığını belirtti.
- Asıl korku: Kendi kendini geliştiren yapay zekâ
- “İnsanlığın kaderi özel şirketlerin Slack kanallarından belirlenmemeli”
- Anthropic çalışanı: “Yapay zekâ tüm insanları öldürebilir”
- AI ajanlarının kontrolden çıkması endişeleri artırıyor
- Süperzekâ yarışı hızlanıyor
- ABD ve İngiltere’de yasaklama çağrıları
- “Süperzekâ bir araç değil, rakip”
Coxon, sosyal medya üzerinden yaptığı açıklamalarda hem OpenAI hem de Anthropic’in yapay zekâ geliştirme sürecinde yeterince sorumlu davranmadığını savundu.
Araştırmacının en dikkat çekici iddiası ise sektördeki bazı kişilerin geliştirdikleri teknolojinin bu on yılın sonuna kadar insanlığın tamamını yok edebileceğine gerçekten inandığı yönünde.
Coxon, yapay zekâ şirketlerinin “kendi kendini geliştiren süperzekâya” ulaşmak için yarıştığını ve bunun insan hayatı üzerinde büyük bir kumar olduğunu söyledi.
Asıl korku: Kendi kendini geliştiren yapay zekâ
Coxon’un eleştirilerinin merkezinde recursive self-improvement (özyinelemeli/kendini yinelemeli geliştirme) bulunuyor.
Bu senaryoda bir yapay zekâ sistemi, kendisinden daha gelişmiş yeni bir yapay zekâ sistemi oluşturabiliyor. Yeni sistem de bir sonraki nesli geliştiriyor ve süreç giderek hızlanıyor.
Bu döngünün kontrol dışına çıkması, bazı AI güvenliği araştırmacıları tarafından insanların yapay zekâ üzerindeki kontrolünü kaybedebileceği kritik nokta olarak değerlendiriliyor.
Coxon, mevcut yapay zekâ sistemlerinin gelecekte herhangi bir alanda insanüstü yeteneklere ulaşabileceğini ve siber saldırılardan bilimsel araştırmalara kadar çok farklı alanlarda büyük bir güç elde edebileceğini savundu.
“İnsanlığın kaderi özel şirketlerin Slack kanallarından belirlenmemeli”
Coxon, şirketlerin yapay zekâ yarışına girmesinin yalnızca teknolojik bir rekabet olmadığını, aynı zamanda medeniyet ölçeğinde risk taşıyan bir karar olduğunu söyledi.
Araştırmacıya göre Anthropic içerisindeki risklerin büyük ölçüde farkında olunmasına rağmen şirketler, başka bir şirketin sorumlu davranmayacağı düşüncesiyle yarıştan çekilmiyor.
Coxon, bu yaklaşımın şirketleri “önce biz yapalım” mantığıyla daha hızlı ilerlemeye ittiğini ve süperzekâya giden yolda riskli bir yarış oluşturduğunu savundu.
Ayrıca AI laboratuvarlarında çalışan araştırmacılara da çağrıda bulunan Coxon, gelecekte insanüstü bir yapay zekânın kontrol edilip edilemeyeceği yeterince anlaşılmadan yeni sistemlerin eğitilmesinin sorgulanması gerektiğini belirtti.
Anthropic çalışanı: “Yapay zekâ tüm insanları öldürebilir”
Coxon’un açıklamalarına Anthropic’teki meslektaşı Evan Hubinger da destek verdi.
Hubinger, ekibinin yapay zekânın tüm insanları öldürebileceğine gerçekten inandığını söyledi. Ancak mevcut modellerin oluşturduğu riskin düşük olduğunu, asıl tehlikenin süperzekânın özyinelemeli biçimde kendi kendini geliştirmesiyle ortaya çıkabileceğini belirtti.
Hubinger ayrıca Anthropic’in süperzekâ için alignment (hizalama) problemini çözmeye yönelik kesin bir plana sahip olmadığını ve şirketin bu konuda net biçimde doğru yolda olduğunun söylenemeyeceğini ifade etti.
AI ajanlarının kontrolden çıkması endişeleri artırıyor
Bu tartışmalar, yapay zekâ ajanlarının test ortamlarının dışına çıkabildiğine ilişkin son olayların ardından daha da önem kazandı.
Özellikle OpenAI sistemlerinin Hugging Face sunucularına erişmesi ve Anthropic’in AI ajanlarının üçüncü taraf güvenlik testlerindeki yanlış yapılandırmalar nedeniyle test ortamlarının dışındaki sistemlere ulaşabilmesi, AI sistemlerinin kontrol altında tutulması konusundaki endişeleri artırdı.
Coxon ve diğer güvenlik araştırmacıları açısından bu olaylar, daha yetenekli sistemler geliştirilmeden önce kontrol ve güvenlik mekanizmalarının güçlendirilmesi gerektiğine dair uyarı niteliğinde.
Süperzekâ yarışı hızlanıyor
Recursive self-improvement fikrinin peşinden gidenler yalnızca Anthropic ve OpenAI değil.
Son aylarda bu alana odaklanan çok sayıda girişim büyük yatırımlar almaya başladı. Bunlar arasında Ricursive Intelligence, Recursive Superintelligence ve eski Google DeepMind araştırmacısı Jeff Dean’in başlattığı Discovery Loop da bulunuyor.
Bu şirketlerin ortak hedeflerinden biri, yapay zekânın bir sonraki nesil yapay zekâyı geliştirebildiği sistemlere ulaşmak.
ControlAI’nin ABD’deki yöneticisi Connor Leahy ise recursive self-improvement döngülerinin, insanlığın kontrolü kaybedebileceği en olası eşiklerden biri olduğunu savundu.
Leahy’ye göre böyle bir döngü başladıktan sonra sistemi durdurmak için çok geç kalınması ihtimali bulunuyor.
ABD ve İngiltere’de yasaklama çağrıları
Süperzekâ tartışması artık yalnızca teknoloji şirketleri ve araştırmacılar arasında yaşanmıyor.
ABD’de Senatör Bernie Sanders ve Temsilci Greg Casar, geçtiğimiz hafta Ban Artificial Superintelligence Act adlı yasa teklifini sundu.
İngiltere’de ise İşçi Partisi milletvekili Alex Sobel, Parlamento’ya Artificial Superintelligence Security Bill adlı yasa teklifini taşıdı.
Her iki girişim de süperzekânın geliştirilmesi ve kullanımına yönelik daha sıkı düzenlemeler getirilmesini hedefliyor.
Leahy, İngiltere’deki teklifin özellikle recursive self-improvement’ı süperzekânın öncülü olarak ele aldığını ve bu sürecin düzenlenmesi ve önlenmesi gerektiğini söyledi.
“Süperzekâ bir araç değil, rakip”
Leahy’nin değerlendirmesi tartışmanın özünü oldukça net biçimde ortaya koyuyor.
Ona göre gelecekteki süperzekâ yalnızca insanların kullandığı daha gelişmiş bir teknoloji olmayabilir. İnsanların karşısında bağımsız hedeflere ve yeteneklere sahip bir sistem haline gelebilir.
Bu nedenle Leahy, süperzekânın yalnızca bir araç veya silah olarak değerlendirilmemesi gerektiğini, insanlık açısından potansiyel bir rakip olarak ele alınması gerektiğini savunuyor.
Yapay zekâ sektöründeki temel ayrışma da burada ortaya çıkıyor: Bir kesim kendi kendini geliştiren yapay zekânın insanlığın sonunu getirebileceğinden korkarken, diğer kesim aynı teknolojinin kanser, iklim değişikliği ve küresel çatışmalar gibi bugün çözülmesi zor görünen sorunlara çözüm sağlayabileceğine inanıyor.
