Yapay zeka dünyasında son dönemin en popüler kavramlarından biri “recursion” yani özyineleme oldu. İki farklı girişim doğrudan bu ismi kullanırken, çok sayıda şirket de yol haritalarında “recursive self-improvement” (RSI) kavramına yer vermeye başladı.
Tıpkı AGI (Yapay Genel Zeka) tartışmalarında olduğu gibi RSI da artık yapay zekanın kontrolsüz şekilde hızlanacağı bir gelecek senaryosunun sembolü haline gelmiş durumda. Ancak sektör hâlâ RSI’ın tam olarak ne anlama geldiği konusunda ortak bir görüşe sahip değil.
RSI Nedir?
En temel haliyle RSI, kendi kendini sürekli geliştirebilen bir yapay zeka sistemini ifade ediyor. Yapay zekalar geliştirme sürecini insanlardan daha iyi yönetmeye başladığında süreç kapalı bir döngüye dönüşüyor. Böylece sistem yalnızca erişebildiği işlem gücüyle sınırlı hale geliyor ve insan müdahalesi gereksizleşiyor.
Bu senaryo kimi çevreler için endişe verici olsa da, birçok yapay zeka laboratuvarı tam olarak bu hedefin peşinden gidiyor.
AI Şirketleri RSI Yarışına Girdi
Bu ayın başlarında tanınmış yapay zeka araştırmacısı Richard Socher, Recursive Superintelligence adlı yeni girişimini duyurdu. Şirketin temel hedefi doğrudan RSI geliştirmek.
Socher, konu hakkında şunları söyledi:
“Temel odağımız, gerçekten özyinelemeli ve kendi kendini geliştiren süper zekayı ölçekli şekilde inşa etmek. Yani araştırma fikirlerinin oluşturulması, uygulanması ve doğrulanması süreçlerinin tamamen otomatik hale gelmesi.”
RSI üzerinde çalışan tek isim Socher değil. Tesla ve OpenAI geçmişiyle tanınan Andrej Karpathy de “Auto-Research” isimli projesiyle benzer bir hedefe yönelmiş durumda.
Karpathy, ajan sürülerini kullanarak büyük dil modellerini basit görevler üzerinde eğitiyor. Proje henüz GPT-2 ölçeğinde küçük geliştirmelerle sınırlı olsa da, araştırmacılar arasında büyük ilgi uyandırmış durumda. Karpathy’nin artık Anthropic bünyesinde çalışması ise bu yaklaşımın daha büyük ölçeklerde denenebileceği anlamına geliyor.
AutoScientist ve Yeni Nesil Araştırma Sistemleri
Cohere ve Google kökenli Sara Hooker tarafından kurulan Adaption şirketi de kısa süre önce “AutoScientist” isimli benzer bir sistem tanıttı.
Bu araç, yapay zeka ajanlarını kullanarak frontier model eğitim süreçlerini otomatikleştirmeyi amaçlıyor. Sistem, küçük ama sürekli iyileştirmeler yaparak tam ölçekli yapay zeka modellerinin geliştirilmesini hızlandırmayı hedefliyor.
Öte yandan Disarray kurucusu Doris Xin’in kendi kendini eğiten makine öğrenmesi ajanı, yakın zamanda düzenlenen bir Kaggle yarışmasında 28 madalya kazanarak dikkat çekti. Sistem, birçok insan tarafından eğitilmiş ajanı geride bıraktı.
Xin’e göre temel problem yaratıcılık değil, güvenilirlik:
“Bana göre sonsuz işlem gücü ve sonsuz zaman ufku verilirse aslında zaten bu noktaya ulaşmış durumdayız. Bunun yaratıcı bir süreç olduğunu düşünmüyorum. Bu daha çok yoğun mühendislik çalışması.”
Google ve Anthropic: “Henüz O Noktada Değiliz”
Buna rağmen sektörün RSI’a gerçekten ne kadar yakın olduğu hâlâ tartışmalı.
Google CEO’su Sundar Pichai yakın tarihli bir podcast röportajında bu konuda dikkat çekici açıklamalar yaptı.
Pichai, “Bu bir süreklilik süreci ve hepimiz ilerleme kaydediyoruz. Ancak insanların RSI diye tanımladığı seviyeye henüz ulaşmış değiliz,” dedi.
Yine de yapay zekaların kendi gelişim süreçlerinde aktif rol almaya başladığı görülüyor.
Ocak ayında Anthropic’in Claude Code ekibindeki bir geliştirici, takımın kodlarının “neredeyse yüzde 100’ünün” araç tarafından yazıldığını açıklamıştı. Bu da sistemin teknik anlamda kendi kendisini geliştirmeye başladığını gösteriyor.
Anthropic’in yeni Mythos sistemiyle ilgili yapılan bir ankette ise 18 mühendisten 5’i, sistemin yakında orta seviye bir yazılım mühendisinin yerini alabileceğini düşündüğünü belirtti.
Yapay Zekanın En Büyük Eksikleri
Ancak sistemlerin hâlâ ciddi zayıflıkları bulunuyor.
Anthropic raporuna göre Claude’un eksikleri arasında şunlar yer alıyor:
- Uzun süreli belirsiz görevleri yönetmek
- Organizasyon önceliklerini anlamak
- Doğru karar verme becerisi
- Talimatları kusursuz uygulamak
- Güvenilir muhakeme geliştirmek
Başka bir deyişle, RSI’ın temel taşı olan “öz yönlendirme” yeteneği henüz tam anlamıyla çözülebilmiş değil.
RSI Ne Kadar Yakın?
OpenAI’ın eski yönetim kurulu üyesi ve Georgetown Üniversitesi’ne bağlı CSET direktörü Helen Toner’a göre, araştırmalarda yapay zekadan yararlanmak RSI’a ulaşıldığı anlamına gelmiyor.
Toner, “Şu anda olan şey, araştırmacıların mümkün olan her yerde yapay zekayı kullanması. Bu klasik RSI tanımından farklı çünkü hâlâ insanlara ihtiyaç duyuluyor,” ifadelerini kullandı.
METR araştırmacısı Ajeya Cotra ise RSI yolculuğunu üç aşamada tanımlıyor:
1. Adequacy (Yeterlilik)
İnsanlar tamamen çıkarıldığında bile sistemin araştırma yapmaya devam edebilmesi.
2. Parity (Eşitlik)
Yapay zekanın araştırma performansının insanlarla aynı seviyeye ulaşması.
3. Supremacy (Üstünlük)
Tamamen yapay zekadan oluşan sistemlerin insan-yapay zeka ortaklığını geçmesi.
Cotra’ya göre yapay zeka sistemleri “yeterlilik” seviyesine oldukça yaklaşmış durumda. Ancak eşitlik ve üstünlük aşamalarının ne zaman gerçekleşeceği belirsizliğini koruyor.
RSI Önündeki Büyük Engeller
Birçok araştırmacı RSI’ın ölçekleme yasalarıyla birlikte doğal şekilde gelişeceğini düşünse de, Helen Toner bunun o kadar basit olmadığını söylüyor.
Toner, insanlığın tarih boyunca bilgisayar sistemlerini giderek daha soyut hale getirdiğini ancak kontrolü hiçbir zaman tamamen bırakmadığını vurguluyor.
“Makine dillerinden assembly’ye, oradan derlenen dillere geçtik. İnsan bilgisayarın iç işleyişinden giderek uzaklaştı ama hâlâ sistemi yöneten taraf insan.”
RSI’ın gerçekten gerçekleşebilmesi için yalnızca mühendislik değil, hizalama (alignment), güvenlik ve kaynak yönetimi gibi büyük problemlerin çözülmesi gerekiyor.
Ayrıca sınırsız işlem gücü de mevcut değil. Bu nedenle insan emeği ile makine zekası arasındaki denge hâlâ kritik önem taşıyor.
RSI Hâlâ Geleceğin Konusu
Kıyamet senaryolarındaki tam özyinelemeli yapay zeka sistemleri konusunda araştırmacıların ortaklaştığı tek konu ise şu:
RSI henüz burada değil.
