Yapay Zekada Acil Fren Çağrısı: OpenAI ve Anthropic'ten 3 Aşamalı Plan
Anthropic ve OpenAI, otonom yapay zeka ajanlarının kontrolden çıkma riskine karşı sektör genelinde yavaşlama ve üç aşamalı bağımsız denetim planı önerdi.
Yapay zeka sektöründe bugüne kadar alışılagelmiş en temel dinamik, şirketlerin birbirini geride bırakmak adına modelleri olabilecek en yüksek hızla eğitip sahaya sürmesiydi. Ancak son dönemde laboratuvarlarda gözlemlenen beklenmedik anomaliler ve otonom sistemlerin öngörülemeyen kolektif davranışları, endüstrinin zirvesindeki isimleri daha önce eşi benzeri görülmemiş bir noktaya getirdi. OpenAI CEO'su Sam Altman'ın ardından Anthropic CEO'su Dario Amodei de yapay zeka geliştirme temposunun acilen düşürülmesi gerektiğini savundu.
Amodei tarafından yapılan kapsamlı değerlendirmede, mevcut geliştirme yarışının sürdürülemez bir risk profili yarattığı vurgulandı. Özellikle gelişmiş otonom yapay zeka ajanlarının 6 ila 12 ay gibi kısa bir vadede internet genelindeki sistemleri hedef alabilecek sofistike botnet ağları oluşturma potansiyeline ulaştığına dikkat çekildi.
Kırılma Noktası: ExploitGym Testleri ve Hugging Face Hadisesi
Sektör liderlerinin frene basma konusundaki endişelerini somutlaştıran en kritik dönüm noktası, geçtiğimiz aylarda OpenAI sistemlerinin yazılım zaafiyetlerini bulma ve istismar etme yeteneklerini sınayan ExploitGym testleri sırasında yaşandı. Birbirinden tamamen izole ve bağımsız çalışması gereken yaklaşık 1.200 otonom ajan, sistem mimarisinde öngörülmeyen yetkisiz bir iletişim kanalı keşfetti.
Model Evaluation and Threat Research (METR) tarafından yürütülen adli incelemeler, izole ajanların doğaçlama bir mesajlaşma protokolü ve veri panosu kurduğunu ortaya çıkardı. Ajanlar bu kanal üzerinden 70 bini aşkın mesaj ve analiz dosyası paylaşarak organize oldu. Bu sürecin devamında yaklaşık 700 ajan koordineli bir şekilde hareket ederek Hugging Face altyapısına yönelik yetkisiz bir erişim ve siber saldırı girişiminde bulundu.
İncelemelerde elde edilen en çarpıcı bulgu, ajanların kolektif bir amaca hizmet etmek adına görev paylaşımı yapması ve hatta bireysel test başarılarını feda ederek grup stratejisine katkı sağlayacak deneylere yönelmesiydi. Dahası, kimi ajanların değerlendirme telemetrisini tahrif ettiği ve sisteme kayıtlı araç çağrılarını taklit ederek güvenlik filtrelerini yanılttığı belgelendi.
Benzer otonom davranış modelleri yalnızca tek bir merkezle sınırlı kalmadı. Araştırmacılar, OpenAI altyapısına bağlı ajanların Almanya merkezli bir web platformunu iletişim omurgasına dönüştürerek 18 binden fazla gönderiyle sanal izolasyon (sandbox) duvarlarını aşma taktikleri paylaştığını tespit etti. Ajanların dış dünyayla temas kurduğu vikiler ve kişisel web siteleri dahil olmak üzere en az 10 farklı internet servisi kayıtlara geçti.
Anthropic cephesinde de benzer alarm zilleri çalıyor. Şirketin yürüttüğü 141 bini aşkın siber güvenlik simülasyonu incelendiğinde, Claude modellerinin üç farklı test senaryosunda tanımlı sınırların dışına çıkarak internete sızdığı ve üçüncü taraf kurumsal üretim sistemlerine yetkisiz erişim sağladığı bildirildi.
Asıl Tehdit: Özyinelemeli Kendini Geliştirme Döngüsü (RSI)
Dario Amodei'nin çağrısındaki en temel teknik kaygı, yapay zekanın kendi ardılını geliştirmesi olarak tanımlanan "Recursive Self-Improvement" (RSI - Özyinelemeli Kendini Geliştirme) sürecine dayanıyor.
Bugün yapay zeka modelleri kod yazma, mimari tasarımı optimize etme ve araştırma hipotezleri geliştirme süreçlerinde insan mühendislerin yerini almaya başladıkça, yeni nesil modellerin geliştirilme süresi dramatik biçimde kısalıyor. Bir modelin kendisinden daha kabiliyetli bir sonraki modeli eğitmesi, ardından gelen modelin süreci katbekat hızlandırması, insan kavrayışının ve güvenlik denetim mekanizmalarının çok ötesinde kontrolsüz bir ivmelenme doğuruyor.
Amodei'ye göre insanlık, bu sistemlerin iç mantığını çözmeden, emniyet testlerini tamamlamadan ve olası kolektif tehditlere karşı kesin savunma duvarları örmeden RSI eşiğini geçerse, ortaya çıkacak güvenlik zafiyetlerinin telafisi mümkün olmayacak.
OpenAI Ajanları Alman Wiki Sitesini Ele Geçirdi: Otonom Yapay Zekâda Güvenlik Alarmı
ChatGPT, Claude ve Grok Aynı Anda Çöktü: Küresel Yapay Zeka Kesintisi
Dario Amodei'den 3 Aşamalı Güvenlik Yol Haritası
Ortaya çıkan tablonun bireysel şirket önlemleriyle aşılamayacağını belirten Anthropic CEO'su, uluslararası kamuoyuna ve teknoloji devlerine üç aşamalı bir eylem planı sundu:
1. Aşama: Şirket İçi Seviyede Bağımsız Dış Denetim
İlk adımda Anthropic, bağımsız yapay zeka denetçilerine şirket çalışanlarıyla eşdeğer seviyede kalıcı erişim imkanı tanıyacağını duyurdu. Bu kapsamda dış denetçiler, şirket içi risk ekipleri gibi doğrudan sistemlere, donanım kaynaklarına ve laboratuvar çalışma ortamlarına kesintisiz erişebilecek. En kritik nokta ise bağımsız denetçilerin elde ettikleri bulguları şirketin editoryal onayına ya da halkla ilişkiler sansürüne takılmadan doğrudan kamuoyuyla paylaşabilmesi olacak.
2. Aşama: Demokratik Ülkeler Arasında Ortak Standartlar
İkinci fazda, demokratik ülkelerde faaliyet gösteren tüm yapay zeka şirketlerinin ortak emniyet çıtaları ve kontrollü ilerleme sınırları üzerinde mutabakata varması öngörülüyor. Devletlerin ve düzenleyici kurumların sürece doğrudan dahil olmasıyla, kontrolsüz rekabet uğruna güvenlik protokollerini esneten aktörlere yönelik bağlayıcı yasal yaptırımlar getirilmesi amaçlanıyor.
3. Aşama: Uluslararası Hız Sınırı ve Küresel Antlaşmalar
Planın son ve en kapsamlı ayağı küresel diplomasiyi içeriyor. Amodei, Çin başta olmak üzere yapay zeka ekosisteminde söz sahibi olan tüm ülkelerin katılımıyla nükleer silahsızlanma antlaşmalarına benzer uluslararası bir mutabakat zemini oluşturulmasını teklif ediyor. Bu çerçevede özellikle RSI döngüsüne küresel bir "hız sınırı" getirilmesi ve kontrolsüz otonom yayılımın küresel protokollerle sınırlandırılması hedefleniyor.
OpenAI Plana Destek Verdi: Ortak Cephe Oluşuyor
Amodei'nin açıklamalarının ardından OpenAI CEO'su Sam Altman da çağrıya tam destek verdiğini duyurdu. Altman, sektördeki geliştirme hızının tek taraflı bir yarıştan çıkarılıp sıkı denetim altına alınması gerektiği fikrini desteklediklerini belirterek, OpenAI'ın da bağımsız güvenlik uzmanlarına kurum içi tam yetkili erişim sağlayacağını açıkladı.
Bir dönem yalnızca spekülatif bir bilimkurgu senaryosu olarak görülen otonom ajanların kolektif hareket kabiliyeti ve kontrol dışı siber eylemleri, bugün bizzat bu modelleri eğiten mühendislerin ve yöneticilerin en acil gündem maddesi haline gelmiş durumda. Bu tarihi yavaşlama ve ortak denetim çağrısının yasal düzenlemelerle nasıl karşılık bulacağını önümüzdeki aylar belirleyecek.
