AWS, Açık Kaynaklı Karar Modeli Strands Decider 2B'yi Duyurdu

Otonom yapay zeka ajanlarının (AI Agents) yükselişiyle birlikte, geleneksel büyük dil modellerinin (LLM) operasyonel darboğazları da gün yüzüne çıkmaya başladı. Bir ajanın karmaşık bir görevi yerine getirirken her adımda yüzlerce veya binlerce token üreterek basit bir yönlendirme ya da araç seçimi yapması, hem yüksek API faturalarına hem de kabul edilemez gecikme sürelerine yol açıyor. Amazon Web Services (AWS), deneysel inovasyon kolu Strands Labs çatısı altında bu soruna doğrudan odaklanan yeni açık kaynaklı modeli Strands Decider 2B'yi duyurdu.

Geleneksel üretici modellerden farklı bir felsefeyle tasarlanan Strands Decider 2B, serbest metin veya sohbet yanıtı üretmiyor. Bunun yerine, kendisine sunulan mevcut durum ve önceden tanımlanmış seçenekler arasından en uygun kararı tek bir ileri besleme (forward pass) adımında seçerek geri döndürüyor.

Üretim Değil Seçim: Karar Modelleri Neden Önemli?

Bugün otonom bir yazılım geliştirme veya operasyon ajanı incelendiğinde, yapılan hamlelerin büyük bir kısmının aslında yaratıcı metin üretimi değil, ardışık kontrol ve yönlendirme kararları olduğu görülür. Örneğin bir ajanın dosya okuma, komut çalıştırma, webde arama yapma veya görevi tamamlama adımları arasında karar vermesi gerekir.

Bu tür rutin seçimler için her döngüde yüz milyarlarca parametreli devasa modelleri çağırmak, bilişsel açıdan bir vidayı sıkmak için dev bir vinç kullanmaya benzer. "System 1" olarak adlandırılan hızlı, sezgisel ve kurala dayalı kararların dev modeller üzerinden işletilmesi token tüketimini katlarken tepki süresini de saniyeler seviyesine çıkarır.

AWS Strands Decider 2B, işte bu noktada devreye giriyor. Model, metin üretme katmanını tamamen devreden çıkararak yalnızca karar verme olasılıklarını puanlıyor. Böylece ajanın karar anlarındaki gecikmesi yüz milisaniyenin altına inerken, token maliyeti de sıfırlanıyor.

Strands Decider 2B'nin Teknik Mimarisi ve Pointer-Head Yapısı

Strands Decider 2B, açık kaynak dünyasının güçlü hafif modellerinden biri olan Qwen3.5-2B mimarisinin gövdesi (torso) üzerine inşa edildi. Ancak AWS mühendisleri geleneksel dil modelleme çıktısını alışılagelmiş biçimde bırakmadı.

Modelin arkasındaki temel mühendislik detayları şu şekilde öne çıkıyor:

1. Pointer-Head Çıktı Katmanı

Geleneksel LLM'lerde son katmanda yer alan ve on binlerce kelimelik sözlükten bir sonraki kelimeyi tahmin eden devasa "LM Head" katmanı çıkarıldı. Bunun yerine yaklaşık 1 milyon parametreden oluşan hafif bir "pointer head" entegre edildi. Bu başlık, bağlamda yer alan seçeneklerin her birine dikkat (attention) mekanizmasıyla doğrudan referans vererek puanlama yapıyor.

2. Tek Adımda Kesin Sonuç ve Güven Skoru

Geleneksel modeller her token için döngüsel hesaplama yaparken, Strands Decider 2B verilen girdi durumunu ve aday seçenekleri tek seferde okuyor. Çıktı olarak yalnızca seçilen opsiyonun indeksini ve bu seçime dair kalibre edilmiş bir olasılık güven skorunu döndürüyor.

3. LoRA ile Özelleştirilmiş Eğitim

AWS, temel gövdeyi dondurarak düşük dereceli adaptasyon (LoRA) teknikleriyle modeli yoğun karar veri kümeleri üzerinde eğitti. Bu sayede model hem genel dil kavrayışını koruyor hem de araç seçimi ve karar alma görevlerinde olağanüstü yüksek bir doğruluk sergiliyor.

Hibrit Ajan Mimarisi: Hızlı Karar, Derin Akıl Yürütme

Strands Decider 2B'nin amacı frontier seviyesindeki akıl yürütme modellerinin yerini almak değil; onlarla mükemmel bir iş bölümü kurmak. AWS, geleceğin kurumsal ajan sistemlerinin "hibrit ajan mimarisi" üzerinde yükseleceğini vurguluyor.

Bu mimaride görev dağılımı iki temel eksende gerçekleşiyor:

• Hafif Karar Katmanı (Strands Decider 2B): Ajanın rutin döngülerindeki araç seçimlerini, hata denetimlerini, koşullu dallanmaları ve güvenlik bariyerlerini (guardrails) milisaniyeler içinde yerel donanımda çalıştırır.
• Derin Muhakeme Katmanı (Frontier LLM): Kod mimarisini tasarlama, karmaşık algoritmaları çözme veya detaylı analiz raporları oluşturma gibi yüksek düzeyli mantık gerektiren durumlarda çağrılır.

Bu yaklaşım sayesinde bir ajanın uçtan uca görev tamamlama süresi 3 ila 5 kat hızlanırken, API maliyetlerinde yüzde 70'in üzerinde tasarruf elde edilebiliyor.

Donanım Uyumluluğu ve Tamamen Açık Kaynak Ekosistem

Strands Decider 2B, kurumsal gizlilik ve bağımsızlık gereksinimleri gözetilerek tamamen yerel dağıtıma uygun şekilde optimize edildi. Standart bir geliştirici dizüstü bilgisayarında ya da NVIDIA RTX 3090 / 4090 gibi tüketici sınıfı ekran kartlarında 100 milisaniyenin altında çıkarım (inference) hızlarına rahatlıkla ulaşabiliyor.

AWS, kapalı API bağımlılıklarının yarattığı kara kutu sorununa karşı modeli son derece özgürlükçü bir yaklaşımla paylaştı:

• Model ağırlıkları ve mimari dosyaları Apache 2.0 lisansı altında Hugging Face üzerinde yayımlandı.
• Yalnızca ağırlıklar değil; modeli sıfırdan yeniden üretmeyi veya kurum içi verilere göre yeniden eğitmeyi sağlayan veri işleme ve eğitim betikleri de açık kaynak olarak paylaşıldı.
• Geliştiriciler harici hiçbir bulut servisine bağımlı kalmadan, modeli kendi sunucularında veya uç cihazlarında tam kontrol ile barındırabiliyor.

TypeSafe AI'ın geçtiğimiz günlerde tanıttığı Jev modeliyle başlayan "System 1 karar motorları" dalgası, AWS'nin Strands Decider 2B hamlesiyle birlikte açık kaynak topluluğunun doğrudan erişebildiği standart bir araç setine dönüşüyor. Yapay zeka ajanlarının geleceğinde artık yalnızca daha büyük modeller değil, çok daha hedefe yönelik, hızlı ve ekonomik çalışan uzmanlaştırılmış karar motorları belirleyici olacak.