Blog Detayları

Geliştiricilere eldeki en iyi modeli sunmak her zaman temel hedefimiz olmuştur. Bu yılın başlarında, görevlerinizi inceleyip onlara en uygun modeli eşleştiren Otomatik Model Seçimi özelliğini devreye alarak bu süreci kolaylaştırdık. Bugün ise, çalışma zamanı orkestrasyonu yoluyla sınır düzeyinde zeka sunan Project HydraFusion araştırma önizlemesini tanıtıyoruz. Bu sistem, tam bir çalışma planı oluşturur; birden fazla sağlayıcıdaki modeller arasından seçim yaparak taslak hazırlama, eleştiri, revizyon veya daha güçlü modellere geçiş (cascade) yaparak görevinizi tamamlar.

HydraFusion, yerel, bulut ve bileşik modeller arasında otomatik semantik yönlendirme sağlayan genel stratejimizde kilit bir rol üstleniyor. Geliştiriciler için bu karmaşıklık arka planda kalır; HydraFusion'u diğer modellerden herhangi biri gibi seçersiniz ve o da her görev için performans, maliyet ve gecikmeyi dengeleyen bir çalışma akışı seçer. HydraFusion, çalışma akışı seçimini bir optimizasyon problemi olarak ele alır. Muhakeme, kod üretimi, hata ayıklama ve araç kullanımı yetenek sinyallerini kullanarak kalite standardını karşılayacak en verimli çalışma desenini seçer.

Her istek için HydraFusion şu anda üç çalışma deseninden birini seçer. İlk olarak Tekli (Single) desen, seçilen tek bir modelin görevi doğrudan çözmesini sağlar. İkinci olarak Kademeli (Cascade) desen, verimli bir modelin taslak çözüm sunmasını ve kalite kapısının bu çözümü kabul edip etmeyeceğine veya daha güçlü bir modele yükseltip yükseltmeyeceğine karar vermesini içerir. Üçüncüsü ise Eleştiri (Critique) desenidir; burada bir model sonucu taslaklar, farklı bir model ailesinden bağımsız bir salt okunur eleştirmen bunu inceler ve taslaklayan model bir kez revizyon yapar. Her desen, kalite-maliyet dengesine farklı bir açıdan yaklaşır; Tekli hızı korurken, Kademeli güçlü çıkarım yolunu açık tutar ve Eleştiri, bağımsız bir bakış açısı ekler.

Üç ayrı ajan tabanlı kodlama benchmark'ında yapılan çevrimdışı değerlendirmelerde, HydraFusion tutarlı bir şekilde sınır düzeyinde kalite gösterirken önemli ölçüde tahmini maliyet tasarrufu sağladı. TerminalBench 2.1'de, Claude Opus 5 ile karşılaştırıldığında doğrulanmış görev kalitesini yüzde 67 daha düşük tahmini maliyetle 4.9 puanlık bir iyileşme gösterdi. Bu sonuçlar, adaptif orkestrasyonun hem kaliteyi hem de verimliliği nasıl birleştirebileceğini somut bir şekilde kanıtlıyor. Geliştiriciler zaten modelleri manuel olarak koordine ediyor; bir görev için birini seçiyor, diğerini inceleme için kullanıyor veya zor problemleri daha yetenekli modellere devrediyor. HydraFusion, bu tanıdık süreci çalışma zamanına taşıyor.

HydraFusion'un anahtarı seçiciliktir. Bazı kodlama görevleri doğrudan çözülebilirken, diğerleri inceleme, revizyon veya yükseltmeden fayda görür. HydraFusion her isteği değerlendirir ve ihtiyaçlarını karşılayacak en az karmaşık çalışma akışını seçer; ek model çağrılarını yalnızca sonuçları iyileştirme olasılığı yüksek olduğunda kullanır. Bu adaptif yaklaşım, modeller arasında kalite, maliyet ve gecikmeyi dengeler. Model sınırı ilerledikçe HydraFusion da gelişir. GitHub Copilot'da yeni modeller mevcut olduğunda, bunları değerlendirip model havuzuna entegre edebilir ve güçlerini en uygun görevlere taşıyabiliriz.

Adaptif çoklu model orkestrasyonunu tek bir güvenilir kodlama deneyimine dönüştürmek, çalıştırma, inceleme, maliyet ve depo durumunun dikkatli kontrolünü gerektirir. HydraFusion, beş operasyonel ilke etrafında inşa edilmiştir. Bunların ilki Tam Muhasebe'dir; taslak, eleştiri, revizyon, yükseltme, yeniden deneme ve yedekleme dahil olmak üzere her çalışma akışı bacağında toplam maliyet ve kullanımı izler. İkinci ilke Sınırlı Çalıştırma'dır; her bacağa açık zaman aşımı ve iptal davranışı vererek çalıştırma ve maliyeti tanımlı sınırlar içinde tutar. Üçüncüsü İzole İncelemedir; inceleme adımlarını, araçsız ve izole bağlamlarda çalıştırarak güvenlik ve tutarlılığı garanti eder.

Bu mimari, GitHub Copilot ekosisteminde yeni bir standart belirleyerek yazılım ekiplerinin karmaşık AI entegrasyonlarını yönetme şeklini değiştiriyor. Geliştiriciler, hangi modelin ne zaman kullanılacağına dair stratejik kararlar vermek zorunda kalmadan, görevlerine odaklanabilirler. HydraFusion, bu kararları otomatikleştirerek hem küçük ölçekli hata ayıklama görevlerinde hem de büyük ölçekli mimari tasarımlarda tutarlı bir kalite seviyesi sunar. Sistem, farklı model sağlayıcılarının güçlü yönlerini birleştirerek, tek bir modelin sağlayamayacağı düzeyde bir esneklik ve güç sunar.

Önümüzdeki dönemde, HydraFusion'un araştırma önizlemesi, topluluktan gelen geri bildirimlerle sürekli gelişmeye devam edecek. Bu yaklaşım, yapay zekanın yazılım geliştirme döngüsüne entegrasyonunda maliyet verimliliği ve performans optimizasyonu arasındaki dengeyi kurmanın kritik bir strateji olduğunu gösteriyor. Geliştiriciler için bu, yalnızca daha hızlı kod yazmak değil, aynı zamanda daha akıllıca kaynak kullanmak anlamına geliyor. HydraFusion, bu vizyonu gerçeğe dönüştürerek, sınır düzeyinde zekayı erişilebilir ve sürdürülebilir bir deneyime dönüştürüyor.