Arm’ın yapay zekâ ajanları için geliştirdiği AGI CPU işlemcisi, AMD EPYC serisiyle karşı karşıya geldiği yeni performans testlerinde dikkat çekici sonuçlar elde etti. Yedi farklı iş yükünün incelendiği karşılaştırmada Arm tabanlı sistemler, sunucu rafı başına hesaplanan işlem kapasitesinde AMD’ye ortalama 1,99 kat üstünlük sağladı. İzole çalışma ortamlarının başlatılmasında ise yüzde 45’e ulaşan süre farkları kaydedildi.
Arm AGI CPU ve AMD EPYC Arasındaki Performans Farkı Ne Kadar?
Yapay zekâ sistemlerinde işlemci ihtiyacı yalnızca büyük dil modellerinin çalıştırılmasıyla sınırlı değil. Otonom yapay zekâ ajanları, kullanıcıdan aldıkları görevleri yerine getirirken yazılım araçlarını çalıştırıyor, veri tabanlarında arama yapıyor ve gerektiğinde kod yürütüyor. Bu işlemlerin önemli bir bölümü CPU kaynaklarını kullanırken aynı anda çok sayıda ajanın çalışması sunucular üzerindeki yükü artırıyor.
Arm AGI CPU’nun performansı da bu kullanım senaryoları üzerinden değerlendirildi. Signal65 tarafından Arm iş birliğiyle gerçekleştirilen çalışmada, beşinci nesil AMD EPYC 9755 işlemcisiyle yedi farklı iş yükünde karşılaştırma yapıldı. Testler arasında yazılım geliştirme görevlerini değerlendiren SWE-bench ve terminal üzerinden yürütülen işlemleri ölçen Terminal-Bench 2 gibi araçlar da bulunuyor.
Ortaya çıkan sonuçlarda Arm AGI CPU’nun raf başına performans avantajı 1,43 kat ile 3,19 kat arasında değişti. Yedi testin ortalamasında elde edilen 1,99 katlık sonuç, aynı güç bütçesi içerisinde Arm tabanlı sunucuların daha yüksek toplam işlem kapasitesine ulaşabildiğini ortaya koydu. Ancak bu oranlar doğrudan işlemci çekirdeklerinin birebir karşılaştırılmasından değil, sunucu yoğunluğu ve enerji tüketiminin de hesaba katıldığı raf düzeyindeki modellemeden elde edildi.
Karşılaştırmada 24 kW güç bütçesine sahip sunucu rafları esas alındı. Arm AGI CPU kullanan sistemlerin güç tüketimi 950 ile 1.050 watt arasında hesaplanırken, çift soketli AMD EPYC 9755 sunucularında bu değer 1.700 watt olarak alındı. Böylece aynı güç sınırı altında 21 ile 23 arasında Arm sunucusu kullanılabilirken AMD tarafında 13 sunuculuk bir yapılandırma oluşturuldu.
Sunucuların toplam çekirdek sayıları da önemli ölçüde farklılaştı. Arm AGI CPU yapılandırmalarında raf başına 5.712 ile 5.888 arasında fiziksel işlemci çekirdeği bulunurken AMD EPYC sistemlerinde toplam 3.328 çekirdek yer aldı. Raf başına daha fazla sunucunun ve işlemci çekirdeğinin kullanılabilmesi, toplam işleme kapasitesine doğrudan yansıdı.
İş yükleri kendi içerisinde değerlendirildiğinde yazılım araçlarının çalıştırılmasında Arm tarafında 1,7 kat performans avantajı hesaplandı. Yapay zekâ ajanlarının görev yönetimi ve farklı işlemler arasında koordinasyon sağladığı senaryolarda fark 2 kata, akıl yürütme ve planlama süreçleriyle ilişkili CPU işlemlerinde ise 2,2 kata ulaştı. Sonuçlar, yapay zekâ sistemlerinin model çıkarımı dışındaki hesaplama ihtiyaçlarını kapsıyor.
Araştırmada yalnızca işlem kapasitesi değil, belirli miktarda işi tamamlamak için gereken veri merkezi alanı da değerlendirildi. Web sunucusu işlemleri, yapay zekâ ajanlarının kayıtlı görevlerinin yeniden yürütülmesi ve model sunumuna eşlik eden CPU iş yüklerinde Arm tabanlı sistemler için hesaplanan raf ihtiyacı yaklaşık yarıya indi. Veritabanı işlemleri ile vektör arama senaryolarında ise aynı işlem kapasitesine ulaşmak için yüzde 30 ile yüzde 35 arasında daha az sunucu rafı gerektiği hesaplandı.
Arm AGI CPU’nun karşılaştırıldığı tek işlemci EPYC 9755 olmadı. Çalışmanın farklı bir bölümünde AMD EPYC 9965 kullanılarak yapay zekâ ajanlarının izole çalışma ortamlarını ne kadar hızlı başlatabildiği ölçüldü. Sandbench üzerinden yürütülen bu testlerde runc, Firecracker ve gVisor teknolojileri değerlendirildi.
Yapay zekâ ajanları tarafından kullanılan bu ortamlar, kodların diğer süreçlerden ayrılarak çalıştırılmasını sağlıyor. Özellikle birden fazla ajanın aynı sunucu üzerinde farklı görevler yürüttüğü durumlarda yeni çalışma ortamlarının hazırlanması ek işlemci kaynakları gerektiriyor. Testlerde sıfırdan oluşturulan ortamlar ile daha önce hazırlanmış ortamların yeniden başlatılması ayrı ayrı incelendi.
Arm AGI CPU, soğuk başlatma olarak adlandırılan ilk çalıştırma senaryolarında çift soketli AMD EPYC 9965 sistemine kıyasla yüzde 45 daha kısa başlatma süresi kaydetti. Sıcak başlatma işlemlerinde süre yüzde 27 azalırken kaynak tahsisinin dört katına çıkarıldığı yoğun kullanım koşullarında en kötü durum başlatma süresi yüzde 41 daha düşük ölçüldü.
Yapay zekâ ajanlarının performansının değerlendirilmesi için kullanılan yöntemler de araştırmanın bir parçasını oluşturdu. Arm; Fujitsu, Meta ve OpenAI’ın desteğiyle CPU performansını gerçek yapay zekâ ajanı iş yükleri üzerinden değerlendiren yeni bir test metodolojisi geliştirdi. Bu yaklaşımda işlemciye yük bindiren görevler ayrı ayrı ölçülürken uçtan uca testlerle ajanların işlemleri tamamlama süreçleri de inceleniyor.
Yeni metodoloji, işlemcinin performansını yapay zekâ modelinin çıkarım hızı veya ağ bağlantısından kaynaklanan gecikmelerle karıştırmadan değerlendirmeye olanak tanıyor. Tekrarlanabilir test senaryoları üzerinden farklı işlemci mimarilerinin aynı iş yükleri altındaki davranışları karşılaştırılıyor. Böylece geleneksel CPU benchmark sonuçlarının dışında, yapay zekâ ajanlarının oluşturduğu işlem yükleri de doğrudan ölçülebiliyor.
Bununla birlikte raf başına açıklanan performans sonuçları, tamamı fiziksel olarak kurulmuş veri merkezi raflarında gerçekleştirilen doğrudan ölçümlerden oluşmuyor. Sunucu düzeyindeki performans verileri doğrulandıktan sonra güç tüketimi ve raf yoğunluğu temel alınarak daha büyük ölçekli sistemlerin işlem kapasitesi modellendi. Çalışmanın finansmanı Arm tarafından sağlandı ve nihai üretim donanımlarıyla yapılacak kapsamlı karşılaştırmalar henüz tamamlanmadı.
Arm mimarisinin elde ettiği sonuçlar, bütün x86 işlemcilerinin her kullanım senaryosunda geride kaldığı anlamına da gelmiyor. Mevcut veri merkezlerinde kullanılan yazılımların mimari uyumluluğu, donanım maliyetleri, enerji altyapısı ve soğutma gereksinimleri işlemci tercihlerini doğrudan etkiliyor. Özellikle kurulu AMD ve Intel sunucu sistemlerinin değiştirilmesinde toplam sahip olma maliyeti de değerlendirilmesi gereken unsurlar arasında bulunuyor.
Signal65’in sonraki çalışmalarında Arm AGI CPU’nun üretim sürümündeki sistemlerle yeniden test edilmesi planlanıyor. Yeni karşılaştırmalarda daha fazla iş yükünün ve farklı rakip işlemcilerin değerlendirilmesi bekleniyor. Mevcut testlerde açıklanan performans farklarının gerçek veri merkezi kurulumlarında ne ölçüde korunacağı ise bu kapsamlı ölçümlerle netleşecek.
