Yapay zekanın gelişimi, siber güvenlik alanında yeni bir tehdidi gündeme getirdi. Claude’un geliştiricisi Anthropic, küçük yapay zeka modellerinin akıllı televizyon, robot süpürge, güvenlik kamerası ve diğer internete bağlı cihazlar arasında kendi kendine yayılabilecek seviyeye yaklaştığını açıkladı.
Şirketin gerçekleştirdiği deneyler, büyük veri merkezlerine ihtiyaç duymayan yapay zeka sistemlerinin düşük maliyetli cihazlarda çalışabildiğini ve belirli koşullarda çoğalma işlemlerini gerçekleştirebildiğini ortaya koydu.
Yapay Zeka Bilgisayar Virüsü Gibi Yayılabilir
Anthropic’in Frontier Red Team araştırma ekibi, yapay zeka modellerinin insan müdahalesi olmadan farklı cihazlara yerleşme ve kendilerini çoğaltma becerilerini inceledi. Çalışmada 30 milyar veya daha az parametreye sahip modellerin, bu süreç için gereken işlemlerin önemli bölümünü gerçekleştirebildiği belirlendi. Ancak küçük modeller henüz bütün aşamaları tek başlarına güvenilir biçimde tamamlayamıyor.
Araştırmanın merkezinde, geleneksel bilgisayar solucanlarına benzeyen yeni bir tehdit türü bulunuyor. Bilgisayar solucanları, güvenlik açıklarından yararlanarak bir sistemden diğerine yayılabiliyor. Yapay zeka destekli benzer bir zararlı yazılım ise karşılaştığı cihazın donanımını ve işletim sistemini inceleyerek farklı sistemlere uyum sağlayabiliyor.
Üstelik söz konusu yapılar yalnızca önceden belirlenmiş komutlarla sınırlı kalmıyor. Başarısız bağlantı ve kurulum denemelerinde karşılaşılan sorunlar kaydedilebiliyor. Elde edilen bilgiler sonraki yapay zeka kopyalarına aktarılarak aynı hataların tekrarlanması önlenebiliyor.
Anthropic, bu olası zararlı yazılım türünü küçük model ağırlıklarıyla çoğalan sistemler olarak tanımlıyor. Bir cihazın ele geçirilmesinin ardından yapay zeka modelinin dosyaları başka bir cihaza aktarılabiliyor veya internet üzerinden yeniden indirilebiliyor. Ardından modelin yeni cihaz üzerinde çalışması için gerekli yazılım ortamı kurulabiliyor.
Araştırmanın en dikkat çekici deneylerinden biri, yaklaşık 55 dolara satın alınan 15 Android TV kutusuyla gerçekleştirildi. Her birinde yalnızca 4 GB RAM bulunan cihazlar birbirine bağlandı ve Google’ın Gemma4-26B-A4B modeli bu cihazlara dağıtılarak çalıştırıldı. Modelin farklı katmanları ayrı cihazların belleğine yüklenirken hesaplama işlemleri ortak şekilde gerçekleştirildi.
Bu donanım grubunda yapay zeka modelinin çalışma hızı saniyede yalnızca 0,39 token seviyesinde kaldı. Oldukça düşük olan bu performans nedeniyle karmaşık işlemlerin tamamlanması uzun sürdü. Gemma4-26B-A4B için bir yapay zeka çalışma ortamının kurulması 71 ila 150 saat sürerken daha küçük Qwen3.5-9B modelinde süre 28 ila 51 saat arasında değişti.
Qwen3.5-9B modeliyle yapılan başka bir deneyde ise dokuz farklı donanım türü kullanıldı. Model, bunların sekizinde başka bir dil modelini çalıştırmak için gerekli yazılım altyapısını başarıyla hazırladı. İşletim sistemine uygun araçların belirlenmesi, yazılım bağımlılıklarının yüklenmesi ve karşılaşılan hataların düzeltilmesi gibi işlemler bu sürece dahil edildi.
Araştırmacılar daha sonra sekiz sanal Android 15 cihazından oluşan kapalı bir ağ kurarak yapay zeka modellerinin cihazlar arasında yayılma becerisini test etti. Bu bölümde kullanılan daha güçlü GLM-5.2 modeli, beş denemenin dördünde sekiz cihazın tamamına ulaşmayı başardı. Kalan denemede ise yedi cihaza erişim sağlandı.
Ancak deney ortamında önemli güvenlik kısıtlamaları vardı. Android Debug Bridge bağlantıları kimlik doğrulaması gerektirmeyecek şekilde yapılandırılmıştı. Ayrıca çoğalma işlemini yöneten GLM-5.2 modeli, hedef cihazlarda çalıştırılan daha küçük Llama3.1-8B modelinden ayrı bir altyapı üzerinde çalışıyordu. Dolayısıyla deney, küçük bir yapay zeka modelinin gerçek dünyadaki korumalı cihazlara tek başına bulaşabildiğini kanıtlamıyor.
Anthropic’in değerlendirdiği risklerden biri de bu sistemlerin merkezi bir sunucuya ihtiyaç duymaması. Bir yapay zeka modeli çok sayıda cihaz arasında dağıtılarak çalıştırıldığında, tek bir bilgisayarın veya sunucunun kapatılması bütün ağı durdurmak için yeterli olmayabilir.
Şirket, geçmişte iki milyondan fazla cihazı etkileyen Kimwolf botnet ağını da örnek aldı. Benzer büyüklükte bir cihaz ağı 15’er cihazlık gruplara ayrıldığında yaklaşık 133 bin yapay zeka modeli kopyası çalıştırılabileceği hesaplandı. Bununla birlikte bu kadar büyük bir ağın toplam işlem gücü bile modern veri merkezlerinin sunduğu kapasitenin oldukça altında kalıyor.
Yapay zeka modellerinin önceki denemelerinden elde ettikleri bilgileri kullanabilmesi de deneylerde değerlendirildi. Qwen3.5-9B modelinin ilk nesilde yüzde 45 olan başarılı kurulum oranı, önceki denemelerin notları sonraki nesillere aktarıldığında yüzde 61 ile yüzde 84 aralığına yükseldi. Daha güçlü Claude Opus 4.8 modelinden alınan tavsiyeler ise aynı görevlerde ölçülebilir bir iyileşme sağlamadı.
Anthropic’in tahminine göre küçük modeller mevcut gelişim hızlarını korurlarsa 2026 yılı sonuna kadar daha büyük modellerin kontrollü testlerde ulaştığı çoğalma becerilerine erişebilir. Bununla birlikte bağımsız biçimde yayılabilen küçük yapay zeka sistemlerinin ne zaman ortaya çıkacağı konusunda kesin bir tarih bulunmuyor.
Potansiyel risk taşıyan cihazlar yalnızca Android TV kutularından oluşmuyor. Akıllı buzdolapları, fırınlar, robot süpürgeler, çim biçme makineleri ve güvenlik kameraları da araştırmada değerlendirilen cihazlar arasında yer alıyor. Özellikle güvenlik güncellemesi almayan veya zayıf parola korumasına sahip internet bağlantılı ürünler, benzer saldırılar için kullanılabilecek donanımlar arasında bulunuyor.
Araştırmacılar, olası yapay zeka solucanlarının ağ trafiği üzerinden tespit edilebileceğini belirtiyor. Cihazlar arasında büyük model dosyalarının aktarılması, normalde birbiriyle iletişim kurmayan ürünlerin sürekli veri alışverişinde bulunması ve olağan dışı bağlantı girişimleri, güvenlik sistemlerinin izleyebileceği belirtiler arasında yer alıyor.
İnternet servis sağlayıcılarının şüpheli cihazları belirlemesi, enfekte bağlantıları geçici olarak sınırlandırması ve üreticilerin varsayılan güvenlik ayarlarını güçlendirmesi de değerlendirilen önlemler arasında bulunuyor. Geçmişte Mirai botnet saldırısına karşı uygulanan bir müdahalede, kullanıcıların bilgilendirilmesi ve bağlantıların kısıtlanması sayesinde 14 gün içinde enfeksiyonların yüzde 92’si temizlenmişti. Bildirim yapılmayan grupta ise bu oran yüzde 74 olmuştu.
Anthropic’in araştırması, yapay zeka modellerinin kendiliğinden çoğalmaya karar verdiğini veya kontrol dışına çıkarak internette yayıldığını göstermiyor. Testlerde modeller belirli görevlerle yönlendirildi ve güvenlik önlemleri sınırlandırılmış ortamlarda çalıştırıldı. Küçük yapay zeka modellerinin herhangi bir dış komut olmadan çoğalma sürecini başlatıp başlatamayacağı ise henüz bilinmiyor.
