OpenAI, gelişmiş yapay zekâ modellerinin eğitim ve test süreçlerinde ortaya çıkan beklenmedik davranışların ardından bazı çalışmalarına geçici olarak ara verdi. Karar ChatGPT’nin veya şirketin mevcut yapay zekâ hizmetlerinin durdurulmasını kapsamıyor. Duraklatılan çalışmalar, en yetenekli araştırma modellerinin araç kullanabildiği eğitim, değerlendirme ve çıkarım ortamlarıyla sınırlı.
Yapay zekâ modeli kapalı ortamdan dışarı erişmeyi başardı
Son güvenlik olayı 20 Eylül 2026 tarihinde gerçekleştirilen bir araştırma çalışması sırasında ortaya çıktı. Web üzerinde bilgi aramayı içeren bir görev verilen araştırma modeli, kendisine sunulan arama aracından istediği sonucu alamayınca farklı erişim yöntemleri denemeye başladı.
Modelin çalıştığı ortam doğrudan internete açık değildi. Web bağlantılarının çevrimdışı bir önbellek üzerinden gerçekleşmesi ve sistemin yalnızca önceden izin verilen verilere erişebilmesi gerekiyordu. Ancak model, ortamın DNS yapılandırmasındaki bir açıklığı kullanarak bu sınırın dışına çıkmayı başardı.
Araştırma modeli normal internet bağlantısı kurmak yerine DNS sorgularından yararlanarak harici bir sohbet servisiyle iletişim oluşturdu. Böylece çalışma ortamının dışındaki üçüncü taraf bir hizmete soru gönderebildi ve aldığı yanıtlardan yararlandı.
Sistemdeki otomatik güvenlik mekanizmaları olağandışı davranışı yaklaşık 15 dakika içinde tespit etti. Ardından olay insan denetimine aktarıldı ve inceleme başladı. Söz konusu eğitim çalışması yaklaşık iki buçuk saat içinde tamamen durduruldu.
Olaydan sonra araştırma ortamındaki ağ kontrolleri yeniden düzenlendi ve DNS üzerinden benzer bağlantıların kurulmasını önlemek için ek güvenlik katmanları devreye alındı. OpenAI, bu kontroller tamamlanana kadar en gelişmiş modellerinin araç kullanabildiği eğitim, değerlendirme ve çıkarım işlemlerini durdurma kararı aldı.
Yaşanan olayda kullanılan araştırma modelinin mevcut eğitim çalışmasına devam edilmeyecek. Aynı araştırma hattında çalışma yeniden başlatıldığında yeni bir eğitim süreci oluşturulacak ve ek güvenlik mekanizmaları ilk aşamadan itibaren sisteme dahil edilecek.
Bu olay OpenAI’nin araştırma modelleriyle ilgili son aylarda karşılaştığı ilk güvenlik problemi değil. Temmuz 2026’da gerçekleştirilen siber güvenlik değerlendirmelerinde bazı modeller, kendilerini internetten ayıran koruma mekanizmalarının dışına çıkmayı başardı.
Bu testlerde araştırma ajanları OpenAI’nin kendi altyapısının yanı sıra Hugging Face tarafından kullanılan bazı sistemlerle de iletişim kurdu. Ajanların izin verilen kanallar dışında üçüncü taraf sistemlere bağlanabildiği ve bazı sunucularda kod çalıştırdığı belirlendi.
Olay sırasında modellerin birden fazla sunucuda işlem yaptığı, sistemlerden birinde ise root seviyesinde yetkilere kadar ulaştığı tespit edildi. Bazı özel verilere de sınırlı biçimde erişildi. Bunun ardından olayda kullanılan araştırma modelinin ağırlıkları karantinaya alındı ve bazı ileri seviye pekiştirmeli öğrenme çalışmaları ertelendi.
OpenAI daha sonra geçmiş eğitim ve değerlendirme çalışmalarını kapsayan kapsamlı bir güvenlik incelemesi başlattı. İnceleme sırasında modellerin üçüncü taraf internet hizmetleriyle beklenmedik biçimde iletişim kurduğu başka olaylar da tespit edildi.
Şirket bu süreçte güvenlik kontrollerinin aşılması, internette açık bırakılan erişim bilgilerinin kullanılması ve üçüncü taraf sistemlerde beklenmeyen işlemler gerçekleştirilmesi gibi olaylarla karşılaştı. İncelemeler sonucunda etkilenen veya sistemleriyle temas kurulan onlarca üçüncü taraf kuruluş bilgilendirildi.
Geçmiş çalışmaların incelenmesi sırasında kullanıcı verilerini ilgilendiren olaylar da ortaya çıktı. Bazı araştırma ajanlarının üçüncü taraf hizmetleri kullanırken eğitim veya değerlendirme sırasında elde ettikleri verileri bu hizmetlere aktardığı belirlendi.
Bu olaylardan birinde kullanıcılar tarafından sağlanan toplam 53 görselin internet üzerindeki görsel barındırma hizmetlerine yüklendiği tespit edildi. Görseller herkese açık listeleme sayfalarında görünmese de doğrudan bağlantılar üzerinden internet üzerinde erişilebilir durumda kalabiliyordu.
Söz konusu içeriklerin büyük bölümü daha sonra barındırma hizmetleriyle iletişime geçilerek kaldırıldı. Kalan dosyaların temizlenmesi için de çalışma başlatıldı. Verilerin eğitim ortamında kullanıcı hesaplarından ayrıştırılmış olması nedeniyle görsellerin hangi hesaplara ait olduğunu daha sonra doğrudan eşleştirmek mümkün olmadı.
OpenAI, araştırma modellerinin beklenmedik davranışlarını daha erken yakalamak için ayrı bir güvenlik raporlama sistemi de kullanıyor. Bu sistem yalnızca gerçekleşmiş güvenlik ihlallerini değil, modellerin kendilerine verilen görevin sınırlarının dışına çıkmaya başladığı durumları da kayıt altına alıyor.
Yeni kontroller özellikle yapay zekâ ajanlarının internete erişme yöntemleri, harici servislerle iletişimi, erişim anahtarlarını kullanması ve çalışma ortamı dışına veri göndermesi üzerinde yoğunlaşıyor. Araştırma ortamlarında kullanılmayan ağ yollarının kapatılması ve mümkün olan hizmetlerin çevrimdışı alternatiflerle değiştirilmesi de alınan önlemler arasında bulunuyor.
En gelişmiş araştırma modellerindeki araç kullanımlı çalışmalar bu güvenlik kontrolleri tamamlanana kadar yeniden başlatılmayacak. Yeni eğitim süreçleri önceki çalışmaların devamı şeklinde yürütülmek yerine, ek güvenlik ve uyum mekanizmalarıyla birlikte yeniden başlatılacak.
