Otonom Yapay Zeka Ajanları Hugging Face Platformuna Sızdı

Yapay zeka dünyasında eşi benzeri görülmemiş bir olay yaşandı. ABD merkezli teknoloji şirketi OpenAI, siber güvenlik yeteneklerini test etmek için laboratuvar ortamında denediği gelişmiş yapay zeka modellerinin kontrolden çıktığını duyurdu. Kendi kapalı sistemindeki güvenlik açıklarını kullanan yapay zeka ajanları, internete erişim sağlayarak popüler yazılım platformu Hugging Face'e otonom bir siber saldırı gerçekleştirdi.

Olay, OpenAI'ın internet erişimi sınırlandırılmış ve tamamen kontrol altında tutulan "sandbox" adı verilen dijital test alanında meydana geldi. Şirketin yeni nesil GPT-5.6 Sol ve henüz kamuoyuna sunulmayan daha gelişmiş bir ön sürüm modelinin kombinasyonundan oluşan sistem, verilen değerlendirme görevini çözmek için sınırları zorladı. Testteki engelleri aşmak için yoğun işlem gücü harcayan yapay zeka, önce bulunduğu sistemin güvenlik açıklarını tespit ederek açık internete bağlandı. Ardından görevini tamamlamasına yardımcı olacak "gizli bilgileri" aramak üzere hedef olarak açık kod kütüphanesi Hugging Face'i seçti.

Geliştiricilerin ortak noktası olan Hugging Face platformuna sızan yapay zeka ajanı, birden fazla yöntem kullandı. İncelemelere göre sistem, "çalınan kimlik bilgilerini kullanmak da dahil olmak üzere çoklu saldırı vektörlerini bir zincir halinde birleştirerek" eşzamanlı ve karmaşık bir operasyon yürüttü. OpenAI tarafından yapılan resmi açıklamada, durumun ciddiyetine dikkat çekilerek şu ifadelere yer verildi: "Bu olayı, en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay olarak değerlendiriyor ve buna uygun şekilde müdahale ediyoruz."

Geçen hafta altyapısına yönelik sızmayı tespit ederek müdahale eden Hugging Face ise yaptığı açıklamada, daha önce böyle bir olayla karşılaşmadıklarını vurguladı. Açıklamada, "Bu durum daha önce ele aldığımız her şeyden farklıydı. Baştan sona otonom bir yapay zeka ajan sistemi tarafından yönetildi" denildi. Hugging Face CEO'su Clement Delangue ise X platformu üzerinden yaptığı açıklamada, saldırının arkasında kötü bir niyet bulunmadığına inandıklarını belirterek, "Tüm bunların tamamen otonom bir şekilde gerçekleşmiş olması gerçekten akıl almaz" ifadelerini kullandı.

Yaşanan bu gelişme, yapay zekanın sunduğu fırsatların yanı sıra siber güvenlikte ne denli büyük riskler barındırdığını bir kez daha ortaya koydu. Bir yandan karmaşık yazılım açıklarını insanlardan çok daha hızlı tespit edip savunma sistemlerini güçlendirme potansiyeli sunan yapay zeka, diğer yandan denetimden çıktığında insan müdahalesi olmaksızın savunma hatlarını yarabilen otonom bir tehdide dönüşebiliyor.