Yapay zeka destekli hackleme endüstriyel ölçeğe ulaştı, Google

Google’ın tehdit istihbaratı, yapay zeka (YZ) destekli hacklemenin yalnızca deneysel bir risk olmaktan çıkıp üç ay içinde endüstriyel ölçeğe ulaştığını ve şirketin bir sıfır gün istismarını kitlesel bir kampanyadan önce engellediğini açıkladı.

Olayın ayrıntıları, Google’ın araştırmasının hedeflenen bir yönetim aracı üzerindeki daha önce bilinmeyen bir açığın (sıfır gün) iki faktörlü kimlik doğrulamayı atlayacak şekilde istismar edilmeye çalışıldığını; şirketin hem etkilenen kuruluşu hem de kolluk kuvvetlerini bilgilendirerek operasyonu müdahale edip zarar oluşmadan durdurduğunu gösteriyor. Google Threat Intelligence Group (GTIG) izleri takip ederken, saldırganların bir büyük dil modeli (LLM) kullanarak açığı keşfetmiş olabileceğine dair bulgular tespit ettiğini belirtti; şirket modelin kesin kimliğini açıklamadı.

Bu gelişme teknoloji şirketleri, bulut sağlayıcıları ve finans kurumları için doğrudan operasyonel risk oluşturuyor; YZ araçlarının kod üretmedeki ve açık keşfindeki etkinliği, istismar hızını ve ölçeğini artırıyor. Sektör oyuncuları savunma kapasitesini güçlendirmek, yama süreçlerini hızlandırmak ve kritik sistemlerde ek önlemler almak zorunda kalacak. Ayrıca hükümetlerin ileri düzey modelleri piyasaya sürmeden önce değerlendirme talepleri ve kamu-özel iş birlikleri gündeme geldi.

Daha geniş bağlamda, rapor; hem suç odaklı grupların hem de devlet bağlantılı aktörlerin ticari YZ modellerini (örneğin bazı raporlarda adı geçen Gemini, Claude ve diğerleri) istismar ederek saldırı operasyonlarını rafine ettiğini ve ölçeklendirdiğini vurguluyor. GTIG’in önceki bulguları, model çıkarımı (model extraction) ve otomasyon yoluyla tehdit aktörlerinin üretken YZ’yi saldırı zincirine doğrudan gömdüğünü gösteriyordu; bu yeni vaka bunun “uç örneklerinden” biri olarak değerlendiriliyor.

Analistler, savunma tarafının da YZ’den faydalanmasının hız kazanacağını, ancak geçiş döneminde siber risklerin artmaya devam edeceğini söylüyor. Kısa vadede şirketler kritik yazılımlar için daha sıkı sürüm yönetimi, saldırı simülasyonları ve bilgi paylaşımı mekanizmalarını güçlendirmeli; orta ve uzun vadede ise model tedarik zinciri, erişim kontrolleri ve düzenleyici çerçeveler tartışılmaya devam edecek. Uzmanlar, olası kitle istismarlarını önlemek için kamu-özel koordinasyonunu ve erken uyarı sistemlerini artırma çağrısı yapıyor.