ABD, Google, Microsoft ve xAI ile AI modellerini ön inceleyecek

ABD Ticaret Bakanlığı'na bağlı Center for AI Standards and Innovation (CAISI), Google DeepMind, Microsoft ve Elon Musk’ın xAI şirketleriyle, yeni nesil yapay zeka modellerinin kamuya açılmadan önce ön değerlendirmesini yapacak anlaşmalar imzaladı. Bu iş birlikleri, modellerin siber güvenlik, biyogüvenlik ve kimyasal silah riskleri açısından incelenmesini amaçlıyor.

Taraflar CAISI’ye, dağıtıma hazırlanmış veya ön sürüm hallerindeki modeller üzerinde “pre-deployment evaluations” (ön dağıtım değerlendirmesi) ve hedefe yönelik araştırma yürütme yetkisi verdi. CAISI, bu çalışmalarla modellerin beklenmedik davranışlarını, kötüye kullanım yollarını ve güvenlik açıklarını ölçmeyi, ayrıca değerlendirme metodolojilerini geliştirmeyi hedefliyor. Microsoft ayrıca aynı gün Birleşik Krallık merkezli AI Security Institute ile eş zamanlı iş birlikleri açıklayarak benzer test süreçlerini genişlettiğini bildirdi.

Bu gelişme teknoloji hisseleri ve siber güvenlik pazarını doğrudan etkileme potansiyeli taşıyor; yatırımcılar, şirketlerin düzenleyici uyum ve güvenlik maliyetlerini yeniden fiyatlayabilir. Haber akışı, büyük yapay zeka tedarikçilerinin hükümet denetimine daha fazla açık olduğunu gösterirken piyasa belirsizliği kısa vadede volatiliteyi artırabilir. Kurumlar, risk değerlendirme süreçlerinin sonuçlarına göre model dağıtım takvimlerini erteleyebilir veya ek güvenlik önlemleri açıklayabilir.

Anlaşmalar, 2024’te CAISI’nin (eski adıyla US Artificial Intelligence Safety Institute) OpenAI ve Anthropic ile imzaladığı uyum çabalarının devamı niteliğinde. Son dönemde bazı gelişmeler, örneğin Anthropic’in Mythos modeline ilişkin güvenlik endişeleri, federal makamları daha sıkı inceleme mekanizmaları kurmaya yönlendirdi. CAISI’nin görevi, ticaret bakanlığı çatısı altında ölçüm bilimiyle yapay zekanın güvenliğini artırmak ve ulusal güvenlik risklerini azaltmak olarak öne çıkıyor.

Analistler, bu tür ön değerlendirmelerin uzun vadede sektöre fayda sağlayacağını; ancak kısa vadede ürün lansmanlarının ertelenmesi, Ar-Ge maliyetlerinin artması ve düzenleyici belirsizlik nedeniyle volatilitenin yükselebileceğini belirtiyor. Yatırımcılar için takip edilmesi gerekenler arasında CAISI değerlendirme sonuçları, şirketlerin ek güvenlik tedbirleri ve düzenleyici açıklamalar bulunuyor; önümüzdeki haftalarda federal kurumların raporları ve şirket duyuruları piyasalar açısından belirleyici olacak.