Yapay Zeka Ajanlarının Enerji Tüketimi Piyasaları Endişelendiriyor: KAIST Uyardı

Güney Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) araştırmacılarının yayımladığı çığır açan bir çalışma, otonom YZ ajanlarının enerji tüketiminin, basit sohbet botlarına göre önemli ölçüde yüksek olduğunu gözler önüne serdi. Profesör Minsoo Rhu liderliğindeki ekip, YZ ajanlarının bir sorgu başına 136,5 kata kadar daha fazla elektrik harcayabileceğini belirterek, bu durumun veri merkezleri için ciddi operasyonel ve çevresel maliyetler yaratacağı uyarısında bulundu.

Araştırmaya göre, YZ ajanları karmaşık görevleri yerine getirirken sürekli olarak büyük dil modellerini çağırıyor, internet aramaları yapıyor, hesaplamalar yapıyor ve birden fazla adımı koordine ediyor. Bu döngüsel yapı, yanıt sürelerini 153,7 kata kadar uzatabiliyor ve pahalı grafik işleme birimlerinin (GPU) toplam çalışma süresinin %54,5'ine kadar boşa beklemesine neden olabiliyor. Bu atıl kalma süresi bile enerji tüketimine yol açtığından, YZ ajanlarının verimliliği konusunda ciddi soru işaretleri doğuruyor.

KAIST ekibi, 70 milyar parametreli bir büyük dil modeli kullanan bir YZ ajanının tek bir sorguyu işlemek için ortalama 348,41 vat-saat (Wh) elektrik tükettiğini tespit etti. Bu, geleneksel üretken YZ sohbet botlarının basit bir soru-cevap etkileşimi için harcadığı enerjinin çok üzerinde. Yaygın YZ ajanı kullanımının olduğu bir senaryoda, günde 13,7 milyar YZ ajanı isteği varsayıldığında, veri merkezi güç talebinin yaklaşık 198,9 gigavata (GW) ulaşabileceği tahmin ediliyor. Bu, ABD'nin toplam elektrik tüketiminin neredeyse yarısına denk geliyor.

Bu bulgular, YZ çağında rekabetin yalnızca model performansıyla sınırlı kalmayıp, veri merkezlerinin ve güç altyapısının verimliliğini de kapsayacağını gösteriyor. YZ'ye yönelik artan talep, veri merkezi yatırımlarını hızlandırarak diğer ticari bina inşaatlarını geride bırakmış durumda. Uluslararası Enerji Ajansı (IEA) ve diğer kuruluşlar, veri merkezlerinin küresel elektrik tüketiminin 2028-2030'a kadar ikiye veya üçe katlanacağını öngörüyor. Bu durum, enerji şebekeleri üzerinde ek bir yük oluşturarak altyapı kapasitesi ve sürdürülebilirlik konularında endişeleri artırıyor.

Analistler ve piyasa uzmanları, YZ gelişiminin sürdürülebilirliği için yeni bir yaklaşımın şart olduğunu belirtiyor. YZ rekabetinin ağırlık merkezinin, daha akıllı yazılımlar geliştirmekten, YZ modellerini, çiplerini ve veri merkezi altyapısını enerji verimliliği odaklı entegre bir şekilde tasarlamaya kayması bekleniyor. Bu, önümüzdeki dönemde teknoloji şirketlerinin ve enerji sağlayıcılarının stratejilerini yeniden şekillendirmesi gereken kritik bir alan olarak öne çıkıyor. Mevcut enerji tahminlerinin YZ ajanlarının 'otonomi çarpanını' yeterince hesaba katmadığı ve gelecekteki güç taleplerinin ciddi şekilde hafife alınmış olabileceği belirtiliyor.