OpenAI CEO’su Sam Altman, yerel yapay zeka için bilgisayarlarda tutulan belleğin düşük kullanım oranına dikkat çekerek sınırlı DRAM kaynaklarının bulutta daha verimli değerlendirilebileceğini savundu. Açıklama, kişisel donanımlar ile merkezi yapay zeka altyapıları arasındaki kaynak paylaşımını tartışmaya açtı.

Yapay zeka modellerini kişisel bilgisayarlarda çalıştırma eğilimi yaygınlaşırken, Sam Altman bellek kapasitesinin nerede kullanılması gerektiğine ilişkin değerlendirmelerde bulundu. Cheeky Pint’e verdiği röportajda Altman, sınırlı bellek arzının yüksek kullanım oranı sağlayan sistemlere yönlendirilmesi gerektiğini ifade etti.

Altman, görüşünü şu sözlerle anlattı: “İnsanların dünya genelindeki sınırlı DRAM arzının büyük bir bölümünü bilgisayarlarında tutması ve bu belleği zamanın yalnızca yüzde 5’inde kullanması, küresel kaynakların dağıtımı açısından oldukça kötü. Arzın bu kadar kısıtlı olduğu bir ortamda, bulut sistemlerinde mümkün olan en yüksek kullanım oranına ulaşmak istersiniz.” BULUTTA DAHA YOĞUN KULLANIM SAVUNUSU Altman’ın yaklaşımı, yerel yapay zeka modelleri için ayrılan bellek kapasitesinin kullanım süresine dayanıyor. Bu görüşe göre kişisel bilgisayarlarda belirli görevler için bekleyen kaynaklar, veri merkezlerinde farklı kullanıcıların taleplerini karşılamak üzere daha yoğun biçimde değerlendirilebilir.

Büyük yapay zeka modellerinin yüksek bellek ihtiyacı da bu yaklaşımın temel gerekçeleri arasında yer alıyor. Merkezi altyapılarda aynı donanımın farklı iş yüklerine tahsis edilmesi, kapasitenin kullanım oranını artırabiliyor.

Bununla birlikte, kişisel bilgisayarlardaki belleği yalnızca yapay zeka çalıştırılan süre üzerinden değerlendirmek eksik bir tablo ortaya koyuyor. RAM; oyunlar, video düzenleme, profesyonel yazılımlar, çoklu görev ve günlük bilgisayar işlemlerinde de kullanılıyor.

Bu nedenle yerel bir yapay zeka modelinin çalışmadığı saatler, bilgisayarın belleğinin bütünüyle kullanılmadığı anlamına gelmiyor.

Altman’ın verimlilik değerlendirmesindeki temel tartışma noktası da bu ayrımda bulunuyor. YEREL MODELLER VE BULUT HİZMETLERİ Altman’ın kaynakların veri merkezlerinde toplanmasına yönelik yaklaşımı, OpenAI’ın bulut üzerinden sunduğu yapay zeka hizmetleriyle de örtüşüyor.

Yerel modeller ise yeterli donanıma sahip kullanıcılara bazı görevleri internet bağlantısı ve harici sunucu gerektirmeden gerçekleştirme imkânı sunuyor.

Bu seçenek, belirli kullanımlarda çevrim içi hizmetlere ve aboneliklere duyulan ihtiyacı azaltabiliyor.

Büyük modellerin eğitimi ve daha ağır hesaplama görevleri ise merkezi altyapılara ihtiyaç duymayı sürdürüyor.

Açıklamalar, veri merkezlerinin artan bellek talebinin tüketici elektroniğine etkilerinin tartışıldığı bir dönemde gündeme geldi.

Yapay zeka sunucularında kullanılan yüksek bant genişlikli bellekler ve sunucu DRAM’ine yönelik talep, üretim kaynaklarının bu alanlara yönelmesine neden oluyor.

Bu yönelim, kişisel bilgisayarlar ve diğer tüketici ürünlerinde kullanılan belleklerin arzı ve fiyatları üzerinde de baskı oluşturuyor. Haber Kaynağı: Toms Hardware