Teknoloji
Apple'ın radarına giren yeni teknoloji: 27 milyar parametreli yapay zekâ cebimize giriyor
PrismML, geliştirdiği Bonsai 27B modeliyle 27 milyar parametreli yapay zekânın akıllı telefonlarda çalıştırılabildiğini öne sürdü. Şirket, Apple’ın da teknolojiyi test ettiğini belirtirken, bu gelişmenin iPhone’lardaki yapay zekâ deneyimine önemli etkileri olabileceği ifade ediliyor.
Yapay zekâ denildiğinde akla hâlâ bulut sistemleri geliyor. ChatGPT gibi gelişmiş modelleri kullanabilmek için internet bağlantısına ihtiyaç duyuyor, tüm işlemler uzaktaki sunucularda gerçekleştiriliyor. Ancak bu durum yakın gelecekte değişebilir. Çünkü artık devasa yapay zekâ modellerini doğrudan telefonun içinde çalıştırmayı hedefleyen yeni bir teknoloji var.
İşte tam da bu nedenle PrismML'nin duyurusu teknoloji dünyasında büyük yankı uyandırdı. Şirket, normalde onlarca gigabayt depolama alanı isteyen 27 milyar parametreli bir yapay zekâ modelini yalnızca birkaç gigabayta sığdırmayı başardığını açıkladı. Üstelik CNBC'nin haberine göre Apple da bu teknolojiyi yakından inceliyor. Bu da gelecekte iPhone'ların çok daha güçlü yapay zekâ özelliklerine kavuşabileceği anlamına geliyor.
DEV YAPAY ZEKÂ MODELİ İLK KEZ TELEFONA SIĞDIRILDI
PrismML'nin geliştirdiği Bonsai 27B, Alibaba'nın açık kaynaklı Qwen3.6 27B modelini temel alıyor. Normal şartlarda yaklaşık 54 GB yer kaplayan bu model, şirketin geliştirdiği özel sıkıştırma yöntemi sayesinde telefonlar için 3,9 GB, dizüstü bilgisayarlar için ise 5,9 GB seviyesine kadar küçültülebiliyor. Şirket bunu yaparken model ağırlıklarını klasik 16 bit yerine yalnızca 1 bit veya üç seviyeli (ternary) formatta saklıyor.
PrismML'nin paylaştığı verilere göre telefonlara yönelik 1 bitlik sürüm, tam boyutlu modelin genel performansının yaklaşık %90'ını koruyor. Özellikle matematik, kod yazma ve akıl yürütme gibi alanlarda kaybın oldukça düşük olduğu belirtilirken görüntü analizi ve araç kullanımı gibi görevlerde performansın bir miktar gerilediği ifade ediliyor. Şirket ayrıca modelin Apple'ın MLX altyapısıyla iPhone, iPad ve Mac cihazlarda çalışabildiğini söylüyor.
APPLE NEDEN BU TEKNOLOJİYLE İLGİLENİYOR?
CNBC'nin aktardığı bilgilere göre PrismML CEO'su Babak Hassibi, Apple'ın şirketin geliştirdiği modelleri hız, enerji tüketimi ve performans açısından test ettiğini doğruladı. Görüşmelerin henüz erken aşamada olduğu belirtilirken Apple cephesinden konuyla ilgili resmî bir açıklama yapılmış değil.
Bunun Apple açısından oldukça önemli bir nedeni var. Şirket uzun süredir Apple Intelligence özelliklerini mümkün olduğunca cihaz üzerinde çalıştırmaya odaklanıyor. Böylece hem kullanıcı verileri buluta gönderilmiyor hem de internet bağlantısı olmadan çalışan daha hızlı yapay zekâ özellikleri sunulabiliyor. Eğer PrismML'nin iddiaları gerçek kullanımda da karşılığını bulursa, gelecekte Siri'den üretken yapay zekâ araçlarına kadar birçok özellik doğrudan iPhone'un içinde çalışabilir.
ŞİMDİLİK BÜYÜK VAATLER VAR, ASIL SINAV İSE GERÇEK KULLANIM OLACAK
Her ne kadar teknoloji oldukça etkileyici görünse de uzmanlar temkinli yaklaşılması gerektiğini belirtiyor. Çünkü şu ana kadar paylaşılan performans verilerinin büyük bölümü PrismML'nin kendi testlerinden oluşuyor. Özellikle pil tüketimi, uzun süreli kullanım performansı ve milyonlarca farklı cihazdaki kararlılık gibi başlıklar, teknolojinin gerçekten devrim yaratıp yaratmayacağını belirleyecek.
Yine de yapay zekânın buluttan çıkıp doğrudan cebimizde çalışabileceği fikri artık eskisi kadar uzak görünmüyor. Apple'ın bu teknolojiyi gerçekten ürünlerine entegre edip etmeyeceği henüz bilinmese de, Bonsai 27B'nin mobil yapay zekâ yarışında önemli bir kilometre taşı olduğu şimdiden söylenebilir.