Multiverse Computing, sıkıştırılmış AI modellerini yaygınlaştırmaya çalışıyor

Özel şirket temerrütlerinin son yılların en yüksek seviyesi olan %9,2'ye ulaşmasıyla birlikte, risk sermayesi şirketi Lux Capital, yapay zekaya (AI) dayalı şirketlere, bilgi işlem kapasitesi taahhütlerini yazılı olarak teyit etmelerini önerdi. AI tedarik zincirindeki finansal istikrarsızlık nedeniyle, sözlü anlaşmaların yeterli olmadığı belirtildi.

Ancak tamamen farklı bir seçenek daha var: Harici bilgi işlem altyapısına bağımlılığı ortadan kaldırmak. Kullanıcının kendi cihazında doğrudan çalışan daha küçük AI modelleri (veri merkezi, bulut sağlayıcısı veya karşı taraf riski olmadan) dikkate alınmaya değer hale geliyor. Multiverse Computing de bu alanda öne çıkıyor.

Sıkıştırılmış Modellerle Verimlilik Arayışı

İspanyol startup, şimdiye kadar rakiplerine kıyasla daha düşük bir profil çizdi. Ancak AI verimliliğine olan talep arttıkça bu durum değişiyor. OpenAI, Meta, DeepSeek ve Mistral AI gibi büyük AI laboratuvarlarının modellerini sıkıştırdıktan sonra, sıkıştırılmış modellerinin yeteneklerini sergileyen bir uygulama ve geliştiricilerin bu modellere erişmesini ve bunlarla geliştirmeler yapmasını sağlayan bir API portalı başlattı.

CompactifAI uygulaması, Multiverse'ün quantum'dan ilham alan sıkıştırma teknolojisiyle aynı adı taşıyor ve ChatGPT veya Mistral'in Le Chat'ine benzer bir AI sohbet aracı. Bir soru sorun ve model cevaplasın. Buradaki fark, Multiverse'ün Gilda adında, yerel olarak ve çevrimdışı çalışabilen kadar küçük bir model yerleştirmesi.

Yerel ve Bulut Arasında Akıllı Geçiş

Son kullanıcılar için bu, verilerin cihazlarından çıkmadığı ve bağlantı gerektirmeyen bir edge AI deneyimi sunuyor. Ancak bir uyarı var: Mobil cihazlarının yeterli RAM ve depolama alanına sahip olması gerekiyor. Eğer yoksa (ve birçok eski iPhone'da olmadığı gibi), uygulama API aracılığıyla bulut tabanlı modellere geri dönüyor. Yerel ve bulut işleme arasındaki yönlendirme, Multiverse'ün Ash Nazg adını verdiği bir sistem tarafından otomatik olarak yapılıyor. Yüzüklerin Efendisi hayranları için bu isim, Tek Yüzük yazıtına bir gönderme niteliğinde. Ancak uygulama buluta yönlendirildiğinde, ana gizlilik avantajını kaybediyor.

Bu sınırlamalar, CompactifAI'ın henüz kitlesel müşteri benimsemesi için tam olarak hazır olmadığı anlamına geliyor, ancak bu hiçbir zaman amaçlanmamış olabilir. Sensor Tower'dan elde edilen verilere göre, uygulama son ayda 5.000'den az indirildi.

API ile İşletmelere Erişim

Asıl hedef işletmeler. Multiverse, geliştiricilere ve işletmelere sıkıştırılmış modellerine doğrudan erişim sağlayan bir self-servis API portalı başlatıyor. AWS Marketplace'e gerek yok.

Multiverse CEO'su Enrique Lizaso yaptığı açıklamada, "CompactifAI API portalı, geliştiricilere sıkıştırılmış modellere doğrudan erişim imkanı sunuyor ve bunları üretimde çalıştırmak için gereken şeffaflığı ve kontrolü sağlıyor" dedi.

Gerçek zamanlı kullanım izleme, API'nin temel özelliklerinden biri ve bu tesadüf değil. Edge'de konuşlandırmanın potansiyel avantajlarının yanı sıra, daha düşük bilgi işlem maliyetleri, işletmelerin büyük dil modellerine (LLM'ler) alternatif olarak daha küçük modelleri değerlendirmesinin ana nedenlerinden biri.

Küçük modellerin eskiye göre daha az sınırlı olması da işe yarıyor. Geçtiğimiz günlerde Mistral, küçük model ailesini Mistral Small 4'ün lansmanı ile güncelledi ve bunun aynı anda optimize edildiğini söyledi.

İlgili dijital pazarlama ve büyüme stratejileri için [dijital pazarlama](https://www.leindigital.com) platformuna göz atabilirsiniz.