AMD, Windows PC’lerde yerel olarak çalışan, 128 milyar parametreye sahip büyük dil modelleri (Large Language Models – LLMs) için destek sağlayan ücretsiz bir yazılım güncellemesi yayınladı. Bu gelişme, yapay zekânın kullanım şeklinde köklü bir değişimin habercisi olabilir.
ChatGPT 3.0 Ölçeğinde LLM’ler Artık Cihaz Üzerinde
AMD’nin yeni yazılım güncellemesiyle, daha önce yalnızca bulut altyapılarıyla erişilebilen büyük dil modelleri artık masaüstü Windows cihazlarında çalıştırılabiliyor. Bu sayede kullanıcılar, yerel çalıştırma sayesinde gecikme sürelerini azaltırken, veri gizliliğini de daha güvenli hale getirebilecek.
Güncellemeyle birlikte desteklenen modeller, yaklaşık olarak ChatGPT 3.0 seviyesindeki 128B parametreli yapılar oluyor. AMD, Ryzen AI Max+ 395 128 GB işlemcilerle bu modellerin yerel çalışmasına olanak sağlıyor.
Yerel Yapay Zekânın Getirdiği Avantajlar
Yerel yapay zekâ kullanımının avantajları şöyle sıralanıyor:
- Daha fazla kontrol: Verilerin cihazdan çıkmadan işlenmesi, kullanıcıya daha yüksek gizlilik ve güvenlik sağlıyor.
- Düşük maliyet: Sürekli bulut kullanımı gerektirmediğinden maliyetler önemli ölçüde düşüyor.
- Esnek kullanım: Kodlama, görsel görevler ve uzun metin işleme gibi çok çeşitli uygulamalarda kullanılabiliyor.
AMD’den Teknik Atılımlar
AMD’nin en yeni Adrenalin sürücüsü, birçok yeniliği beraberinde getiriyor:
- Llama 4 Scout 109B modelini yerel olarak tam araç desteğiyle çalıştırma
- 256.000 token’lık bağlam penceresi ile uzun belgeleri ve çok adımlı çıkarımları destekleme
- Farklı seviyelerdeki modellerle uyumluluk: Basit asistanlardan gelişmiş kodlama araçlarına kadar
AMD, bu adımıyla bulut tabanlı yapay zekânın masaüstüne taşınmasını mümkün kılıyor. Bu yalnızca teknolojik bir gelişme değil, aynı zamanda veri mahremiyeti ve altyapı bağımsızlığı açısından da çığır açıcı bir dönüşüm anlamına geliyor.
