Google, Gemma 2 ailesine üç yeni üye ekledi; Gemma 2 2B, Gemma Scope ve ShieldGemma.
Google, haziran ayında açık modeli Gemma 2’yi 27 milyar (27B) ve 9 milyar (9B) parametre boyutlarında tanıtmıştı. Şirket şimdi de Gemma 2 ailesine üç yeni üye ekledi: Gemma 2 2B, ShieldGemma ve Gemma Scope.
Gemma 2 2B, popüler 2 milyar (2B) parametreli modelin güncellenmiş bir versiyonu olup, yerleşik güvenlik iyileştirmeleri ve güçlü bir performans ve verimlilik dengesi sunuyor. ShieldGemma ise yapay zeka modellerinin girdi ve çıktılarını filtrelemek ve kullanıcıların güvenliğini sağlamak için Gemma 2 temelinde geliştirilmiş bir güvenlik içeriği sınıflandırıcıları paketidir. Gemma Scope ise, modellerin iç işleyişine farklı bir bakış açısı kazandıran yeni bir yorumlanabilirlik aracıdır.
Gemma 2 2B, geniş bir donanım yelpazesinde verimli bir şekilde çalışacak şekilde tasarlanmış olup, uç cihazlardan dizüstü bilgisayarlara, Vertex AI ve Google Kubernetes Engine (GKE) ile sağlam bulut dağıtımlarına kadar her yerde kullanılabiliyor. NVIDIA TensorRT-LLM kitaplığı ile optimize edilmiş ve NVIDIA NIM olarak kullanılabiliyor. Bu optimizasyon, NVIDIA RTX, NVIDIA GeForce RTX GPU’lar veya NVIDIA Jetson modüllerini kullanan veri merkezleri, bulut, yerel iş istasyonları, PC’ler ve uç cihazlar gibi çeşitli dağıtım ortamlarını hedefliyor. Ayrıca, Gemma 2 2B, Keras, JAX, Hugging Face, NVIDIA NeMo, Ollama, Gemma.cpp ve yakında MediaPipe ile sorunsuz bir şekilde entegre olabilme özelliğine sahip, böylece geliştirme sürecini kolaylaştırıyor.
ShieldGemma
ShieldGemma, dört ana zarar alanını hedef alarak tasarlanmıştır: nefret söylemi, taciz, cinsel içerikli materyal ve tehlikeli içerik. Bu açık sınıflandırıcılar, belirli bir politikaya göre özelleştirilmiş sınıflandırıcılar oluşturmak için sınırlı veri noktaları kullanarak Responsible AI Toolkit’teki mevcut güvenlik sınıflandırıcıları paketi ve API ile sağlanan Google Cloud’un hazır sınıflandırıcılarını tamamlar.
Gemma Scope
Gemma Scope, araştırmacılara ve geliştiricilere Gemma 2 modellerinin karar verme süreçlerine daha fazla şeffaflık sunar. Bir mikroskop gibi çalışan Gemma Scope, model içindeki belirli noktaları yakınlaştırarak ve iç işleyişi daha anlaşılır hale getirerek seyrek otomatik kodlayıcılar (SAE’ler) kullanır. Bu SAE’ler, Gemma 2’nin işlediği karmaşık bilgileri daha erişilebilir ve anlaşılır bir forma dönüştüren özel sinir ağlarıdır. Araştırmacılar, bu genişletilmiş görünümleri inceleyerek Gemma 2’nin veri kalıplarını nasıl tanımladığını, bilgileri nasıl işlediğini ve tahminlerde nasıl bulunduğunu anlamalarına yardımcı olacak içgörüler elde edebilirler.
