Google KI läuft jetzt lokal auf jedem Smartphone
| |

Google KI läuft jetzt lokal auf jedem Smartphone

Google hat neue KI Modelle entwickelt, die sich auf Smartphones deutlich effizienter nutzen lassen. Möglich macht das ein Verfahren namens Quantization Aware Training, bei dem die spätere Datenkomprimierung schon während des Lernprozesses simuliert wird. So soll die Qualität der Modelle besser erhalten bleiben.

Die kompakten Checkpoints im Q4_0 Format laufen schneller und sparsamer auf handelsüblichen Grafikkarten in Desktop Computern. Besonders auf Mobilgeräten zeigt sich der Vorteil der neuen Struktur, die Google für die Varianten Gemma 4 E2B und E4B auf die Rechenwerke aktueller Handy Prozessoren zugeschnitten hat.

Das kleinste Modell benötigt in der reinen Textversion 0,84 Gigabyte Arbeitsspeicher. Die größere E4B Variante kommt textbasiert auf 2,2 Gigabyte. Zuvor belegte die unkomprimierte 16 Bit Version knapp 18 Gigabyte Speicherplatz.

Zur Originalmeldung

Ähnliche Beiträge

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert