{"id":6131,"date":"2025-04-14T06:46:36","date_gmt":"2025-04-14T06:46:36","guid":{"rendered":"https:\/\/www.myshirtai.com\/?p=6131"},"modified":"2025-04-14T06:46:36","modified_gmt":"2025-04-14T06:46:36","slug":"kimi-vl-a3b-%e5%8f%91%e5%b8%83%ef%bc%9a%e5%a4%9a%e6%a8%a1%e6%80%81%e5%a4%a7%e6%a8%a1%e5%9e%8b%ef%bc%8c128k%e4%b8%8a%e4%b8%8b%e6%96%87%e7%aa%97%e5%8f%a3%e4%b8%8emit%e8%ae%b8%e5%8f%af","status":"publish","type":"post","link":"https:\/\/www.myshirtai.com\/de\/archives\/6131","title":{"rendered":"Kimi VL A3B ver\u00f6ffentlicht: Multimodales Gro\u00dfmodell, 128K-Kontextfenster & MIT-Lizenz"},"content":{"rendered":"

I. Einleitung<\/strong><\/h3>\n

K\u00fcrzlich.Moonshot AI hat offiziell seine neueste Generation von multimodalen Makromodellen vorgestellt<\/span>\u00a0<\/span>Kimi VL A3B<\/span>Es handelt sich um ein leichtgewichtiges Modell auf der Grundlage der Mixed Expert (MoE)-Architektur mit insgesamt 16B Parametern, aber nur 2,8B Aktivierungen f\u00fcr die Inferenz.<\/span>\u00a0<\/span>128K Extra langes Kontextfenster<\/span><\/strong>,<\/span>multimodales logisches Denkverm\u00f6gen<\/span><\/strong>. Noch spannender ist, dass das Modell in loserOffen unter MIT-Lizenz<\/strong>Dies unterstreicht nicht nur seinen technologischen Durchbruch, sondern bietet auch unbegrenzte M\u00f6glichkeiten f\u00fcr Forschung und Anwendung. In diesem Beitrag werden die wichtigsten Merkmale des Kimi VL A3B und sein potenzieller Wert n\u00e4her erl\u00e4utert.<\/p>\n

\"\"<\/p>\n

<\/h3>\n

II. technische Highlights: kleine Modelle, gro\u00dfe M\u00f6glichkeiten<\/strong><\/h3>\n

1. die MoE-Architektur und die Leichtbauweise<\/h4>\n

Der Kimi VL A3B verwendet eine Architektur mit gemischten Experten (MoE), die die Effizienz der Berechnungen durch die dynamische Zuweisung von Aufgaben an verschiedene Experten-Teilnetze erheblich verbessert. Trotz eines Gesamtparameters von 16B werden w\u00e4hrend der Inferenz nur 2,8B aktiviert, wodurch der Speicherbedarf und die Inferenzkosten bei gleichbleibender Leistung erheblich reduziert werden k\u00f6nnen. Im MathVista Mathematical Reasoning Benchmark erreicht KimiVL A3B beispielsweise eine Genauigkeit von 68,7% mit 2,8B aktiven Parametern und \u00fcbertrifft damit GPT-4o (68,5%) mit einer viel gr\u00f6\u00dferen Parametergr\u00f6\u00dfe.<\/p>\n

\"\"<\/p>\n

2. 128K Kontextfenster, ein neuer Ma\u00dfstab f\u00fcr die Verarbeitung langer Texte<\/strong><\/h4>\n

Der Kimi VL A3B unterst\u00fctzt ein 128K-Kontextfenster und ist in der Lage, Dokumente mit mehreren zehntausend W\u00f6rtern, komplexe Dialoge oder interaktive Aufgaben mit mehreren Runden zu bearbeiten. Damit eignet er sich hervorragend f\u00fcr Szenarien wie die Analyse von Rechtsakten, die Interpretation technischer Dokumente und die Erstellung von Finanzberichten. Im MMLongBench-Doc-Test zum Verstehen langer Dokumente erzielte der Kimi VL A3B beispielsweise 35,1% und liegt damit vor \u00e4hnlichen Modellen.<\/p>\n

\"\"<\/p>\n

3. multimodale F\u00e4higkeiten: tiefe Fusion von Text, Bildern und Video<\/strong><\/h4>\n
    \n
  • \n
      \n
    • Visuelles Verst\u00e4ndnis: Der visuelle Kodierer MoonViT mit nativer Aufl\u00f6sung unterst\u00fctzt hochaufl\u00f6sende Bildeingaben, um komplexe Diagramme, mathematische Formeln und handschriftliche Inhalte zu analysieren, ohne dass ein Slicing erforderlich ist. Im OCRBench-Benchmark erzielte er 867 Punkte und erreichte damit SOTA.<\/li>\n
    • Videoanalyse: die M\u00f6glichkeit, wichtige Details aus stundenlangen Videolektionen zu erfassen und strukturierte Zusammenfassungen zu erstellen.<\/li>\n
    • Modal\u00fcbergreifendes Denken: Kombinieren Sie Text- und Bildinformationen, um Geometrieprobleme zu l\u00f6sen, Finanztabellen zu analysieren und LaTeX-Code oder Markdown-Tabellen zu erstellen.<\/li>\n
    • Vergleich der Bilderkennungsf\u00e4higkeiten (Kimi-VL-A3B vs. GPT-4o): Der Inhalt des Bildes ist ein Screenshot aus Cyberpunk 2077, beide analysieren den Inhalt des Bildes korrekt, wobei GPT-4o schneller analysiert, w\u00e4hrend Kimi-VL-A3B eine umfassendere Antwort gibt.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n