Llama
-
NVIDIA DGX Spark: Der KI-Mini-PC im Praxiseinsatz
NVIDIA verspricht mit dem DGX Spark nichts weniger als den "kleinsten KI‑Supercomputer der Welt". Grundlage ist der GB10‑Superchip mit integriertem Arm‑Prozessor und Blackwell‑GPU, dazu 128 GB an LPDDR5X‑Speicher, der CPU und GPU gemeinsam zur Verfügung steht. In Kombination mit NVFP4‑Präzision wirbt NVIDIA mit bis zu einem PetaFLOP an KI‑Leistung und der Möglichkeit, Sprachmodelle mit rund 70 Milliarden Parametern feinzutunen und Varianten mit... [mehr] -
Taalas HC1: Llama 3.1 8B für effizientes Inferencing in Silizium gegossen
Die immer größeren KI-Modelle verlangen nach immer größerem und schnellerem Speicher, was einer der maßgeblichen Motoren in der aktuellen Speicherknappheit ist. Darunter leidet aber die Effizienz im Angebot dieser KI-Modelle, da die Hardware viel und schnellen Speicher benötigt, was sie teuer macht. Das kanadische Unternehmen Taalas hat bereits im vergangenen Jahr den HC1-Beschleuniger angekündigt, der einen anderen Weg gehen... [mehr] -
Neues Datenformat und Hardware von Tensordyne: Mit Log Math zu einer höheren KI-Effizienz
Das bisher unter den Namen Recogni geführte, amerikanisch-deutsche Start-up mit Standorten in San Jose und München, gibt mit dem heutigen Tag nicht nur die Umbenennung in Tensordyne bekannt. Zudem spricht man über seine neuen Ansätze in der effizienteren Behandlung von KI-Algorithmen auf Soft- und Hardware-Level. Tensordyne will eines der größten Probleme in der Verwertung großer KI-Modelle angehen: Den hohen Energiebedarf im Inferenzing, der... [mehr] -
Meta veröffentlicht Llama-3: Intel zeigt Xeon 6 in ersten Benchmarks
Gestern hat Meta, die Konzernmutter von Facebook, Instagram und Whatsapp, das Large Language Model (LLM) Llama-3 veröffentlicht. Zum Start wird das Modell von 14 Ländern für zahlreiche Anwendungen Metas verwenden. Neben den USA sind dies Australien, Ghana, Jamaika, Kanada, Malawi, Neuseeland, Nigeria, Pakistan, Sambia, Simbabwe, Singapur, Südafrika und Uganda. Es kann davon ausgegangen werden, dass in den kommenden Wochen und Monaten... [mehr] -
Meta veröffentlicht Llama 2: Open-Source-LLM soll Entwicklung vorantreiben
Nachdem das erste Large Language Model Llama von Meta mehr oder weniger offiziell seinen Weg in die Weiten des Internets gefunden hat, wurde die zweite Generation Llama 2 direkt als Open-Source-Modell vorgestellt. Die freie Nutzung ist für Forschungszwecke und die kommerzielle Nutzung möglich. Damit folgt Meta in dieser Hinsicht dem Software- und AI-Spezialisten MosaicML, die ähnliche Sprachmodelle bereits vor einiger Zeit veröffentlicht... [mehr]
