AI Supercomputer

Shard: Wie ein Open-Source-Projekt dezentrale KI-Inferenz auf Consumer-GPUs neu definiert

Ein 744-Milliarden-Parameter-Modell mit ~30 Tokens pro Sekunde – nicht im Rechenzentrum, sondern über sechs GPUs in verschiedenen US-Bundesstaaten. Das Open-Source-Projekt Shard beweist: Dezentrale KI-Inferenz funktioniert praktisch.

Shard: Wie ein Open-Source-Projekt dezentrale KI-Inferenz auf Consumer-GPUs neu definiert Read More »

AI Supercomputer Gefion

Dänemarks KI-Supercomputer: Gefion

Was für eine spannende Zeit für die technologische Entwicklung in Europa! Dänemark hat mit dem Bau von Gefion, einem beeindruckenden KI-Supercomputer, einen bedeutenden Schritt gemacht. Mit einem Preis von 100 Millionen Dollar und ausgestattet mit 1.528 H100 GPUs, könnte Gefion der Katalysator für enorme Fortschritte in der KI-Forschung sein. Lass uns einen genaueren Blick darauf

Dänemarks KI-Supercomputer: Gefion Read More »