Apple arbeitet mit NVIDIA für KI-Optimierung zusammen
Wenn es um Künstliche Intelligenz geht, führt derzeit kaum ein Weg an NVIDIA vorbei. Der Grafikkartenhersteller stellt einerseits die leistungsfähigsten Grafikkarten auf dem Markt her und bietet andererseits mit CUDA die beliebteste Software-Plattform für LLM-Berechnungen an. Dementsprechend war es nicht verwunderlich, dass Apple vor einigen Wochen einen für NVIDIA-Chips optimierten Algorithmus namens
ReDraw vorstellte, welcher KI-Berechnungen beschleunigt. Offenbar haben Apples Machine-Learning-Spezialisten damit auch die KI-Entwickler von NVIDIA beeindruckt – der Grafikkartenhersteller kündigte an, dass der ReDraw-Algorithmus ins
TensorRT-LLM integriert wurde.
Bei ihren Experimenten stellten Apples Forscher eine 2,7-fache Beschleunigung bei der Token-Erstellung in Open-Source-LLMs fest – diese werden in der KI-Forschung häufig zu Benchmark-Zwecken verwendet, um Code-Optimierungen zu vergleichen. Durch eine Integration in das TensorRT-LLM stünden diese Optimierungen nun einer weitaus größeren Zahl an KI-Entwicklern zur Verfügung, betonte Apple in der
Veröffentlichung auf dem konzerneigenen Machine-Learning-Blog. Auf diese Weise spare man Zeit und Energie, so die Forscher.
Der ReDrafter-Algorithmus gestaltet den Berechnungsworkflow um. (Quelle:
NVIDIA Developer Blog)
Optimiert für Server-GPUsZielhardware für den von Apples ML-Experten entwickelten ReDrafter-Algorithmus ist eine Recheneinheit namens H100 Tensor Core GPU. Sie ist nicht dafür vorgesehen, in ein PC-Gehäuse gesteckt zu werden, um 3D-Renderings zu beschleunigen oder Computerspiele detailreicher darzustellen. Sie wird stattdessen für KI-Berechnungen in dedizierten Servern verwendet und liegt preislich im mittleren fünfstelligen Bereich.
Jahrelang herrschte FunkstilleDie Veröffentlichung einer Zusammenarbeit ist auch auf einer anderen Ebene erstaunlich: Apple und NVIDIA beendeten vor einigen Jahren jegliche Zusammenarbeit. Während Apples Intel-Ära wertete Apple seine höherpreisigen Hardware-Konfigurationen anfangs sowohl mit ATI- (später AMD) als auch NVIDIA-Grafikkarten auf. Die Verwendung von NVIDIA-Produkten endete jedoch 2015 abrupt.