Erste Tests von Meteor Lake zeigen, dass die GPU wichtiger ist. Es ist kein Geheimnis, dass „KI“ das neue „Metaversum“ ist – wissen Sie, worüber vor ein paar Jahren alle redeten – und Führungskräfte und Investoren gleichermaßen versuchen, KI zu nutzen, um Verkäufe und Aktienkurse anzukurbeln. Tatsächlich verlässt sich KI in Chips wie Intels Core Ultra auf die NPU, und Intel hat die Marke als Synonym für On-Chip-KI positioniert. Das Gleiche gilt für AMDs Ryzen 8000-Serie – die Intel als NPU im Desktop-Bereich überholte – und Qualcomms Snapdragon X Elite.
Es ist nur so, dass die derzeit in Core Ultra integrierte NPU (Meteor Lake, aber Lunar Lake wartet) keine so große Rolle im KI-Computing spielt, wie ihre Positionierung es sollte. Stattdessen trägt die eher traditionelle Rolle der Rechenleistung (CPUs und insbesondere GPUs) stärker zu dieser Aufgabe bei.
Ein paar Dinge, die Sie beachten sollten: Erstens ist das eigentliche Benchmarking der KI-Leistung etwas, mit dem jeder zu kämpfen hat. „KI“ besteht aus ganz unterschiedlichen Aufgaben: Bildgenerierung, beispielsweise mithilfe stabiler großer Sprachmodelle (LLM), populär gemacht durch (cloudbasierte) Microsoft Copilot- und Google Bard-Chatbots und eine Reihe anwendungsspezifischer Erweiterungen KI-Verbesserungen in Adobe Premiere und Lightroom. Allein die Kombination der vielen Variablen in LLM (Frameworks, Modelle und Quantifizierungen, die sich alle auf die Ausführung des Chatbots auf einem PC auswirken) und die Geschwindigkeit, mit der diese Variablen schwanken, macht es schwierig, einen Gewinner auszuwählen – und das wird mit der Zeit schwierig . Wählen Sie einen Gewinner.
Was wir jedoch mit Sicherheit sagen können, ist der nächste Punkt: Benchmarks funktionieren am besten, wenn Sie so viele Variablen wie möglich eliminieren. Das können wir mit einem kleinen Teil des Puzzles machen: wie viel CPUs, GPUs und NPUs zu den KI-Berechnungen beitragen, die von Intels Core-Ultra-Chips Meteor Lake durchgeführt werden. Die NPU ist noch keine On-Chip-KI-Engine. GPU ist
Wir versuchen nicht zu bestimmen, wie gut Meteor Lake in Bezug auf die KI abschneiden wird. Was wir jedoch tun können, ist einen Realitätscheck über die Bedeutung von NPUs in der KI durchzuführen.
Der von uns verwendete spezifische Test war der Procyon AI Inference Benchmark von UL, der berechnet, wie effizient ein Prozessor auf verschiedenen großen Sprachmodellen laufen kann. Insbesondere ermöglicht es Testern, die CPUs, GPUs und NPUs aufzuschlüsseln und zu vergleichen. In diesem Fall haben wir den Core Ultra 7 165H während Intels Benchmark Days auf der CES 2024 in einem MSI-Laptop getestet. (Die meiste Zeit habe ich damit verbracht, Dan Rogers von Intel zu interviewen, aber ich habe einige Tests durchgeführt.) Procyon führt LLM auf dem Prozessor aus und berechnet eine Bewertung basierend auf Leistung, Latenz und mehr. Die Tests von Procyon beweisen einige Dinge: Erstens macht die NPU im Vergleich zu anderen Leistungs- und Effizienzkernen in der CPU tatsächlich einen Unterschied; die NPU selbst übertrifft die CPU um 82 %. Aber die KI-Leistung der GPU beträgt 182 % der CPU und ist 55 % höher als die der NPU.
Der zweite Punkt ist jedoch weniger offensichtlich: Ja, Sie können KI-Anwendungen auf einer CPU oder GPU ausführen, ohne dass dafür dedizierte KI-Logikblöcke erforderlich sind. Alle Tests von Procyon zeigen, dass einige Blöcke effektiver sind als andere.
Intel behauptet, die NPU sei effizienter. In der realen Welt ist „Effizienz“ für Chiphersteller gleichbedeutend mit „langer Batterielebensdauer“. Intel versucht unterdessen zu betonen, dass CPUs, GPUs und NPUs zusammenarbeiten können.