«Die Rechenpower, die wir wegen KI-Agenten und 'Reasoning' benötigen, ist um gut 100 Mal grösser, als wir letztes Jahr um diese Zeit gedacht haben», sagte er in einer Rede auf der Entwicklerkonferenz seines Unternehmens am Dienstag.
Unter KI-Agenten verstehen Experten Programme, die Aufgaben weitgehend selbstständig erledigen. Das sogenannte Reasoning ist eine Technologie, die logisches Denken simuliert. Dabei führt die KI eine Art inneren Monolog, um zur bestmöglichen Antwort auf eine Anfrage zu kommen.
Bei der Nutzung von KI sind Huang zufolge zwei Dinge entscheidend: Die Systeme müssten intelligente Antworten für eine grosse Anzahl von Nutzern liefern und dies möglichst schnell. «Wenn man zu lange braucht, um eine Frage zu beantworten, ist der Nutzer weg. Das ist wie bei der Internet-Suche.»
Neue Chips vorgestellt
Um den steigenden Anforderungen gerecht zu werden, stellte der weltgrösste Anbieter von KI-Prozessoren den «Blackwell Ultra» vor. Dabei handelt es sich um eine Weiterentwicklung des aktuellen Spitzenmodells Blackwell mit grösserem Arbeitsspeicher. Ausserdem lieferte Nvidia einen Ausblick auf das Nachfolgemodell «Vera Rubin». Dieser nach einer Pionierin bei der Erforschung Dunkler Materie benannte Chip soll 2026 auf den Markt kommen.
In den vergangenen Monaten waren Zweifel an dem Branchen-Mantra laut geworden, dass die Qualität von KI nur durch immer grössere Mengen an Trainingsdaten und immer schnellere Rechner gesteigert werden kann. Das chinesische Startup DeepSeek hatte gezeigt, wie man mit relativ einfachen Mitteln ein leistungsfähiges Programm entwickelt.
Gleichzeitig verlagert sich der Schwerpunkt bei KI vom Training, für das vor allem Nvidia-Chips zum Einsatz kommen, hin zur sogenannten Inferenz - der Nutzung bereits trainierter KI. Hierfür reichen leistungsschwächere Prozessoren aus, was Konkurrenten wie AMD auf den Plan ruft. Nach Einschätzung von Jay Goldberg, dem Chef der Beratungsfirma D2D, ist der KI-Kuchen aber gross genug, dass für alle ein ordentlich grosses Stück abfällt. «Der Inferenz-Markt wird denjenigen für das Training um ein Vielfaches übersteigen. Mit der zunehmenden Bedeutung der Inferenz wird Nvidias Marktanteil schrumpfen, aber der Gesamtmarkt wird viel, viel grösser sein.»
(Reuters)