Der Tech-Kolumnist Robert X. Cringely hat am 29. Mai auf I, Cringely einen Artikel veröffentlicht, der das Konzept der „Nvidia-Steuer“ vorstellt: Nvidia hat einen Marktanteil von etwa 81 % bei KI-Chips für Rechenzentren, der Datencenter-Umsatz des letzten Geschäftsjahres lag bei rund 193,7 Milliarden US-Dollar, die Bruttomarge bei etwa 75 %; die Herstellungskosten der Flaggschiff-GPU (durch Zerlegung ermittelt) betragen rund 3.300 US-Dollar, der Verkaufspreis etwa 28.000 US-Dollar, die implizite Bruttomarge liegt somit bei etwa 88 %. Cringely zufolge handelt es sich bei dieser Preissetzungsmacht nicht um einen Preis, sondern um eine Steuer – über die Kette Rechenzentrumsstromverbrauch → Vorabgebühren für den Netzausbau → Stromrechnung der Haushalte werden Nvidias Gewinne auf normale Nutzer umgelegt, die nie eine GPU gekauft haben. Er zitiert einen Bericht von Consumer Reports, wonach die Strompreise für Haushalte in Landkreisen mit hoher Rechenzentrumsdichte in Nord-Virginia innerhalb von fünf Jahren um 267 % gestiegen sind, die landesweiten Strompreise für Haushalte stiegen seit 2020 um über 36 %, und Goldman Sachs schätzt, dass Rechenzentren bis zum Ende dieses Jahrzehnts 40 % des Anstiegs der Stromnachfrage ausmachen werden.
Cringely führt weiter aus, dass die Hyperscaler-Cloud-Anbieter jedes Jahr Hunderte Milliarden Dollar in die Eigenentwicklung kundenspezifischer Chips wie TPU, Trainium, Maia stecken – im Wesentlichen, um einen „Steuerfluchttunnel“ zu graben. Nachdem Midjourney seine Inferenz von GPUs auf Google TPUs verlagert hatte, sanken die monatlichen Rechenkosten Berichten zufolge von 2,1 Millionen auf 700.000 US-Dollar. Aber seiner Meinung nach fragt sich jeder nur, „wie man weniger Steuern zahlen kann“, während niemand fragt: „Warum sollte diese Transaktion überhaupt besteuert werden?“. Sein Kernargument: Etwa zwei Drittel der KI-Rechenleistung werden derzeit für Inferenz statt für Training verbraucht, wobei ein Großteil dieser Arbeit im Wesentlichen aus Retrieval besteht – Aufgaben, die CPUs seit Jahrzehnten mit extrem niedrigem Stromverbrauch erledigen, die aber nun an 700-Watt-GPUs weitergeleitet werden, einfach weil „KI = GPU“ zur stillschweigenden Grundannahme der Branche geworden ist, ohne dass dies hinterfragt wird. Am Ende des Artikels enthüllt Cringely, dass er selbst Mitgründer eines Unternehmens namens 2Brains ist, das auf die These setzt, dass „ein großer Teil der KI-Abfragen von Unternehmen überhaupt keine GPU benötigt“.