Laut dem Marktforschungsunternehmen Semi-Analysis kostet allein der Betrieb des Sprachmodells täglich bis zu 700.000 Dollar. Der Grund für die enormen Betriebskosten sei hauptsächlich die stromhungrige Server-Infrastruktur, die für die Berechnungen des Modells benötigt wird, berichtet Chefanalyst Dylan Patel. Dabei sei diese Schätzung sogar noch konservativ, da sie auf der älteren Version GPT-3 beruhe. Das neueste Modell, GPT-4, das um einen Faktor von 100 größer als GPT-3 ist und inzwischen Premium-Nutzerinnen und -Nutzern von ChatGPT zur Verfügung gestellt wird, sei noch deutlich rechen- und damit kostenintensiver. Unternehmen entwickeln aktuell deshalb speziell für KI maßgeschneiderte Chips, die die Stromkosten für die Berechnung der Modelle deutlich reduzieren sollen.
Kategorien