Neue Technik macht den ChatGPT Betrieb plötzlich extrem günstig
OpenAI hat die Inferenzkosten seiner bestehenden Sprachmodelle offenbar um mehr als die Hälfte gesenkt. Zeitweise lief ChatGPT für unangemeldete Nutzer nur noch auf wenigen hundert Nvidia GPUs, was auf einen deutlichen Effizienzsprung hindeutet.
Die internen Einsparungen sollen dem Unternehmen helfen, sein Margenziel von 52 Prozent bis zum Jahresende zu erreichen und den Druck durch den knappen Bedarf an Hardware zu verringern. Möglich wird dadurch auch mehr Spielraum bei Preisen und Nutzungsgrenzen für ChatGPT und API Zugriffe.
Am Markt hatte die Entwicklung Folgen für amerikanische Halbleiter Aktien, deren Kurse deutlich fielen.
