Total inference cost is [cost per token] times [tokens used]. AI companies want the first number to go down (ideally a lot) and the second number to go up (ideally a lot). So total inference cost isn't a great metric.
First number is in fact going down dramatically (the y-axis is on a log scale).
November 30, 2025 at 7:54 PM
Total inference cost is [cost per token] times [tokens used]. AI companies want the first number to go down (ideally a lot) and the second number to go up (ideally a lot). So total inference cost isn't a great metric.
First number is in fact going down dramatically (the y-axis is on a log scale).
Après avoir titré partout « il n’a jamais fait aussi froid », « la vague de froid historique de novembre 2025 » (et au passage insulté quelques scientifiques) voilà que novembre 2025 se termine… au-dessus des normales, avec +0,8°C. 2/3
November 30, 2025 at 6:52 PM
Après avoir titré partout « il n’a jamais fait aussi froid », « la vague de froid historique de novembre 2025 » (et au passage insulté quelques scientifiques) voilà que novembre 2025 se termine… au-dessus des normales, avec +0,8°C. 2/3