صنعت هوش مصنوعی در حال ورود به مرحله بلوغ خود است و به همین خاطر، اصطلاحات سنتی دیگر کاربردی ندارند. به همین دلیل، NVIDIA پیشنهاد میدهد که روشهای جدیدی برای ارزیابی هزینه کل مالکیت (TCO) در زمینه هوش مصنوعی باید بر اساس “هزینه به ازای توکن” مورد بررسی قرار گیرد.
توکنها به عنوان مهمترین معیار در دنیای هوش مصنوعی شناخته میشوند. در حالی که مراکز داده گذشته بر اساس قدرت پردازش خام خود ارزیابی میشدند، امروزه کارخانههای هوش مصنوعی بر اساس خروجی توکن خود سنجیده میشوند. با این حال، مهم نیست که چه کسی بالاترین تعداد توکن را تولید میکند، بلکه کارایی و هزینهها مهمترین ارزشها باقی ماندهاند. به همین دلیل، رویکرد کارخانههای هوش مصنوعی به هزینه کل مالکیت باید تغییر کند.
NVIDIA تاکید میکند که کسبوکارها هنوز از اعداد نسبی، مشخصات پردازندهها، هزینه پردازش و نسبت FLOPS به دلار استفاده میکنند که این وضعیت باید اصلاح شود. هزینه پردازش، هزینهای است که کسبوکارها برای زیرساختهای هوش مصنوعی خود، چه از ارائهدهندگان ابر اجاره کنند و چه بهصورت مالکانه، پرداخت میکنند. در حالی که نسبت FLOPS به دلار نشاندهنده میزان قدرت پردازش خامی است که یک کسبوکار برای هر دلار هزینه میکند، اما قدرت پردازش خام و خروجی واقعی توکنها یکسان نیستند. هزینه به ازای توکن، هزینه کلی یک کسب و کار برای تولید هر توکن تحویلی است که معمولاً به صورت هزینه به ازای یک میلیون توکن نمایش داده میشود.
NVIDIA برخی از عواملی را که میتوانند هزینه توکن را کاهش دهند، تشریح میکند. آنها از یک فرمول برای محاسبه هزینه به ازای یک میلیون توکن استفاده میکنند. این شرکت میگوید که اکثر کسبوکارهای هوش مصنوعی فقط به صورت عددی روی هزینه به ازای هر GPU در ساعت تمرکز میکنند، اما این تنها بخشی از تصویر است. صورت معادله نشاندهنده هزینه است، در حالی که مخرج معادله واقعاً به کاهش هزینه توکنها و افزایش درآمد کمک میکند. با افزایش خروجی توکنها، در صورت بازتاب آن در معادله هزینه، هزینه به ازای توکن کاهش مییابد که این موضوع باعث افزایش حاشیه سود در هر تعامل میشود. همچنین، بالاترین تعداد توکنهای تحویلی در ثانیه نیز به افزایش درآمد کمک میکند زیرا این تعداد بیشتر به معنای بهرهوری بیشتر از زیرساختهای سرمایه گذاری شده است.
برای درک اهمیت این موضوع، NVIDIA بین پردازندههای Hopper و Blackwell خود مثالی ارائه میدهد. هزینه عملکرد پردازندههای Hopper به طرز قابل توجهی کمتر از Blackwell است و در عین حال، اختلاف FLOPS به دلار نیز بسیار اندک است. به همین دلیل، بر اساس این دو معیار، Blackwell هیچ مزیت قابل توجهی به نظر نمیرسد زیرا هزینه آن 2 برابر بیشتر است و این موضوع عملکرد بیشتری که نسبت به نسل قبلی دارد را جبران میکند. اما تفاوت واقعی در میزان تحویل توکنها و هزینه به ازای یک میلیون توکن نهفته است. در این دو معیار، Blackwell تا 65 برابر بهتر از Hopper است و هزینه به ازای یک میلیون توکن نیز بر روی Blackwell به میزان 35 برابر پایینتر است. برای مقایسه، این دادهها بر اساس بنچمارک InferenceX v2 SemiAnalysis ارزیابی شدهاند.
در نهایت، NVIDIA اعلام میکند که با این بازنگری در هزینه کل مالکیت هوش مصنوعی و یافتههای جدید، آنها فقط به پیروزی در بنچمارکها اکتفا نمیکنند؛ بلکه همچنین ادعا میکنند که در ارزیابی معیارهای مهم برای کسبوکارهای هوش مصنوعی مقام اول را دارند.
منبع: Wccftech — لینک
زمان انتشار منبع: 16 اپریل 2026