چت‌بات ChatGPT محبوبیت زیادی در بین کاربران پیدا کرده، اما هزینه اجرای این مدل بزرگ یادگیری ماشین میتواند بسیار بالا باشد.
پلتفرم‌هایی مثل ChatGPT نیاز به منابع محاسباتی قابل‌توجهی برای آموزش و نگهداری دارند و هزینه آن‌ها بسته به عواملی مثل سایز و پیچیدگی مدل و همچنین میزان داده پردازش‌شده و سطح تقاضای کاربران میتواند متغیر باشد. با این حال، سازمان‌هایی که از مدل‌های زبانی هوش مصنوعی استفاده می‌کنند ممکن است منافعی از قابلیت‌های این مدل‌ها کسب کنند که ارزش هزینه‌های گفته شده را داشته باشد.
هزینه اجرای ChatGPT
طبق یک گزارش جدید، هزینه اجرای ChatGPT حدود ۷۰۰ هزار دلار در روز می‌شود. این هزینه عمدتاً شامل هزینه بالای نگهداری سرورهایی می‌شود که برای ارائه بازخورد براساس ورودی کاربران استفاده می‌شوند. این بازخوردها شامل نوشتن متن، تولید طرح‌های آموزشی و بهینه‌سازی داده‌های شخصی می‌شوند.
دیلان پاتل، تحلیلگر ارشد SemiAnalysis با برآورد هزینه مدل GPT-3 می‌گوید هزینه ChatGPT بر پاید مدل جدید GPT-4 حتی بسیار بیشتر از هزینه فعلی خواهد بود. لازم به ذکر است که هزینه محاسبات هوش مصنوعی بسیار فراتر از هزینه آموزش تنهاست. در چند سال گذشته، کسب‌وکارهایی که از مدل‌های زبانی OpenAI استفاده کرده‌اند مجبور به پرداخت قیمت‌های بالایی شده‌اند. گفتنی است در سال ۲۰۲۱، هزینه خرید سرورهای ابری AWS آمازون برای بازی هوش مصنوعی استودیو Latitude چیزی حدود ۲۰۰ هزار دلار در ماه شده بود.
مایکروسافت در حال توسعه یک تراشه هوش مصنوعی با نام رمزی آتنا (Athena) است که هزینه مدل‌های هوش مصنوعی مولد را کاهش خواهد داد، اما این تراشه از سال آینده فقط برای کاربردهای داخلی مایکروسافت و OpenAI استفاده خواهد شد.