با Chat with RTX‌ انویدیا با کارت گرافیک خود آفلاین چت کنید!

احتمالاً می‌دانید که اغلب پردازش‌های هوش مصنوعی با استفاده از کارت‌های گرافیک در سرورهای قدرتمند ابری انجام می‌شود. اما حالا انویدیا یک هوش مصنوعی جدید با نام Chat with RTX معرفی کرده که کاملاً آفلاین و روی کامپیوتر شما اجرا شده و به وسیله آن می‌توانید عملاً با کارت گرافیک خود چت کنید.

سیستم مورد نیاز برای Chat with RTX

برای استفاده از این مدل هوش مصنوعی بایستی سیستم شما به یک کارت گرافیک سری RTX 30 یا RTX 40 و حداقل ۸ گیگابایت حافظه گرافیکی VRAM مجهز باشد.

مدل Chat with RTX چه قابلیت‌هایی دارد؟

یکی از قابلیت‌های جذاب این مدل، قابلیت خلاصه کردن فایل‌های متنی یا ویدئوهای یوتیوب است. فقط کافیست لینک یوتیوب را وارد کنید تا مدل به‌صورت خودکار محتوای ویدئو را خلاصه کند.

یکی دیگر از قابلیت‌های این مدل، اسکن فایل‌های PDF و یافتن محتوای خاص و یا راستی‌آزمایی آن‌هاست.

با این‌حال Chat with RTX‌ فعلاً در مرحله آزمایشی قرار داشته و عملاً یک وب سرور و یک نسخه از پایتون را روی سیستم شما نصب می‌کند. این مدل سپس از Mistral یا Llama 2 برای پاسخ دادن به پرسش‌های شما استفاده می‌کند که به وسیله هسته‌های تنسور RTX به آن‌ها سرعت می‌بخشد.

یک مشکل دیگر حجم بالای این مدل و سرعت نصب پایین آن است. نصب Chat with RTX روی یک سیستم فوق‌العاده با پردازنده Core i9-14900K اینتل و کارت گرافیک پرچم‌دار RTX 4090 حدود ۳۰ دقیقه طول می‌کشد. این نرم‌افزار ۴۰ گیگابایت حجم دارد و پایتون آن هم حدود ۳ گیگابایت از حافظه رم را اشغال می‌کند.

با این‌حال این پروژه نشان می‌دهد که امکان پردازش آفلاین هوش مصنوعی هم وجود دارد و همیشه نیازی به اتکا به اینترنت و پردازش ابری نیست. پس اگر شما هم یک سیستم قدرتمند دارید بد نیست Chat with RTX را امتحان کنید؛ خصوصاً در شرایطی که اتصال اینترنت در ایران همواره دچار اختلال، تحریم و فیلترینگ است.

دانلود کنید

برای دانلود ابتدا از وصل بودن ابزار دور زدن تحریم یا تغییر DNS اطمینان حاصل کنید؛ چرا که انویدیا کاربران ایرانی را تحریم کرده است! سپس می‌توانید از این لینک، Chat with RTX را دانلود کنید.