انویدیا با تشکیل «ائتلاف متن‌باز امنیت هوش مصنوعی» به دنبال تقویت دفاع سایبری است

انویدیا ائتلاف جدیدی را با عنوان Open Secure AI Alliance راه‌اندازی کرده و در آن مجموعه‌ای از بزرگ‌ترین شرکت‌های فناوری جهان را گرد هم آورده است. هدف این ائتلاف، توسعه ابزارها و استانداردهای متن‌باز برای تقویت امنیت سایبری در عصر مدل‌های هوش مصنوعی پیشرفته است. در میان 27 عضو بنیان‌گذار این گروه، نام‌هایی مانند مایکروسافت، اسپیس‌ایکس، دل، بنیاد لینوکس و خود انویدیا دیده می‌شود. انویدیا در بیانیه‌ای اعلام کرده این ائتلاف با تکیه بر تجربه پروژه‌های Akrites و OpenSSF، قصد دارد با استفاده از فناوری‌های متن‌باز، آسیب‌پذیری‌ها را شناسایی، رفع و افشا کند.

ائتلاف متن‌باز برای حفظ امنیت در عصر هوش مصنوعی به رهبری انویدیا

این گروه معتقد است برای مقابله مؤثر با حملات سایبری در دوره مدل‌های پیشرفته‌ای مانند Mythos 5 از Anthropic، پژوهشگران امنیتی باید به هر دو نوع مدل متن‌باز و مدل‌های تجاری بسته دسترسی داشته باشند. انویدیا در توضیح این موضوع به حمله اخیر عامل هوش مصنوعی OpenAI به سرورهای Hugging Face اشاره کرده است؛ جایی که Hugging Face ابتدا تلاش کرد از مدل‌های تجاری بسته برای تحلیل حمله استفاده کند، اما این مدل‌ها به دلیل فعال شدن سیستم‌های ایمنی، درخواست‌ها را رد کردند. در نهایت، این شرکت با استفاده از مدل متن‌باز GLM 5.2 توانست بیش از 17 هزار فعالیت مخرب را تحلیل و حمله را مهار کند.

انویدیا و شرکای این ائتلاف هرکدام بخش‌هایی از زیرساخت امنیتی را ارائه خواهند کرد. انویدیا قصد دارد مدل‌های متن‌باز، وزن مدل‌ها، داده‌ها و ابزارهای جدید برای توسعه عامل‌های امنیتی را در اختیار جامعه قرار دهد. HPE استانداردهایی برای تایید رمزنگاری‌شده عامل‌های هوش مصنوعی ارائه می‌کند و Hugging Face نیز فرمت امن Safetensors را برای ذخیره وزن مدل‌ها در اختیار ائتلاف قرار می‌دهد. شرکت‌هایی مانند مایکروسافت، SpaceXAI، IBM و Red Hat نیز فناوری‌های متن‌باز هوش مصنوعی خود را به این ابتکار اضافه خواهند کرد.

این گروه همچنین از دولت‌ها خواسته در سرمایه‌گذاری روی زیرساخت‌های متن‌باز هوش مصنوعی با شرکت‌ها همکاری کنند و تاکید کرده مدل‌های متن‌باز باید به‌عنوان «دارایی دفاعی» شناخته شوند، نه تهدید. به گفته ائتلاف، محدودیت‌های گسترده بر مدل‌های متن‌باز می‌تواند توان دفاعی را کاهش دهد و قدرت را در اختیار تعداد محدودی از ارائه‌دهندگان مدل‌های بسته قرار دهد.

این خبر در حالی منتشر می‌شود که گزارش‌هایی نشان می‌دهد دولت آمریکا در حال بررسی ممنوعیت گسترده مدل‌های متن‌باز چینی است؛ مدل‌هایی که به دلیل هزینه کمتر و انعطاف بیشتر، محبوبیت زیادی پیدا کرده‌اند. در همین حال، شرکت‌هایی مانند OpenAI، انتروپیک، متا و گوگل (که عمدتا مدل‌های تجاری بسته ارائه می‌کنند) در فهرست اعضای این ائتلاف حضور ندارند.