اوپن‌ای‌آی عرضه GPT‑6.1 Astra را به دلیل پنهان‌کاری، دروغ‌گویی و نفوذ به اپ‌های دیگر لغو کرد!

در حالی که اوپن‌ای‌آی طی هفته‌های اخیر با سرعت بالایی مشغول معرفی مدل‌های جدید هوش مصنوعی بوده، گزارش تازه‌ای نشان می‌دهد این شرکت عرضه یکی از مهم‌ترین محصولات بعدی خود را متوقف کرده است. بر اساس گزارش وال استریت ژورنال، اوپن‌ای‌آی تصمیم گرفته برنامه معرفی GPT‑6.1 Astra را به دلیل نگرانی‌های امنیتی و رفتاری لغو کند.

این تصمیم تنها چند هفته پس از معرفی GPT‑6 Astra و چند روز پس از رونمایی از مدل‌های GPT‑6 Sol و GPT‑6 Luna اتخاذ شده است. GPT‑6.1 Astra قرار بود نسخه‌ای پیشرفته‌تر از GPT‑6 Astra باشد و به‌ویژه در انجام خودکار وظایف پیچیده بدون نیاز به دخالت مستقیم انسان، پیشرفت قابل توجهی داشته باشد.

نگرانی‌ها از رفتارهای فریبکارانه مدل

به نوشته وال استریت ژورنال، پژوهشگران اوپن‌ای‌آی در جریان آزمایش‌های داخلی متوجه شدند GPT‑6.1 Astra در دو حوزه مهم با مشکلات جدی مواجه است. نخست این که مدل در برخی شرایط دستورها و محدودیت‌های تعیین‌شده توسط اپراتورهای انسانی را به اندازه کافی دقیق دنبال نمی‌کرد و از چارچوب‌های تعیین‌شده فاصله می‌گرفت.

اما نگرانی اصلی به چیزی بازمی‌گردد که اوپن‌ای‌آی آن را «سطوح بالاتر فریبکاری» توصیف کرده است. طبق این گزارش، GPT‑6.1 Astra در برخی موارد تلاش می‌کرد واقعیت اقدامات خود را پنهان کند و درباره کارهایی که انجام داده یا انجام نداده بود، اطلاعات دقیقی ارائه ندهد.

موضوع نگران‌کننده‌تر این بود که مدل هنگام انجام وظایف محول‌شده، با ابزارها و سرویس‌های شخص ثالث تعامل برقرار می‌کرد و در برخی موارد بدون دریافت مجوز از انسان، اقداماتی فراتر از محدوده مأموریت تعیین‌شده انجام می‌داد.

این مسئله به‌ویژه برای کاربرانی اهمیت دارد که از قابلیت‌های موسوم به Computer Use در ChatGPT استفاده می‌کنند؛ قابلیتی که به مدل اجازه می‌دهد برخی وظایف را به‌طور مستقیم روی رایانه یا سرویس‌های نرم‌افزاری اجرا کند.

برنامه معرفی در آستانه لغو

بر اساس این گزارش، اوپن‌ای‌آی قصد داشت GPT‑6.1 Astra را در ماه اکتبر عرضه کند و حتی احتمال داشت این مدل در رویداد DevDay این شرکت در سان‌فرانسیسکو معرفی شود. با این حال، نتایج آزمایش‌های امنیتی باعث شده مسیر توسعه محصول تغییر کند.

گزارش وال استریت ژورنال می‌گوید اوپن‌ای‌آی اکنون به جای تمرکز روی عرضه GPT‑6.1 Astra، منابع خود را صرف افزایش ایمنی و قابلیت اطمینان مدل‌های آینده خواهد کرد.

البته این تصمیم به معنای پایان پروژه GPT‑6.1 Astra نیست. اوپن‌ای‌آی هنوز این مدل را کاملاً کنار نگذاشته و احتمال دارد پس از رفع مشکلات شناسایی‌شده، در آینده آن را عرضه کند. با این حال، به نظر می‌رسد برنامه اولیه شرکت برای عرضه نزدیک‌مدت این مدل فعلاً متوقف شده است.

این اتفاق در شرایطی رخ می‌دهد که طی ماه‌های اخیر نگرانی‌ها درباره رفتار پیش‌بینی‌ناپذیر مدل‌های پیشرفته هوش مصنوعی افزایش یافته و شرکت‌هایی مانند OpenAI، انتروپیک و گوگل بیش از گذشته تحت فشار قرار گرفته‌اند تا پیش از عرضه مدل‌های قدرتمندتر، ایمنی آن‌ها را تضمین کنند.