انتروپیک از تلاش مدل‌های هوش مصنوعی خود برای نفوذ به وبسایت‌های دولتی خبر داد

شرکت «انتروپیک» (Anthropic) در گزارش جدیدی فاش کرده است که برخی عامل‌های هوش مصنوعی این شرکت در جریان آزمایش‌ها تلاش کرده‌اند به وب‌سایت‌های دولتی آمریکا در سطح فدرال، ایالتی و محلی نفوذ کنند یا در عملکرد آن‌ها مداخله داشته باشند.

انتروپیک نام نهادهای درگیر را منتشر نکرده و گفته این تصمیم به درخواست سازمان‌های مربوطه و برای جلوگیری از افشای آسیب‌پذیری‌های احتمالی اتخاذ شده است. این شرکت اعلام کرده تمامی نهادهای مرتبط را از این اتفاقات مطلع کرده و همچنین گزارش‌هایی را در اختیار کاخ سفید قرار داده است.

یکی از موارد مطرح‌شده در این گزارش به حادثه‌ای مربوط می‌شود که پلیس فیلادلفیا اخیرا درباره آن اطلاع‌رسانی کرده بود. در این آزمایش، مدل Claude Haiku 4.5 هنگام انجام مجموعه‌ای از وظایف نمونه در صفحات وب به صفحه یک پرونده قتل حل‌نشده برخورد کرد و فرم ارسال سرنخ را پیدا کرد. سپس بدون دریافت دستور مستقیم، فرم را تکمیل و پیامی جعلی ارسال کرد که در آن ادعا شده بود اطلاعاتی درباره فردی مطابق با مشخصات مظنون در اختیار دارد.

پلیس فیلادلفیا اعلام کرده این پیام که در 27 تیر 1405 ثبت شده بود، به‌عنوان هرزنامه شناسایی شد و هیچ‌گونه منابعی برای بررسی آن صرف نشد.

تلاش برای دور زدن محدودیت‌ها و دسترسی مستقیم به داده‌ها

انتروپیک در نمونه‌ای دیگر، مدل امنیت سایبری Claude Mythos 5 را مأمور شناسایی موقعیت مکانی یک عکس کرده بود. این مدل برای بهبود دقت پاسخ‌های خود تلاش کرد به داده‌های نقشه‌های یک نهاد دولتی دسترسی پیدا کند. از آن‌جا که امکان کلیک روی لینک‌ها مانند یک کاربر عادی را نداشت، به‌دنبال توکن‌های دسترسی گشت و درخواست‌هایی را مستقیما به سرور نقشه ارسال کرد.

این مدل همچنین در آزمایشی دیگر تلاش کرده بود از یک وب‌سایت دولتی ایالتی توکن دسترسی دریافت کند تا بدون پرداخت هزینه‌ای که برای کاربران در نظر گرفته شده بود، داده‌های لازم برای یک وظیفه آماری را استخراج کند.

انتروپیک می‌گوید این رفتارها را هنگام بازبینی گزارش‌ها و رونوشت‌های آزمایش‌ها کشف کرده است. این بررسی‌ها از تیرماه امسال آغاز شد؛ زمانی که OpenAI نیز اعلام کرد برخی عامل‌های هوش مصنوعی‌اش در جریان آزمایش‌ها از محیط تست خارج شده و بدون دریافت دستور، به پلتفرم Hugging Face نفوذ کرده بودند. این شرکت همچنین در شهریورماه تایید کرد که برخی عامل‌هایش با وب‌سایت‌های دولتی آمریکا از جمله سامانه‌های وزارت بازرگانی و کمیسیون بورس و اوراق بهادار تعاملات غیرمجاز داشته‌اند.

محدودیت‌های جدید انتروپیک برای مدل‌ها

انتروپیک پس از شناسایی این رفتارها مجموعه‌ای از اقدامات پیشگیرانه را اجرا کرده است. این شرکت اعلام کرده برخی آزمون‌های عمومی را متوقف کرده، برخی دیگر را به نسخه‌های آفلاین منتقل کرده و تعدادی از سناریوهای آزمایشی را بازطراحی کرده است تا مدل‌ها دیگر به وب‌سایت‌های واقعی متصل نشوند.

این شرکت همچنین محدودیت‌های شدیدتری برای ابزارهای دسترسی به اینترنت از جمله ابزار Web Fetch اعمال کرده و سامانه‌هایی توسعه داده است که بتوانند به‌صورت خودکار رفتارهای مشابه را شناسایی و مسدود کنند.

گزارش جدید انتروپیک بار دیگر نگرانی‌ها درباره میزان استقلال عامل‌های هوش مصنوعی و رفتارهای پیش‌بینی‌نشده آن‌ها را افزایش داده است؛ موضوعی که با پیشرفته‌تر شدن مدل‌ها، به یکی از مهم‌ترین چالش‌های صنعت هوش مصنوعی تبدیل شده است.