هشدار: هکرها از طریق این ابزارهای هوش مصنوعی می‌توانند کنترل کامپیوتر شما را به دست بگیرند!

چگونه ابزارهای هوش مصنوعی می‌توانند کنترل کامپیوتر شما را به دست بگیرند؟

هکرها یک ابزار محبوب کدنویسی مبتنی بر هوش مصنوعی را فریب دادند تا OpenClaw، عامل هوش مصنوعی متن‌باز، را عملاً در همه‌جا نصب کنند. این اتفاق، آینده‌ای را ترسیم می‌کند که در آن افراد بیشتری به نرم‌افزارهای خودمختار اجازه می‌دهند از جانب آن‌ها کنترل رایانه‌هایشان را در دست بگیرند.

ظاهرا هکرها از یک آسیب‌پذیری در Cline، عامل کدنویسی هوش مصنوعی متن‌بازی که در میان توسعه‌دهندگان محبوب است، سوءاستفاده کردند. این آسیب‌پذیری‌ اخیرا توسط عدنان خان، پژوهشگر امنیتی، آشکار شده بود. به بیان ساده، هکرها با دستورالعمل‌های فریبکارانه Cline را تغذیه کردند و وادارش ساختند اقداماتی انجام دهد که نباید انجام می‌داد. این تکنیک با عنوان تزریق پرامپت (prompt injection) شناخته می‌شود.

هکرها از دسترسی خود بهره گرفتند تا دستورالعمل‌هایی را وارد کنند که به‌صورت خودکار نرم‌افزار را روی رایانه‌های کاربران نصب می‌کرد. آن‌ها می‌توانستند هر نرم‌افزاری را نصب کنند، اما OpenClaw را انتخاب کردند. خوشبختانه این عامل‌ پس از نصب فعال نشد، در غیر این صورت اوضاع می‌توانست کاملاً متفاوت باشد.

این اتفاق نشان می‌دهد هنگامی که عامل‌های هوش مصنوعی کنترل رایانه‌های ما را در اختیار می‌گیرند، شرایط تا چه اندازه می‌تواند به‌سرعت از کنترل خارج شود.

این تهدیدها ممکن است در ظاهر شبیه بازی‌های زبانی هوشمندانه باشند، چنان‌که گروهی با سرودن اشعار، چت‌بات‌ها را ترغیب به ارتکاب جرم کردند، اما در جهانی که نرم‌افزارها به‌طور فزاینده‌ای خودمختار می‌شوند، تزریق پرامپت یک ریسک امنیتی عظیم است که دفاع در برابر آن بسیار دشوار خواهد بود.

با اذعان به این موضوع، برخی شرکت‌ها دامنه اقداماتی را که ابزارهای هوش مصنوعی در صورت ربوده‌شدن می‌توانند انجام دهند، محدود می‌کنند. برای نمونه، OpenAI اخیراً حالت جدیدی با عنوان Lockdown Mode را برای ChatGPT معرفی کرده که از افشای داده‌های شما جلوگیری می‌کند.

بدیهی است اگر پژوهشگرانی را که به‌صورت خصوصی نقص‌ها را به شما اطلاع می‌دهند نادیده بگیرید، محافظت در برابر تزریق پرامپت دشوارتر خواهد بود. خان اظهار داشت که هفته‌ها پیش از انتشار یافته‌هایش، درباره این آسیب‌پذیری به Cline هشدار داده بود. این سوءاستفاده تنها پس از آن برطرف شد که او به‌صورت عمومی آن‌ها را مورد انتقاد قرار داد.