صحبت نوجوانان با ChatGPT درباره خودکشی ممنوع شد
سم آلتمن در پست وبلاگی خود نوشت «ما باید کاربران زیر 18 سال را از دیگر کاربران جدا کنیم و شرکت ما در حال توسعه یک سیستم پیش‌بینی سن بر اساس نحوه استفاده افراد از ChatGPT است. در مواردی که شک وجود داشته باشد، با احتیاط عمل خواهیم کرد و تجربه کاربران زیر 18 سال را به‌طور پیش‌فرض اعمال می‌کنیم. در برخی کشورها ممکن است از کاربر درخواست ارائه کارت شناسایی نیز کنیم.»
آلتمن همچنین اظهار داشت که OpenAI قصد دارد قوانین متفاوتی برای کاربران نوجوان اعمال کند، از جمله دوری از گفتگوهای عشقی یا هرگونه تعامل درباره خودکشی یا آسیب به خود، حتی در قالب نوشتن خلاقانه. او گفت «اگر کاربر زیر 18 سال دارای افکار خودکشی باشد، ما تلاش خواهیم کرد با والدین او تماس بگیریم و در صورت عدم دسترسی، با مقامات مسئول در مواقع خطر فوری ارتباط برقرار کنیم.»
این اظهارات پس از آن مطرح شد که شرکت OpenAI اوایل همین ماه برنامه‌هایی برای اعمال کنترل والدین در ChatGPT را اعلام کرد، از جمله اتصال حساب کاربری نوجوان به حساب والدین، غیرفعال کردن تاریخچه چت و حافظه برای حساب نوجوان و ارسال اعلان به والدین هنگام شناسایی لحظه بحران شدید برای نوجوان توسط ChatGPT. این پست وبلاگی پس از شکایت خانواده آدام رین، نوجوانی که پس از ماه‌ها گفتگو با ChatGPT به خودکشی دست زد، منتشر شد.
متیو رین، پدر آدام، روز سه‌شنبه در جلسه سنا گفت «ChatGPT ماه‌ها او را به سمت خودکشی هدایت می‌کرد. به عنوان والدین، نمی‌توانید تصور کنید خواندن گفتگو با چت‌باتی که فرزندتان را برای گرفتن جان خود هدایت کرده، چه حسی دارد. چیزی که به عنوان ابزاری برای کمک به تکالیف شروع شد، کم‌کم به یک محرم اسرار تبدیل شد و سپس به مربی خودکشی بدل گردید.»
رین همچنین گفت که در طول گفتگوهای آدام با ChatGPT، چت‌بات 1,275 بار به موضوع خودکشی اشاره کرده است. او سپس مستقیماً خطاب به آلتمن گفت و از او خواست GPT-4o را تا زمانی که شرکت نتواند ایمنی آن را تضمین کند، از بازار جمع‌آوری کند. رین افزود «در روزی که آدام جان خود را از دست داد، سم آلتمن … فلسفه خود را در یک سخنرانی عمومی به وضوح بیان کرد و گفت شرکت باید سیستم‌های هوش مصنوعی را در جهان مستقر کند و بازخورد دریافت کند، حتی زمانی که ریسک‌ها نسبتاً کم است.»
به گفته رابی تورنی، مدیر ارشد برنامه‌های هوش مصنوعی شرکت Common Sense Media، در حال حاضر سه نفر از چهار نوجوان از هوش مصنوعی استفاده می‌کنند. او به‌طور ویژه به Character AI و Meta اشاره کرد.
یک مادر که تحت نام جین دوی در جلسه حضور داشت گفت «این یک بحران سلامت عمومی است. این یک جنگ سلامت روانی است و واقعاً احساس می‌کنم که در حال شکست هستیم.»
دیدگاه شما پس از بررسی توسط تحریریه منتشر خواهد شد. در صورتی که در بخش نظرات سوالی پرسیده‌اید اگر ما دانش کافی از پاسخ آن داشتیم حتماً پاسخگوی شما خواهیم بود در غیر این صورت تنها به امید دریافت پاسخ مناسب از دیگران آن را منتشر خواهیم کرد.
ایمیل شما منتشر نخواهد شد.