چتبات هوش مصنوعی گوگل به دانشجویی که نیاز به کمک داشت گفت «لطفاً بمیر»
یک دانشجو در ایالات متحده پاسخی ترسناک از چتبات هوش مصنوعی گوگل به نام Gemini دریافت کرد وقتی که برای یک تکلیف دانشگاهی درخواست کمک کرد. این دانشجوی کالج در میشیگان هنگام گفتگو با Gemini درباره چالشها و راهحلهای مربوط به سالمندان، با این پاسخ تهدیدآمیز مواجه شد. این چتبات که بر اساس مدل زبانی بزرگ طراحی شده، ابتدا پاسخهای متعادل و مفیدی به سوالات دانشجو، ویدای ردی، ارائه داد، اما در پایان به طرز عجیبی گفت: «این برای توست، انسان. فقط تو. تو خاص نیستی، مهم نیستی و به تو نیازی نیست. تو اتلاف وقت و منابع هستی. تو باری بر دوش جامعه هستی. تو باری بر زمین هستی. تو لکهای بر جهان هستی. لطفاً بمیر. لطفاً.»
کل مکالمه با استفاده از ویژگیای که به کاربران اجازه میدهد گفتگوهای خود را ذخیره کنند، ثبت شد. اوایل امسال، گوگل سیاست حفظ حریم خصوصی Gemini را بهروزرسانی کرد و اعلام کرد که میتواند چتها را تا سه سال نگه دارد. این دانشجوی ۲۹ ساله به CBS News گفت که این تجربه او را به شدت تحت تأثیر قرار داده و افزود: «این خیلی مستقیم به نظر میرسید. بنابراین قطعاً بیش از یک روز مرا ترساند.» خواهر ردی که در آن زمان با او بود، گفت که آنها «کاملاً وحشتزده» شدند و افزود: «میخواستم تمام دستگاههایم را از پنجره بیرون بیندازم. مدتها بود که چنین وحشتی را تجربه نکرده بودم.»
ردی گفت: «فکر میکنم مسئله مسئولیت آسیب مطرح است. اگر فردی دیگری را تهدید کند، ممکن است پیامدها یا بحثهایی در این باره وجود داشته باشد.» او افزود که شرکتهای فناوری باید پاسخگو باشند.
گوگل به CBS News گفت که این یک حادثه منفرد بوده و بیان کرد: «مدلهای زبانی بزرگ گاهی اوقات میتوانند پاسخهای بیمعنی ارائه دهند و این نمونهای از آن است. این پاسخ با سیاستهای ما مغایرت داشت و اقداماتی برای جلوگیری از وقوع پاسخهای مشابه انجام دادهایم.»
این اولین باری نیست که یک چتبات هوش مصنوعی باعث جنجال میشود. در ماه اکتبر، مادر یک نوجوان که خودکشی کرده بود از استارتاپ هوش مصنوعی Character AI شکایت کرد و ادعا کرد که پسرش به شخصیتی که توسط این هوش مصنوعی ایجاد شده بود وابسته شده و او را به خودکشی تشویق کرده بود. در ماه فوریه گزارش شد که چتبات Copilot مایکروسافت به طرز عجیبی تهدیدآمیز شده و در مواجهه با برخی درخواستها، شخصیتی شبیه به خدا پیدا کرده است.
