دستکاری نظرات ردیت به‌صورت مخفیانه توسط دانشگاه زوریخ با هوش مصنوعی

دستکاری مخفیانه نظرات کاربران ردیت توسط دانشگاه زوریخ

محققان دانشگاه زوریخ به انجام یک آزمایش چهارماهه غیرمجاز در قسمت r/changemyview سایت ردیت متهم شده‌اند. در این آزمایش، حساب‌های کاربری مجهز به هوش مصنوعی با انتشار نظرات ساختگی تلاش کردند بررسی کنند آیا هوش مصنوعی می‌تواند نظر مردم را تغییر دهد یا خیر.

در این پروژه، حساب‌های هوش مصنوعی نقش شخصیت‌های مختلفی را بازی کردند، از جمله یک قربانی تجاوز، یک فرد مخالف جنبش‌های اجتماعی خاص و یک مشاور روان‌شناسی تمرکز‌دار بر سوء‌رفتار. مدیران انجمن r/changemyview در یک پست تاریخ ۲۶ آوریل اعلام کردند: «انجمن ما یک فضای کاملاً انسانی است که در آن افشای نکردن استفاده از هوش مصنوعی ممنوع است. کاربران برای بحث با هوش مصنوعی یا آزمایش شدن اینجا نمی‌آیند.»

طبق پیش‌نویس مقاله، پژوهشگران از هوش مصنوعی برای تولید پاسخ‌ها استفاده کردند و تلاش کردند پاسخ‌ها را بر اساس اطلاعاتی مثل گرایش سیاسی، جنسیت، سن و قومیت نویسندهٔ اصلی، شخصی‌سازی کنند.

طی این چهارماه، حساب‌های ساختگی دانشگاه زوریخ ۱۷۸۳ نظر منتشر کردند و ۱۳۷ «دلتا» دریافت کردند؛ دلتا علامتی است که نشان می‌دهد یک کاربر ردیت اعتراف کرده نظرش با آن نظر تحت تأثیر قرار گرفته و تغییر کرده است.

پژوهشگران در پستی در انجمن گفتند همه نظرات قبل از انتشار به‌صورت دستی بررسی می‌شد تا قوانین جامعه رعایت شود و «ضرر احتمالی به حداقل برسد.»

تیم دانشگاه استدلال کرد «فواید احتمالی این تحقیق در مقایسه با خطراتش بسیار بیشتر است» چون آن‌ها دریافتند مدل‌های زبانی بزرگ استفاده‌شده در آزمایش می‌توانند بسیار متقاعدکننده باشند و از تمام معیارهای شناخته‌شدهٔ پیشین در متقاعدسازی انسانی نیز فراتر روند.

در بیانیهٔ آن‌ها آمده است: «مطالعهٔ کنترل‌شده و کم‌ریسک ما دیدگاه‌های ارزشمندی دربارهٔ توانایی‌های متقاعدسازی دنیای واقعی مدل‌های بزرگ زبان فراهم کرد؛ توانایی‌هایی که هم‌اکنون در دسترس همه است و بازیگران مخرب می‌توانند آن‌ها را برای اهداف خطرناک‌تر به‌صورت گسترده به‌کار گیرند.»

پژوهشگران همچنین گفتند این آزمایش نشان داد تمایز بین انسان و هوش مصنوعی هنوز چالش‌های زیادی دارد چرا که هیچ‌کس در این مدت ربات‌ها را تشخیص نداد.

انجمن r/changemyview حدود ۳.۸ میلیون عضو دارد و در بین یک درصد بزرگ‌ترین انجمن‌های ردیت قرار می‌گیرد.

مدیران این بخش گفتند از آزمایش آگاه نبودند و از دانشگاه خواسته‌اند عذرخواهی کند و انتشار نتایج تحقیق را متوقف نماید.

ردیت همچنین ممکن است اقدام قانونی کند. بن لی، مسئول حقوقی ردیت، در پستی در ۲۸ آوریل نوشت این آزمایش قوانین و قرارداد کاربری سایت را نقض کرده و تمامی حساب‌های مرتبط با این تحقیق اکنون مسدود شده‌اند.

لی گفت: «در حال ارسال درخواست‌های رسمی حقوقی به دانشگاه زوریخ و تیم تحقیقاتی مربوطه هستیم. ما می‌خواهیم هر کاری می‌توانیم برای حمایت از جامعه انجام دهیم و مطمئن شویم که پژوهشگران بابت این تخلفات پاسخگو باشند.»

کمیسیون اخلاق دانشکده علوم انسانی دانشگاه زوریخ در پاسخ به انجمن گفت حادثه بررسی شده و قول داده در آینده هماهنگی بهتری با افراد مورد آزمایش داشته باشد. همچنین به پژوهشگر اصلی پروژه تذکر رسمی داده شد.

کمیسیون اخلاق افزود: «این پروژه بینش‌های مهمی ارائه می‌دهد و ریسک‌ها کم است. بنابراین جلوگیری از انتشار نتایج با اهمیت این یافته‌ها تناسب ندارد.»

دانشگاه زوریخ هنوز به درخواست برای اظهار نظر پاسخ نداده است. کوین‌تلگراف نیز پاسخ سؤالاتش را از ایمیل مرتبط با آزمایش دریافت نکرده است.