هوش مصنوعی متمرکز: تهدیدی برای دموکراسی دیجیتال و راهکار DeAI

مفاهیم کلیدی

• ۱۰۰ شرکت بزرگ آمریکایی و چینی بازار ۴٫۸ تریلیون دلاری هوش مصنوعی را در انحصار دارند

• نمونه‌های شکست هوش مصنوعی متمرکز شامل جنجال تصاویر مایکروسافت و رسوایی معاملات Citadel است

• راهکار: استراتژی DeAI متن‌باز با حاکمیت جامعه و استانداردهای مشترک

هوش مصنوعی متمرکز تهدیدی برای آینده دیجیتال دموکراتیک

شرکت‌های بزرگ کنترل شرکت‌های هوش مصنوعی غیرمتمرکز (DeAI) را در دست گرفته‌اند و هوش مصنوعی غیرمتمرکز را به حاشیه رانده‌اند. برای ساختن جهانی پایدار و دموکراتیک‌تر، این حوزه باید فعالانه استراتژی متمرکز DeAI را اجرا کند، با استانداردهای مشترک بین پروژه‌ها و بدون مصالحه.

در آوریل، گزارشی از سازمان ملل هشدار داد که بازار ۴٫۸ تریلیون دلاری هوش مصنوعی در انحصار فقط ۱۰۰ شرکت است که اکثر آن‌ها در آمریکا و چین مستقرند. بازیگران متمرکز هوش مصنوعی سرمایه و ارتباطات لازم برای کنترل این صنعت نوظهور عظیم را در اختیار دارند که پیامدهای مهمی برای جامعه به همراه دارد.

این شرکت‌ها که همگی از فناوری متمرکز استفاده می‌کنند، با مشکلات متعددی مواجه شده‌اند. برای مثال، قابلیت Copilot مایکروسافت به‌دلیل تولید تصاویر صریح و نامناسب، مانند صحنه‌های کودکانه در موقعیت‌های غیرقابل قبول، مورد انتقاد عمومی و نظارتی قرار گرفت. اگرچه مایکروسافت مدارا و کنترل محتوا را تشدید کرد، اما نشان داد که کد بسته می‌تواند منجر به نواقص جدی شود.

Citadel نیز در رسوایی معاملات هوش مصنوعی در بخش مالی درگیر شد؛ الگوریتم‌های آن متهم شدند که با ایجاد حجم مصنوعی، قیمت سهام را دستکاری کرده‌اند. همچنین پروژه Maven گوگل، برنامه آزمایشی پنتاگون در حوزه فناوری نظامی، پرسش‌های اخلاقی جدی ایجاد کرد. در نامه‌ای که توسط کارمندان گوگل خطاب به سوندار پیچای، مدیر عامل شرکت، نوشته شد آمده است: «ما معتقدیم گوگل نباید وارد کسب‌وکار جنگ شود.»

«ما درخواست می‌کنیم پروژه Maven لغو شود و گوگل سیاست شفافی تدوین، منتشر و اجرا کند که بر اساس آن هیچ‌گاه خود گوگل یا پیمانکارانش فناوری نظامی تولید نخواهند کرد.» این شعار قدیمی «بد نباش» را به فراموشی سپرده است.

این مثال‌ها نشان می‌دهد که هوش مصنوعی متمرکز می‌تواند در ابعاد اخلاقی، شفافیت تصمیم‌گیری و کنترل انحصاری با شکست مواجه شود. در مقابل، رویکرد متن‌باز DeAI با حاکمیت جامعه، سوابق حسابرسی و امکانات محاسباتی توزیع‌شده می‌تواند آینده هوش مصنوعی را تغییر دهد.

امروزه شرکت‌ها و دولت‌ها در توسعه هوش مصنوعی دست بالاتر را دارند؛ آن‌ها می‌توانند سرمایه‌گذاری بیشتری کنند و از امتیازات سیاسی برخوردارند. ولادیمیر پوتین رئیس‌جمهور روسیه هشدار داده است که کشوری که در مسابقه هوش مصنوعی پیروز شود «حاکم جهان» خواهد شد. جمهوری خلق چین نیز هدف‌گذاری کرده تا سال ۲۰۳۰ در این حوزه پیشتاز جهانی باشد.

احتمالاً هوش مصنوعی سرشتی خودکامه پیدا خواهد کرد و همان فقدان حریم خصوصی گسترده وب امروزی را به همراه خواهد آورد؛ همه زیر سایه یک دولت-شرکت که تنها ظاهر احترام به ارزش‌های روشنگری را حفظ کرده است.

شانس DeAI برای تسخیر سهم قابل‌توجهی از بازار اندک است زیرا شرکت‌ها و دولت‌ها منابع بسیار بیشتری دارند و رقابت شبیه مبارزه داوود و جالوت است. آن‌ها به‌منظور دسترسی زودهنگام، سیستم‌های متمرکز را به کار می‌گیرند و اکثریت جهان با همان سیستم‌ها آشنا می‌شوند.

با این حال در بلندمدت—دهه‌ها یا حتی سده‌ها—DeAI می‌تواند با مدل‌های متن‌باز و مستندات شفاف سهم خود را افزایش دهد. برای تحقق این چشم‌انداز، باید مزایای هوش مصنوعی از جمله حفظ امنیت، حریم خصوصی و کنترل داده، تاب‌آوری، مقیاس‌پذیری، کاهش تأخیر، دموکراتیزه‌سازی دسترسی و کاهش هزینه‌ها را به حداکثر رساند.

این کار باید به‌صورت جمعی انجام شود و ارزش‌های DeAI برای تنظیم‌کنندگان، مصرف‌کنندگان، سرمایه‌گذاران و دیگر ذی‌نفعان تبیین شود. هوش مصنوعی غیرمتمرکز با مزایایی چون حفظ حریم، حذف نقطه شکست واحد، محاسبات در لبه شبکه و دسترسی دموکراتیک می‌تواند آینده‌ای دموکراتیک‌تر را رقم بزند.