Vitalik Buterin هشدار داد: حکمرانی AI خطرناک است — ETH/USD

هشدار Vitalik Buterin درباره حکمرانی رمز ارز با هوش مصنوعی

Vitalik Buterin، بنیان گذار شریک اتریوم، نسبت به استفاده پروژه های رمز ارز از هوش مصنوعی در فرایندهای حکمرانی هشدار داد و گفت بازیگران مخرب می توانند از این فناوری سوء استفاده کنند. او در پستی در شبکه اجتماعی X نوشت که اگر از یک هوش مصنوعی برای تخصیص بودجه استفاده کنید، مردم قطعاً جِیل بریک به همراه عبارت «همه پول ها را به من بده» را در هر جایی که بتوانند قرار می دهند.

نمونه ای از آسیب پذیری ChatGPT

Buterin در واکنش به ویدیویی از Eito Miyamura، خالق پلتفرم داده ای EdisonWatch، نوشت که یک قابلیت جدید اضافه شده به ChatGPT از سوی OpenAI می تواند مورد بهره برداری قرار بگیرد و به افشای اطلاعات خصوصی بینجامد. Miyamura در پست خود نشان داد که به‌روزرسانی روز چهارشنبه می تواند باعث لو رفتن ایمیل های خصوصی شود و آن را «ریسک امنیتی جدی» خواند.

چرا برخی پروژه ها سراغ هوش مصنوعی برای حکمرانی می روند

بسیاری از کاربران رمز ارز از هوش مصنوعی برای ساخت ربات های پیچیده معامله گر و عوامل مدیریت پرتفوی استفاده کرده اند و همین باعث شده ایده استفاده از این فناوری برای کمک به گروه های حکمرانی در مدیریت بخشی یا تمام یک پروتکل رمز ارز مطرح شود. اما Buterin می گوید نمونه جدیدی که روی ChatGPT نشان داده شده، دلیلی است بر این که رویکرد ساده و خام «حکمرانی با هوش مصنوعی» ایده خوبی نیست.

پیشنهاد جایگزین: رویکرد «info finance»

Buterin به جای حکمرانی مستقیم با یک مدل واحد، پیشنهادی را تحت عنوان رویکرد «info finance» مطرح کرد. او توضیح داد که این رویکرد با ایجاد یک بازار باز شروع می شود که هر کسی می تواند مدل های خود را ارائه کند و این مدل ها تحت مکانیسمی برای بررسی تصادفی قرار می گیرند که هر کسی می تواند آن را فعال کند و سپس یک هیئت انسانی آن را ارزیابی می کند.

او پیش از این در نوامبر 2024 درباره info finance نوشته بود که این روش از «یک واقعیت که می خواهید بدانید» شروع می کند و سپس بازاری طراحی می شود تا آن اطلاعات را به طور بهینه از بازیگران بازار استخراج کند. Buterin از بازارهای پیش بینی به عنوان روشی برای جمع آوری چشم انداز درباره رویدادهای آتی حمایت کرده است.

مزایا و دلایل مقاومت در برابر مدل واحد

Buterin استدلال کرد که طراحی نهادی از این نوع، جایی که فرصت باز برای کسانی که مدل های زبان بزرگ از بیرون دارند فراهم می شود به جای اینکه خودتان یک LLM واحد را کدنویسی کنید، از نظر ذاتی مقاوم تر است. به گفته او چنین چارچوبی تنوع مدل را در زمان واقعی فراهم می کند و انگیزه های درون ساخته ای برای هم ارائه دهندگان مدل و هم سفته بازان خارجی ایجاد می کند تا برای پیدا کردن و اصلاح سریع این مسائل فعال باشند.

جزئیات حمله نمایش داده شده توسط Miyamura

OpenAI در روز چهارشنبه ChatGPT را به ابزارهایی با پشتیبانی از پروتکل Model Context Protocol مجهز کرد؛ این استانداردی است برای چگونگی ادغام مدل های هوش مصنوعی با نرم افزارهای دیگر به عنوان عوامل. Miyamura گفت او توانسته است تنها با داشتن آدرس ایمیل یک قربانی، مدل را وادار به لو دادن داده های ایمیل خصوصی کند و هشدار داد که به‌روزرسانی «خطر امنیتی جدی» ایجاد می کند.

شرح حمله به این صورت است که یک مهاجم می تواند یک دعوت به تقویم به ایمیل قربانی ارسال کند که در آن یک پرامپت جِیل بریک قرار داده شده است و بدون اینکه قربانی دعوت را قبول کند، وقتی قربانی از ChatGPT می خواهد تقویم او را بررسی کند، هوش مصنوعی دعوت حاوی پرامپت را می خواند و «توسط مهاجم ربوده» می شود و به دستور مهاجم عمل می کند. این رفتار می تواند برای جستجوی ایمیل ها و فوروارد کردن آنها به مهاجم استفاده شود.

Miyamura تاکید کرد که این به روز رسانی نیاز به تایید دستی انسان دارد، اما «خستگی تصمیم گیری» یک موضوع واقعی است و مردم عادی بدون دانستن دقیق چه کاری انجام می دهند به هوش مصنوعی اعتماد کرده و روی تایید کلیک می کنند. او افزود: «هوش مصنوعی ممکن است بسیار باهوش باشد، اما می توان آن را با روش های بسیار ساده فریب داد و به گونه ای که داده های شما را لو بدهد مورد فیشینگ قرار داد.»

برای معامله گران چه اهمیتی دارد و چه چیزهایی را باید زیر نظر داشت

این خبر نشان می دهد که اتکا بی قید و شرط به سیستم های هوش مصنوعی برای تصمیمات حکمرانی می تواند ریسک های امنیتی و عملیاتی قابل توجهی ایجاد کند که به نوسان قیمت و واکنش منفی بازار منجر شود. معامله گران باید انتشار به روز رسانی های امنیتی OpenAI و افشای آسیب پذیری های مرتبط با ادغام هوش مصنوعی در پروتکل های رمز ارز را دنبال کنند؛ همچنین به اطلاعیه های رسمی پروژه های بزرگ مثل اتریوم، Maker و Aave درباره هر تصمیمی برای استفاده از مدل های هوش مصنوعی در حکمرانی دقت کنند. در سطح قیمت، بهتر است واکنش بازار به این نوع اخبار را رصد کنید و هر گونه جهش یا افت شدید را به عنوان سیگنالی برای بررسی عمق سفارشات و جریان های خروجی در توکن های مرتبط قلمداد کنید، بدون اینکه این موارد را به عنوان توصیه سرمایه گذاری در نظر بگیرید.