چگونه اثباتهای دانش صفر میتوانند هوش مصنوعی را عادلانهتر کنند
آیا میتوانید به هوش مصنوعی خود اعتماد کنید که بیطرف باشد؟ یک مقاله پژوهشی اخیر نشان میدهد که این موضوع کمی پیچیدهتر است. متأسفانه، Bias فقط یک اشکال نیست - بلکه یک ویژگی پایدار بدون محافظهای رمزنگاری مناسب است. یک مطالعه در سپتامبر ۲۰۲۴ از کالج امپریال لندن نشان میدهد که چگونه اثباتهای دانش صفر (ZKP) میتوانند به شرکتها کمک کنند تا تأیید کنند که مدلهای یادگیری ماشین (ML) آنها با همه گروههای جمعیتی به طور یکسان رفتار میکنند، در حالی که جزئیات مدل و دادههای کاربران را خصوصی نگه میدارند.
اثباتهای دانش صفر چیست؟
اثباتهای دانش صفر، روشهای رمزنگاری هستند که به یک طرف اجازه میدهند به طرف دیگر ثابت کنند که یک بیانیه درست است، بدون اینکه اطلاعات اضافی فراتر از صحت آن بیانیه را فاش کنند. با این حال، هنگامی که "عدالت" را تعریف میکنیم، با چالشهای جدیدی روبرو میشویم. در مدلهای یادگیری ماشین، Bias به شکلهای مختلفی ظاهر میشود. این میتواند باعث شود که یک سرویس امتیازدهی اعتباری، یک فرد را بر اساس امتیازات اعتباری دوستان و جوامع او به طور متفاوتی ارزیابی کند، که میتواند ذاتاً تبعیضآمیز باشد. همچنین میتواند باعث شود که تولیدکنندگان تصویر هوش مصنوعی، پاپ و یونانیان باستان را به عنوان افراد نژادهای مختلف نشان دهند، همانطور که ابزار هوش مصنوعی گوگل به نام Gemini در سال گذشته به طور بدنامی انجام داد.
تشخیص مدلهای ناعادلانه یادگیری ماشین
تشخیص یک مدل یادگیری ماشین ناعادلانه در دنیای واقعی آسان است. اگر مدل به دلیل دوستان افراد، آنها را از وامها یا اعتبار محروم کند، این تبعیض است. اگر تاریخ را بازنویسی کند یا با گروههای جمعیتی خاص به طور متفاوتی رفتار کند تا به نام برابری، اصلاحات بیش از حد انجام دهد، این نیز تبعیض است. هر دو سناریو اعتماد به این سیستمها را تضعیف میکنند.
به عنوان مثال، یک بانک که از یک مدل یادگیری ماشین برای تأیید وامها استفاده میکند، میتواند با استفاده از ZKP ثابت کند که مدل آنها نسبت به هیچ گروه جمعیتی خاصی Bias ندارد، بدون اینکه دادههای حساس مشتریان یا جزئیات مدل اختصاصی را فاش کند. با استفاده از ZK و ML، بانکها میتوانند ثابت کنند که به طور سیستماتیک علیه یک گروه نژادی تبعیض قائل نمیشوند. این اثبات به صورت بلادرنگ و مداوم خواهد بود، در مقابل بازرسیهای دولتی ناکارآمد امروزی از دادههای خصوصی.
مدل ایدهآل یادگیری ماشین
مدل ایدهآل یادگیری ماشین، مدلی است که تاریخ را بازنویسی نمیکند و با افراد بر اساس پیشینه آنها به طور متفاوتی رفتار نمیکند. هوش مصنوعی باید به قوانین ضد تبعیض مانند قانون حقوق مدنی آمریکا در سال ۱۹۶۴ پایبند باشد. مشکل در این است که چگونه این موضوع را در هوش مصنوعی پیادهسازی کنیم و آن را قابل تأیید کنیم. ZKPها مسیر فنی را برای تضمین این پایبندی ارائه میدهند.
حفظ حریم خصوصی و مالکیت معنوی
هنگام کار با یادگیری ماشین، باید مطمئن شویم که هر گونه تأییدیهای از عدالت، مدلهای یادگیری ماشین و دادههای آموزشی زیرین را محرمانه نگه میدارد. آنها باید از مالکیت معنوی و حریم خصوصی کاربران محافظت کنند، در حالی که دسترسی کافی را برای کاربران فراهم میکنند تا بدانند مدل آنها تبعیضآمیز نیست. این کار آسانی نیست. ZKPها یک راهحل قابل تأیید ارائه میدهند.
یادگیری ماشین با دانش صفر (ZKML)
ZKML (یادگیری ماشین با دانش صفر) روشی است که ما از اثباتهای دانش صفر برای تأیید اینکه یک مدل یادگیری ماشین همان چیزی است که ادعا میکند، استفاده میکنیم. ZKML رمزنگاری دانش صفر را با یادگیری ماشین ترکیب میکند تا سیستمهایی ایجاد کند که میتوانند ویژگیهای هوش مصنوعی را بدون افشای مدلها یا دادههای زیرین تأیید کنند. ما همچنین میتوانیم از این مفهوم استفاده کنیم تا مدلهای یادگیری ماشین را که با همه به طور عادلانه رفتار میکنند، شناسایی کنیم.
چالشهای قبلی و پیشرفتهای اخیر
قبلاً استفاده از ZKPها برای اثبات عدالت هوش مصنوعی بسیار محدود بود، زیرا فقط میتوانست بر یک مرحله از فرآیند یادگیری ماشین تمرکز کند. این امر به ارائهدهندگان مدلهای نادرست اجازه میداد مجموعه دادههایی را ایجاد کنند که الزامات عدالت را برآورده کنند، حتی اگر مدل این کار را انجام ندهد. ZKPها همچنین نیازهای محاسباتی غیرواقعی و زمانهای انتظار طولانی را برای تولید اثباتهای عدالت معرفی میکردند.
در ماههای اخیر، چارچوبهای ZK امکان مقیاسپذیری ZKPها را برای تعیین عدالت سرتاسری مدلهایی با دهها میلیون پارامتر به صورت اثباتاً امن فراهم کردهاند.
سوال چند تریلیون دلاری: چگونه عدالت هوش مصنوعی را اندازهگیری کنیم؟
بیایید سه تعریف رایج از عدالت گروهی را بررسی کنیم: برابری جمعیتی، برابری فرصت و برابری پیشبینی.
برابری جمعیتی به این معناست که احتمال یک پیشبینی خاص در گروههای مختلف، مانند نژاد یا جنسیت، یکسان باشد. بخشهای تنوع، برابری و شمول اغلب از آن به عنوان معیاری برای تلاش برای انعکاس جمعیت در نیروی کار یک شرکت استفاده میکنند. این معیار ایدهآلی برای مدلهای یادگیری ماشین نیست، زیرا انتظار اینکه همه گروهها نتایج یکسانی داشته باشند، غیرواقعی است.
برابری فرصت برای اکثر مردم قابل درک است. این به هر گروه شانس یکسانی برای داشتن یک نتیجه مثبت میدهد، به شرطی که به طور مساوی واجد شرایط باشند. این معیار بهینهسازی برای نتایج نیست - فقط این است که هر گروه جمعیتی باید فرصت یکسانی برای دریافت شغل یا وام مسکن داشته باشد.
به همین ترتیب، برابری پیشبینی اندازهگیری میکند که آیا یک مدل یادگیری ماشین پیشبینیها را با دقت یکسان در گروههای جمعیتی مختلف انجام میدهد، بنابراین هیچکس صرفاً به دلیل عضویت در یک گروه جریمه نمیشود. در هر دو مورد، مدل یادگیری ماشین به دلایل برابری، به طور ناعادلانه به نفع یا علیه گروهی عمل نمیکند، بلکه فقط اطمینان میدهد که هیچ گروهی به هیچ وجه مورد تبعیض قرار نمیگیرد. این یک اصلاح کاملاً منطقی است.
تغییرات سیاسی و آینده عدالت هوش مصنوعی
در سال گذشته، دولت ایالات متحده و سایر کشورها بیانیهها و دستورالعملهایی در مورد عدالت هوش مصنوعی و حفاظت از عموم در برابر Bias یادگیری ماشین صادر کردهاند. اکنون، با تغییر دولت در ایالات متحده، احتمالاً به عدالت هوش مصنوعی به طور متفاوتی پرداخته خواهد شد و تمرکز به سمت برابری فرصت و دور از برابری نتایج بازخواهد گشت.
با تغییر چشماندازهای سیاسی، تعاریف عدالت در هوش مصنوعی نیز تغییر میکنند و بین پارادایمهای متمرکز بر برابری و فرصت جابهجا میشوند. ما از مدلهای یادگیری ماشین که با همه به طور عادلانه رفتار میکنند، بدون اینکه به نفع یا علیه گروهی عمل کنند، استقبال میکنیم. اثباتهای دانش صفر میتوانند به عنوان یک روش محکم برای تأیید اینکه مدلهای یادگیری ماشین این کار را انجام میدهند، بدون افشای دادههای خصوصی عمل کنند.
چالشهای مقیاسپذیری و آینده ZKPها
در حالی که ZKPها در طول سالها با چالشهای زیادی در زمینه مقیاسپذیری مواجه بودهاند، این فناوری در نهایت برای استفادههای عمومی مقرون به صرفه شده است. ما میتوانیم از ZKPها برای تأیید یکپارچگی دادههای آموزشی، حفاظت از حریم خصوصی و اطمینان از اینکه مدلهایی که استفاده میکنیم همان چیزی هستند که ادعا میکنند، استفاده کنیم.
با توجه به اینکه مدلهای یادگیری ماشین به طور فزایندهای در زندگی روزمره ما و آینده شغلی، پذیرش دانشگاهی و وامهای مسکن ما نقش دارند، ما به کمی اطمینان بیشتر نیاز داریم که هوش مصنوعی با ما عادلانه رفتار میکند. با این حال، اینکه آیا همه ما میتوانیم بر سر تعریف عدالت توافق کنیم یا نه، سوالی کاملاً متفاوت است.