نکسوس لابراتوار قابل اثبات هوش مصنوعی راه اندازی کرد

راه اندازی لابراتوار Nexus Verifiable AI

نکسوس در حال ساخت یک سازمان تحقیق و توسعه هوش مصنوعی است که هدف آن ایجاد عامل های هوش مصنوعی شفاف و قابل اثبات برای کاربران می باشد.

تمرکز بر شفافیت و قابلیت اثبات

شرکت زیرساختی نکسوس روز پنجشنبه 18 اردیبهشت (8 می) اعلام کرد که لابراتوار تحقیق و توسعه اختصاصی هوش مصنوعی خود با نام Nexus Verifiable AI Lab را راه اندازی کرده است. این لابراتوار روی پیوند دادن قابلیت اثبات بلاک چین با هوش مصنوعی کار خواهد کرد.

در این لابراتوار، توسعه مدل های هوش مصنوعی که قابل حسابرسی و قابل اعتماد باشند با کمک اثبات های دانش صفر در دستور کار قرار دارد.

هدف اصلی، پاسخ به نگرانی رو به رشد در مورد مدل های بزرگ زبانی کنونی است؛ فقدان شفافیت آن ها. در حال حاضر کاربران هیچ اطلاعی ندارند که سیستم های هوش مصنوعی چگونه به خروجی های مشخص دست پیدا می کنند و نمی توانند تشخیص دهند که این خروجی ها از منطق ماشینی ناشی می شوند یا دخالت انسان.

این عدم شفافیت به ویژه در صنایع دارای مقررات سختگیرانه مانند سلامت و مالی مشکل ساز است؛ چرا که شرکت ها باید بدانند داده های آموزشی از کجا می آیند و مدل چگونه خروجی های خود را تولید می کند.

همگرایی بلاک چین و هوش مصنوعی

نکسوس در بیانیه خود نوشت: "سیستم های مدرن هوش مصنوعی قدرتمند اما فاقد شفافیت هستند. ما به ندرت می دانیم داده های آموزشی چه بوده، کدام نسخه از مدل به کار گرفته شده یا خروجی مشاهده شده واقعا توسط همان مدلی تولید شده که آزمون کرده ایم. در حوزه های تنظیم شده مانند سلامت، مالی و حقوقی، این عدم شفافیت غیرقابل قبول است."

تلاش های نکسوس نشان دهنده همگرایی رو به رشد میان فناوری های هوش مصنوعی و بلاک چین است. سیستم های بلاک چین می توانند شفافیت و ماهیت متن باز را که در مدل های فعلی هوش مصنوعی کمبود دارند، فراهم کنند.

سایر ابتکارات در حوزه هوش مصنوعی قابل اثبات

نکسوس تنها شرکتی نیست که روی هوش مصنوعی قابل اثبات کار می کند. به عنوان مثال، پروتکل Oasis در 9 اردیبهشت (29 آوریل) عامل های هوش مصنوعی قابل اثبات خود را معرفی کرد. با این عامل ها، کاربران می توانند به طور مستقل بررسی کنند که آیا استراتژی معاملاتی به درستی اعمال می شود یا خیر.