|
ارائه روشی برای افزایش تمرکز شبکه عصبی عمیق بر سوژه اصلی مبتنی بر توضیح‌پذیری برای مدل‌های طبقه‌بندی
|
علی جعفری*   ، شریف حسنی |
| مجتمع برق |
|
|
چکیده: (3 مشاهده) |
| با پیشرفت استفاده از هوش‌مصنوعی و یادگیری‌عمیق در سال‌های اخیر در صنایع حساس و حیاتی مانند سامانه‌های فرماندهی و کنترل نظامی، وجود عناصری مانند قابلیت اعتماد، توانایی تفسیر نتایج و درک ساختار تصمیم‌گیری مدل‌های آموزش داده شده بیش از پیش احساس شده است. به همین منظور راهکارهایی مانند الگوریتم‌های توضیح‌پذیری مدل مانند Grad-CAM، SHAP، LIME و... ارائه شده‌اند. پس از آن در سال‌های اخیر رویکردی برای افزودن راهنمایی‌های توضیح‌پذیری در طی فرآیند آموزش مدل با نام اختصاری EGL نیز مطرح شده است. که هدف آن افزایش دقت پیش‌بینی و کسب اعتماد کاربر نسبت به نتایج مدل است. در این پژوهش راهکاری نوین با استفاده از رویکرد EGL برای افزایش تمرکز مدل‌های طبقه‌بندی بر سوژه اصلی ارائه شده است. تابع هدف پیشنهادی دارای جملاتی برای طبقه‌بندی، تمرکز بر سوژه اصلی و کاهش توجه به نقاط فاقد اهمیت در تصویر است. روش پیشنهادی بر روی شبکه ResNet18 با مجموعه داده TinyImageNet آموزش مجدد داده شده است و نتایج آن از دو جنبه دقت پیش‌بینی و کیفیت توضیح‌پذیری ارتقا یافته است. همچنین در مقایسه با پژوهش‌های پیشین روش پیشنهادی موجب افزایش تمرکز شبکه عصبی بر روی سوژه اصلی و کاهش تمرکز مدل بر ویژگی‌های پس‌زمینه شده است. |
|
| واژه‌های کلیدی: شبکه‌های عصبی عمیق، توضیح‌پذیری، تفسیر پذیری، یادگیری مبتنی بر توضیح‌پذیری EGL، طبقه‌بندی تصاویر |
|
|
متن کامل [PDF 1551 kb]
(3 دریافت)
|
نوع مطالعه: پژوهشي |
موضوع مقاله:
هوش مصنوعی
دریافت: 1405/3/11 | پذیرش: 1405/6/23 | انتشار: 1405/7/12
|
|
|
|
|
|
|
| ارسال پیام به نویسنده مسئول |
|
|
|
| ارسال نظر درباره این مقاله |
|
|
|
