Journal of Command and Control

fa ارائه روشی برای افزایش تمرکز شبکه عصبی عمیق بر سوژه اصلی مبتنی بر توضیح‌پذیری برای مدل‌های طبقه‌بندی An Explainability Guided Method for Enhancing Deep Neural Networks' Focus on the Primary Object in Image Classification هوش مصنوعی Artificial Intelligence پژوهشي Research با پیشرفت استفاده از هوش‌مصنوعی و یادگیری‌عمیق در سال‌های اخیر در صنایع حساس و حیاتی مانند سامانه‌های فرماندهی و کنترل نظامی، وجود عناصری مانند قابلیت اعتماد، توانایی تفسیر نتایج و درک ساختار تصمیم‌گیری مدل‌های آموزش داده شده بیش از پیش احساس شده است. به همین منظور راهکارهایی مانند الگوریتم‌های توضیح‌پذیری مدل مانند Grad-CAM، SHAP، LIME و... ارائه شده‌اند. پس از آن در سال‌های اخیر رویکردی برای افزودن راهنمایی‌های توضیح‌پذیری در طی فرآیند آموزش مدل با نام اختصاری EGL نیز مطرح شده است. که هدف آن افزایش دقت پیش‌بینی و کسب اعتماد کاربر نسبت به نتایج مدل است. در این پژوهش راهکاری نوین با استفاده از رویکرد EGL برای افزایش تمرکز مدل‌های طبقه‌بندی بر سوژه اصلی ارائه شده است. تابع هدف پیشنهادی دارای جملاتی برای طبقه‌بندی، تمرکز بر سوژه اصلی و کاهش توجه به نقاط فاقد اهمیت در تصویر است. روش پیشنهادی بر روی شبکه ResNet18 با مجموعه داده TinyImageNet آموزش مجدد داده شده است و نتایج آن از دو جنبه دقت پیش‌بینی و کیفیت توضیح‌پذیری ارتقا یافته است. همچنین در مقایسه با پژوهش‌های پیشین روش پیشنهادی موجب افزایش تمرکز شبکه عصبی بر روی سوژه اصلی و کاهش تمرکز مدل بر ویژگی‌های پس‌زمینه شده است. With the advancement of the use of deep learning in sensitive and critical industries such as military command and control systems, the existence of elements such as reliability, the ability to interpret results, and understanding the decision-making structure of trained models has become more and more felt. For this purpose, solutions such as model explainability algorithms such as Grad-CAM, SHAP, LIME, etc. have been proposed. In recent years, an approach to adding explainability guidance during the model training process, Explanation-Guided Learning (EGL), has also been proposed. The aim is to increase the prediction accuracy and gain user confidence in the model results. In this research, a new solution using the EGL approach is presented to increase the focus of classification models on the main subject. The proposed objective function has terms for classification, focusing on the main subject, and reducing attention to unimportant points in the image. The proposed method has been retrained on the ResNet18 network with the TinyImageNet dataset, and its results have been improved in two aspects: prediction accuracy and explainability quality. Also, compared to previous research, the proposed method has increased the network's focus on the main subject and reduced the model's focus on background features.   شبکه‌های عصبی عمیق, توضیح‌پذیری, تفسیر پذیری, یادگیری مبتنی بر توضیح‌پذیری EGL, طبقه‌بندی تصاویر Deep Neural Networks, Explainability, Interpretability, Explanation-Guided Learning EGL, Image Classification 1 17 http://ic4i-journal.ir/browse.php?a_code=A-10-603-2&slc_lang=fa&sid=1 Ali Jafari علی جعفری iustuser@mut.ac.ir 10031947532846002577 10031947532846002577 Yes مجتمع برق Sharif Hasani شریف حسنی 10031947532846002578 10031947532846002578 No