کارگاه آموزشی وحید خدابخشی – امنیت هوشمند پرداخت‌ها: دفاع در برابر تهدیدات سایبری مولد و خرابکاری در مدل‌های هوش مصنوعی

Article Summary

در جلسه اول کارگاه آموزشی دکتر وحید خدابخشی به بررسی نقش هوش مصنوعی در صنعت بانکی و پرداخت پرداخت. او تاکید کرد که هوش مصنوعی از یک ابزار نوآورانه به یک زیرساخت ضروری در سیستم‌های مالی تبدیل شده است. با این حال، این تحول همراه با چالش‌ها و نگرانی‌هایی است که باید مورد توجه قرار گیرد. دکتر خدابخشی به چهار موضوع اصلی پرداخت: 1. ادورسریال ماشین لرنینگ: بررسی کاربردهای این تکنولوژی به عنوان ابزار کمکی و همچنین به عنوان تهدید در فضای بانکی و پرداخت. 2. دیتا پویزنینک: مسموم‌سازی داده‌ها و تأثیر آن بر طراحی و کاربرد مدل‌های هوش مصنوعی. 3. فدرال مشین لرنینگ: یکی از موضوعات جدید در حوزه یادگیری ماشین که در فضای دیستری بیوتد برای یادگیری مدل‌ها مورد توجه قرار گرفته است. 4. دفاع: روش‌های مقاومت در برابر حملات و تهدیدات مولد با استفاده از هوش مصنوعی. او همچنین به تأثیراتی که این تکنولوژی‌ها می‌توانند بر سیستم‌های بانکی و پرداخت داشته باشند، اشاره کرد. این تأثیرات شامل کاهش اعتبارات، ضرر مالی، و کاهش اعتماد مشتریان می‌شود. دکتر خدابخشی تاکید کرد که هدف مدافعان این حوزه ایجاد یک سیستم مقاوم در برابر حملات است که بتواند حتی در حضور نفوذ، به سرویس‌دهی ادامه دهد. در ادامه ایشان به بررسی مدل‌های شبکه‌های مولد خصمانه (GANs) و تأثیرات آن‌ها بر امنیت سیستم‌های پرداخت پرداخت. او مثال‌هایی از حملات مولد مانند تقلب در صدای سیری و تولید تصاویر و ویدئوهای مجازی ارائه کرد که می‌توانند به طور جدی به امنیت سیستم‌های بانکی تهدید کنند. در ادامه به بررسی جنبه‌های مختلف امنیتی هوش مصنوعی پرداخت. این کارگاه در تاریخ پنج آذر برگزار شد و به مباحث مهمی از جمله حملات سایبری، تکنیک‌های دفاعی، و کاربردهای هوش مصنوعی در سیستم‌های مالی پرداخت. سپس با توضیح مفهوم ترانزیتورها و نحوه کار آن‌ها در تجزیه داده‌ها و تصمیم‌گیری به صفر یا یک شروع کرد. او به اهمیت لایه‌بندی در شبکه‌های عصبی عمیق و تأثیر آن بر عملکرد مدل‌های هوش مصنوعی اشاره کرد. او همچنین به روش‌های مقابله با حملات سایبری و کنترل امنیتی مدل‌ها پرداخت. در بخش بعدی، دکتر خدابخشی به کاربردهای سیستم‌های مالی و پرداخت مانند سیستم‌های ریکامندر و تولید محتوا توسط مدل‌های هوش مصنوعی پرداخت. او به اهمیت تفسیر و توضیح خروجی‌های این مدل‌ها برای کاربران اشاره کرد. دکتر خدابخشی همچنین به مفهوم مدل‌های ریسک و نحوه اندازه‌گیری ریسک‌ها با توجه به فاکتورهای مختلف مانند میزان تأثیر و احتمال وقوع پرداخت. او به روش‌های نفوذ به سیستم‌ها و تغییرات نامحسوس در داده‌های ورودی اشاره کرد و به جنبه‌های مختلف امنیتی در مدل‌های هوش مصنوعی پرداخت. این کارگاه در پنج آذر برگزار شد و به مسائل مهمی مانند حملات دی‌جی‌ای، دیتا پویزنینگ، و وکتورپویزنینگ پرداخت. دکتر خدابخشی تاکید کرد که حملات دی‌جی‌ای (Domain Generation Algorithms) از طریق تغییر مداوم دامنه‌ها، امکان اجتناب از تشخیص توسط سیستم‌های امنیتی را فراهم می‌کنند. این حملات می‌توانند از طریق دامنه‌های واقعی یا دامنه‌های تاریک انجام شوند و به سیستم‌های مالی و پرداختی تهدید جدی واقع می‌شوند. همچنین، مفهوم دیتا پویزنینگ (Data Poisoning) به عنوان یک حمله بر روی مرحله آموزش داده‌ها معرفی شد. این حملات با تغییر داده‌های ورودی، دقت مدل‌های هوش مصنوعی را تحت تأثیر قرار می‌دهند و می‌توانند به ایجاد اشتباهات در دسته‌بندی‌ها منجر شوند. دکتر خدابخشی به روش‌های مقابله با این حملات اشاره کرد، از جمله استفاده از مدل‌های متنوع و افزایش قابلیت اعتماد بر سیستم‌ها. بکتور پویزنینگ (Backdoor Poisoning) نیز به عنوان یکی از تهدیدات جدید معرفی شد. این حملات با ایجاد نشانه‌های خاص در داده‌ها، می‌توانند سیستم‌ها را به اشتباه هدایت کنند و به ایجاد خروجی‌های غلط منجر شوند. دکتر خدابخشی تاکید کرد که این حملات می‌توانند به عنوان بخشی از حملات بزرگتر و سازمان‌یافته استفاده شوند. در نهایت، دکتر خدابخشی به اهمیت تنظیم‌گری و قانون‌گذاری در فضای هوش مصنوعی اشاره کرد. او بر این نکته تأکید کرد که تنظیم‌گری در این حوزه بسیار پیچیده است و نیاز به روش‌های پیشرفته برای تشخیص و مقابله با رفتارهای ناسالم دارد. این کارگاه آموزشی به شرکت‌کنندگان فرصتی برای درک بهتر تهدیدات سایبری مدرن و روش‌های مقابله با آن‌ها فراهم کرد.توضیح داد. در بخش مربوط به کاربردهای هوش مصنوعی در بانکداری، دکتر خدابخشی به تغییرات در سیستم‌های اعتبارسنجی و تأکید بر رفتار تاریخی کاربران در ارزیابی اعتبار پرداخت. او به چالش‌هایی مانند بایسینگ و دیسکریمینیشن در مدل‌های هوش مصنوعی اشاره کرد و به اهمیت استفاده از داده‌های شفاف و قابل اتکا تاکید کرد. اربردهای هوش مصنوعی در تریدینگ و بازارهای مالی پرداخت. او به مفاهیمی مانند آربیتراژ، مارکت میکینگ، و ترنت فالوینگ اشاره کرد و به ریسک‌هایی که می‌توانند در این حوزه‌ها وجود داشته باشند توضیح داد. دکتر خدابخشی تاکید کرد که آگاهی از این مسائل می‌تواند به کاهش خطرات و بهبود عملکرد سیستم‌های هوش مصنوعی کمک کند. دکتر خدابخشی تاکید کرد که یکی از روش‌های رایج برای خرابکاری در مدل‌های هوش مصنوعی، دستکاری داده‌ها یا "دیتا پویزنینی" است. این روش‌ها شامل تغییر لیبل‌ها، تغییر ویژگی‌ها، و تزریق داده‌های نامعتبر هستند. او بیان کرد که این تکنیک‌ها می‌توانند باعث اشتباه در تصمیم‌گیری مدل‌ها شوند و در نتیجه، عملکرد آن‌ها را تحت تأثیر قرار دهند. همچنین، دکتر خدابخشی به مفهوم "بلک باکس" و "وایت باکس" در حملات سایبری اشاره کرد. در حملات وایت باکس، مهاجم دسترسی کامل به مدل و داده‌ها دارد، در حالی که در حملات بلک باکس، مهاجم تنها به خروجی‌های مدل دسترسی دارد. او تاکید کرد که در حال حاضر، بیشتر حملات بر روی مدل‌های هوش مصنوعی به صورت فرادیتکشن انجام می‌شوند که به رفتارهای گذشته مبتنی هستند. دکتر خدابخشی همچنین به تأثیرات این حملات بر سیستم‌های خدماتی مانند بانکی و پرداختی اشاره کرد. او بیان کرد که سیستم‌های تراست اسکورینگ ممکن است بر رفتار کاربران تأثیر بگذارند و به نتایج نادرست منجر شوند. به عنوان مثال، مدل‌های آنتی مانی لاندرینگ می‌توانند با دستکاری داده‌ها، رفتارهای مشکوک را به عنوان عادی تشخیص دهند. در نهایت، دکتر خدابخشی به پیچیدگی محاسباتی در تشخیص و مقاوم‌سازی مدل‌ها اشاره کرد و بیان کرد که این مسئله یکی از چالش‌های مهم در این حوزه است. او تاکید کرد که برای مقاوم‌سازی مدل‌ها، نیاز به تکنیک‌های پیشرفته‌ای مانند آفوستیکیت و مبهم‌سازی ردیان وجود دارد. ایشان به بررسی روش‌های دفاعی در برابر تهدیدات سایبری پرداخت. دکتر خدابخشی به چهار لایه دفاعی از داده‌ها پرداخت که شامل پیش‌پردازش داده‌ها، استفاده از مدل‌های مقاوم، تحلیل پارامترها، و ترکیب مدل‌ها می‌شود. در بخش پیش‌پردازش داده‌ها، دکتر خدابخشی به روش‌هایی مانند پاکسازی داده‌ها، شناسایی داده‌های ناهماهنگ، و حذف داده‌های تکراری اشاره کرد. او تأکید کرد که این مراحل حیاتی برای اطمینان از کیفیت داده‌ها و بهبود عملکرد مدل‌ها هستند. در بخش استفاده از مدل‌های مقاوم، دکتر خدابخشی به روش‌هایی مانند ایجاد اختلال‌های کوچک در داده‌ها برای افزایش مقاومت مدل‌ها پرداخت. او مثال‌هایی از روش‌هایی مانند FGSM و PGD را ارائه کرد که به مدل‌ها کمک می‌کنند تا در برابر حملات مولد مقاوم باشند. در بخش تحلیل پارامترها، دکتر خدابخشی به اهمیت انتخاب و بهینه‌سازی پارامترهای مدل‌ها برای افزایش دقت و کارایی آن‌ها تأکید کرد. او به روش‌هایی مانند رگرسیون و کاهش ابعاد اشاره کرد که می‌توانند به بهبود عملکرد مدل‌ها کمک کنند. در بخش ترکیب مدل‌ها، دکتر خدابخشی به روش‌هایی مانند Bagging، Boosting، و Stacking اشاره کرد که می‌توانند با ترکیب چند مدل، دقت و قابلیت اطمینان نتایج را افزایش دهند. او تأکید کرد که این روش‌ها می‌توانند به مدل‌ها کمک کنند تا در برابر تهدیدات سایبری مقاوم‌تر باشند. در نهایت، دکتر خدابخشی به مسائل اخلاقی و اتیکای مرتبط با هوش مصنوعی پرداخت. او به اهمیت رعایت حریم خصوصی، عدالت، و شفافیت در طراحی و استفاده از مدل‌های هوش مصنوعی تأکید کرد و به قوانین جدید اتحادیه اروپا در زمینه نظارت بر هوش مصنوعی اشاره کرد. دکتر خدابخشی توصیه کرد که در استفاده از هوش مصنوعی باید به آرامی و با آگاهی از مسئولیت‌ها پیش رفت تا از ایجاد مشکلات اخلاقی و امنیتی جلوگیری شود.