طی سال‌های گذشته هوش مصنوعی مولد (AI) به‌عنوان ابزاری قدرتمند و مؤثر در زمینه‌های مختلف، از جمله امنیت سایبری ظهور کرده است. این فناوری که بر اساس الگوریتم‌های یادگیری عمیق عمل می‌کند توانایی های متعدد مانند تولید محتوای واقعی و غیرواقعی به‌صورت متن، تصویر و ویدئو دارد.
درحالی‌که هوش مصنوعی مولد نویدبخش افزایش امنیت سایبری است، قادر به ایجاد مخاطرات جدی برای این حوزه نیز هست. تکنولوژی و پیشرفت‌هایش باعث قدرتمندتر شدن مجرمان سایبری شده و خدماتی را به آن‌ها ارائه می‌دهد. یکی از این چالش‌ها استفاده از مدل‌های زبانی مانند «ChatGPT» برای نوشتن کدهای مخرب است.۷۶ درصد از شرکت‌ها بر اساس آمار فوربس و تحقیقات شرکت بلک‌بری، هوش مصنوعی و یادگیری ماشینی را در اولویت‌های بودجه مختص فناوری اطلاعات خود قرار داده اند تا بتوانند حجم زیادی از داده‌ها را برای شناسایی و کاهش تهدیدات سایبری تجزیه و تحلیل کنند؛ در نتیجه هوش مصنوعی هم برای مجرمین سایبری و هم مبارزه با جرایم سایبری ابزاری ضروری است.دولت‌ها و شرکت‌ها برای مدیریت بهتر آینده بهتر است مخاطرات و کاربردهای هوش مصنوعی را در امنیت سایبری شناخته و راه‌هایی برای مقابله با چالش‌های آن در نظر بگیرند. در ادامه به بخشی از فرصت‌ها و مخاطرات هوش مصنوعی برای امنیت سایبری اشاره می‌کنیم.
 کاربردهای هوش مصنوعی مولد در امنیت سایبری
هوش مصنوعی مولد قادر است با تجزیه‌وتحلیل نمونه‌هایی از بدافزارها، روش و الگوریتم آن‌ها را دریافته و با ارائه آن به متخصصان و تحلیلگران امنیتی بسیار مؤثر عمل کند. متخصصان و تحلیلگران امنیتی با استفاده از الگوهای تحلیل شده توسط هوش مصنوعی مولد می‌توانند بدافزارها را بهتر درک کرده و اقدامات دفاعی متقابل و مؤثر و روش‌های دفاعی پیشگیرانه جدیدی را بر اساس الگوی عملکردی از بدافزارها که هوش مصنوعی به آن‌ها ارائه کرده تدوین کنند. اکثر تصمیم‌گیرندگان حوزه فناوری اطلاعات قصد دارند روی امنیت سایبری مبتنی بر هوش مصنوعی سرمایه‌گذاری کنند.
طراحی نمونه‌های متخاصم
یکی دیگر از توانایی‌های هوش مصنوعی طراحی نمونه‌های بدافزارهای متخاصم است که به طور اختصاصی برای فریب هوش مصنوعی طراحی شده‌اند. با تولید چنین نمونه‌هایی متخصصان می‌توانند تدابیر امنیتی لازم را برای محافظت از مدل‌ها و سیستم‌های هوش مصنوعی در برابر حملات خصمانه ایجاد کنند. این تدابیر می‌تواند منجر به تقویت دفاعی و استحکام هوش مصنوعی در برابر حملات پیچیده متخاصمان و مجرمین سایبری شود.
شکستن رمز عبور و احراز هویت
هوش مصنوعی می‌تواند برای سخت کردن تکنیک‌های شستن رمز عبور مجرمان سایبری با تحلیل و بررسی رفتار کاربران، ترکیبات رمز عبور احتمالی را در نظر گرفته و مدل‌های جدید رمز عبور که شکستن آن‌ها سخت‌تر باشد را ایجاد کرده و سیستم‌های احراز هویت قوی‌تری طراحی کند. این قابلیت‌های هوش مصنوعی می‌تواند به افزایش امنیت سایبری کمک کند.
 ارزیابی آسیب‌پذیری و تشخیص نفوذ شبکه
هوش مصنوعی می‌تواند آسیب‌پذیری‌ها را در سیستم‌های نرم‌افزاری شناسایی کرده و توصیه‌هایی برای برطرف‌کردن آن دهد و از این نظر می‌تواند از آنتی‌ویروس‌ها قدرتمندتر عمل کند؛ زیرا زمان و تلاش موردنیاز برای شناسایی و رفع نقص‌های امنیتی را کاهش می‌دهد و با عملکرد بهینه خود نسبت به ابزارهای قدیمی، وضعیت امنیتی کلی سیستم‌ها و برنامه‌ها را بهبود می‌بخشد. از طرف دیگر هوش مصنوعی رفتارهای مشکوکی که نشان‌دهنده نفوذ در شبکه است را تشخیص داده و به آن‌ها پاسخ مناسب داده و از زیر ساخت‌های حیاتی محافظت می کند. به‌عبارت‌دیگر هوش مصنوعی امکان نظارت مستمر خودکار را فراهم می‌کند که برای امنیت سایبری مدرن امری ضروری است.
خطرات و آسیب‌های هوش مصنوعی برای امنیت سایبری
فیشینگ پیشرفته و حملات مهندسی اجتماعی
یکی از خطرات هوش مصنوعی مولد زبانی، توانایی ایجاد ایمیل‌های فیشینگ، پیام‌ها یا تماس‌های تلفنی بسیار قانع‌کننده است. این یک زنگ خطر بزرگ برای افراد، سازمان و حتی دولت‌هاست زیرا مهاجمان از طریق فیشینگ می‌توانند با فریب کاربران دست به اقدامات مخرب و فاش کردن اطلاعات حساس بزنند. پیچیدگی هوش مصنوعی مولد اثربخشی مهندسی اجتماعی را تقویت کرده و مقاومت در برابر آن‌ها را سخت‌تر می‌کند. تربیت جامعه‌ای با سواد سایبری و رسانه‌ای بالا و آگاه به اصول مهندسی اجتماعی برای جلوگیری از فریب‌خوردن از ابزار فناورانه مدرن، یکی از نیازهای بشر امروز است.
مطالب و اطلاعات جعلی عمیق
هوش مصنوعی مولد می‌تواند محتوای جعلی عمیق (deep fake) بسیار واقعی با فرمت‌های تصویر، ویدئو و صدا تولید کند. سوءاستفاده‌کنندگان با استفاده از این قابلیت هوش مصنوعی می‌توانند با انتشار اطلاعات نادرست افکار عمومی را دستکاری کرده و حتی هویت افراد را جعل کنند. دیپ‌فیک می‌تواند عواقبی شدید؛ مانند آسیب‌زدن به آبرو، سوء استفاده‌های سیاسی داشته باشد و در نهایت به اعتماد عمومی خدشه‌ای جبران‌ناپذیر وارد کند.
دورزدن سیستم‌های امنیتی سنتی
مهاجمان می‌توانند با طراحی بدافزارهایی با سیستم پیچیده، ابزارهای امنیتی سنتی مانند آنتی‌ویروس‌ها را دور بزنند و با طراحی و تولید بدافزارهایی که دائماً درحال‌توسعه و تکامل‌اند و از شناسایی طفره می‌روند، حملاتی پیچیده انجام دهند.
پیامدهای اخلاقی و حقوقی
استفاده از هوش مصنوعی مولد در امنیت سایبری، باعث نگرانی‌هایی در مورد نقض حریم خصوصی افراد و تصمیم‌گیری‌های مغرضانه این ابزار شده است. به‌عبارت‌دیگر هوش مصنوعی مولد قادر است امنیت کاربران را در فضای سایبری تهدید کند.
لازم است تا چارچوب‌های قانونی پیرامون مسئولیت‌پذیری این ابزار جدید فناوری ایجاد شده و هم‌زمان با پیشرفت‌های هوش مصنوعی به‌روز شوند تا با ایجاد هنجارها و ضوابط ضروری، تعهدات آن را افزایش دهند.
«امیرعباس رکنی»، دانشجوی دکتری امنیت ملی دانشگاه عالی دفاع ملی و پژوهشگر پژوهشگاه فضای مجازی درباره کم و کیف تأثیر هوش مصنوعی بر امنیت سایبری به خبرنگار مهر گفت: توسعه و پیشرفت مداوم هوش مصنوعی در شرایط کنونی حاکم برجهان فناوری، تأثیرات قابل‌توجهی بر حوزه امنیت سایبری گذاشته است و انتظار می‌رود این فرآیند در آینده جدی‌تر و مؤثرتر به پیش برود. به‌طورکلی، باید توجه داشت که فناوری هوش مصنوعی همانند یک سکه دو رو دارد و پیشرفت‌ها و توسعه‌ آن می‌تواند منجر به شکل‌گیری مجموعه‌ای از فرصت‌ها و تهدیدهایی برای حوزه امنیت سایبری بشود.وی افزود: تا همین جای کار هم باید اذعان داشت که هوش مصنوعی بسیاری از مفاهیم و فرآیندها را در عرصه امنیت سایبری تحت تأثیر قرار داده و یک پدیده تحول‌آفرین بوده است. ما در جهان فناوری کمتر پدیده‌ای را می‌توانیم همچون هوش مصنوعی پیدا کنیم که در مدت‌زمان کوتاهی بتواند یک پارادایم مختص به خود خلق کرده و در مبانی و اصول مسلط و مستقر دگرگونی ایجاد کند. هوش مصنوعی دقیقاً همین اقدام را در سال‌های اخیر انجام داده است. هنگامی که ما در خصوص امنیت سایبری می‌خواهیم صحبت کنیم، باید توجه داشته باشیم که برخی مؤلفه‌ها نقش اساسی دارند، مثل نیروی انسانی متخصص؛ نیروی انسانی خطای انسانی را ایجاب می‌کند و به عبارتی التزام به شیء التزام به لوازم آن شیء نیز هست و یک ملازمه‌ای در اینجا وجود دارد. در حالی که می‌بینیم هوش مصنوعی با خودکار سازی بسیاری از فرآیندها، نیاز به نیروی انسانی را به حداقل رسانده و در عین حال خطا را نیز به حداقل می‌رساند. بر همین اساس است که می گویم هوش مصنوعی منجر به ایجاد یک تغییر پارادایم در جهان فناوری شده است.وی در ادامه به مرور مهم‌ترین تغییراتی که توسط هوش مصنوعی در حوزه امنیت سایبری ایجاد شده و خواهد شد پرداخت و افزود: اگر بخواهیم مروری بر مهم‌ترین تغییراتی که توسط هوش مصنوعی در حوزه امنیت سایبری ایجاد شده و خواهد شد، داشته باشیم، به این موارد می‌توانیم اشاره کنیم: اول؛ تشخیص و پاسخ تهدید به صورت پیشرفته. دوم ارزیابی آسیب‌پذیری به صورت بهبودیافته و سوم عملیات امنیتی خودکار.این کارشناس امنیت فضای مجازی توضیح داد: هوش مصنوعی این پتانسیل را دارد که به‌طور قابل‌توجهی توانایی‌های تشخیص تهدید و پاسخ را بهبود بخشد. الگوریتم‌های یادگیری ماشینی می‌توانند حجم وسیعی از داده‌ها، از جمله ترافیک شبکه، رفتار کاربر و گزارش‌های سیستم را تجزیه و تحلیل کنند تا الگوها و ناهنجاری‌هایی را که ممکن است نشان‌دهنده حملات سایبری باشد، شناسایی کنند. سیستم‌های مجهز به هوش مصنوعی می‌توانند از داده‌های تاریخی بیاموزند و با تهدیدات جدید سازگار شوند و امکان تشخیص سریع‌تر و دقیق‌تر حوادث امنیتی را فراهم کنند. علاوه بر این، هوش مصنوعی می‌تواند با پیشنهاد اقدامات اصلاحی یا حتی انجام اقدامات مستقل برای مهار و کاهش تهدیدها، پاسخ به حادثه را خودکار کند.
وی درباره موضوع ارزیابی آسیب‌پذیری به صورت بهبودیافته به کمک هوش مصنوعی گفت: هوش مصنوعی می‌تواند برای شناسایی مؤثرتر آسیب‌پذیری‌ها در سیستم‌ها و شبکه‌های نرم‌افزاری استفاده شود. الگوریتم‌های هوش مصنوعی می‌توانند کد، پیکربندی‌های سیستم و شبکه را برای شناسایی نقاط ضعف احتمالی و شکاف‌های امنیتی تجزیه و تحلیل کنند. این می‌تواند به سازمان‌ها کمک کند تا وضعیت امنیتی خود را تقویت کنند.
کرمی ادامه داد: هوش مصنوعی می‌تواند عملیات امنیتی مختلف را خودکار کند، بار کاری تحلیلگران انسانی را کاهش داده و زمان پاسخگویی سریع‌تر را ممکن بسازد. برای مثال، هوش مصنوعی می‌تواند وظایفی مانند تجزیه و تحلیل گزارش، شناسایی تهدید و اسکن آسیب‌پذیری را خودکار کند. این نه تنها کارایی عملیاتی را بهبود می‌بخشد، بلکه به تحلیلگران انسانی اجازه می‌دهد تا بر چالش‌های امنیتی پیچیده‌تر و استراتژیک تر تمرکز کنند.