خبرگزاری مهر، گروه فناوریهای نوین: طی سالهای گذشته هوش مصنوعی مولد (AI) بهعنوان ابزاری قدرتمند و مؤثر در زمینههای مختلف، از جمله امنیت سایبری ظهور کرده است. این فناوری که بر اساس الگوریتمهای یادگیری عمیق عمل میکند تواناهایی متعدد مانند تولید محتوای واقعی و غیرواقعی بهصورت متن، تصویر و ویدئو دارد.
درحالیکه هوش مصنوعی مولد نویدبخش افزایش امنیت سایبری است، قادر به ایجاد مخاطرات جدی برای این حوزه نیز هست. تکنولوژی و پیشرفتهایش باعث قدرتمندتر شدن مجرمان سایبری شده و خدماتی را به آنها ارائه میدهد. یکی از این چالشها استفاده از مدلهای زبانی مانند «ChatGPT» برای نوشتن کدهای مخرب است.
۷۶ درصد از شرکتها بر اساس آمار فوربس و تحقیقات شرکت بلکبری، هوش مصنوعی و یادگیری ماشینی را در اولویتهای بودجه مختص فناوری اطلاعات خود قرار داده اند تا بتوانند حجم زیادی از دادهها را برای شناسایی و کاهش تهدیدات سایبری تجزیه تحلیل کنند؛ در نتیجه هوش مصنوعی هم برای مجرمین سایبری و هم مبارزه با جرایم سایبری ابزاری ضروری است.
دولتها و شرکتها برای مدیریت بهتر آینده بهتر است مخاطرات و کاربردهای هوش مصنوعی را در امنیت سایبری شناخته و راههایی برای مقابله با چالشهای آن در نظر بگیرند. در ادامه به بخشی از فرصتها و مخاطرات هوش مصنوعی برای امنیت سایبری اشاره میکنیم.
کاربردهای هوش مصنوعی مولد در امنیت سایبری
*شناسایی و تجزیه تحلیل بدافزار
هوش مصنوعی مولد قادر است با تجزیهوتحلیل نمونههایی از بدافزارها، روش و الگوریتم آنها را دریافته و با ارائه آن به متخصصان و تحلیلگران امنیتی بسیار مؤثر عمل کند. متخصصان و تحلیلگران امنیتی با استفاده از الگوهای تحلیل شده توسط هوش مصنوعی مولد میتوانند بدافزارها را بهتر درک کرده و اقدامات دفاعی متقابل و مؤثر و روشهای دفاعی پیشگیرانه جدیدی را بر اساس الگوی عملکردی از بدافزارها که هوش مصنوعی به آنها ارائه کرده تدوین کنند. اکثر تصمیمگیرندگان حوزه فناوری اطلاعات قصد دارند روی امنیت سایبری مبتنی بر هوش مصنوعی سرمایهگذاری کنند.
*طراحی نمونههای متخاصم
یکی دیگر از تواناییهای هوش مصنوعی طراحی نمونههای بدافزارهای متخاصم است که به طور اختصاصی برای فریب هوش مصنوعی طراحی شدهاند. با تولید چنین نمونههایی متخصصان میتوانند تدابیر امنیتی لازم را برای محافظت از مدلها و سیستمهای هوش مصنوعی در برابر حملات خصمانه ایجاد کنند. این تدابیر میتواند منجر به تقویت دفاعی و استحکام هوش مصنوعی در برابر حملات پیچیده متخاصمان و مجرمین سایبری شود.
*شکستن رمز عبور و احراز هویت
هوش مصنوعی میتواند برای سخت کردن تکنیکهای شستن رمز عبور مجرمان سایبری با تحلیل و بررسی رفتار کاربران، ترکیبات رمز عبور احتمالی را در نظر گرفته و مدلهای جدید رمز عبور که شکستن آنها سختتر باشد را ایجاد کرده و سیستمهای احراز هویت قویتری طراحی کند. این قابلیتهای هوش مصنوعی میتواند به افزایش امنیت سایبری کمک کند.
*ارزیابی آسیبپذیری و تشخیص نفوذ شبکه
هوش مصنوعی میتواند آسیبپذیریها را در سیستمهای نرمافزاری شناسایی کرده و توصیههایی برای برطرفکردن آن دهد و از این نظر میتواند از آنتیویروسها قدرتمندتر عمل کند؛ زیرا زمان و تلاش موردنیاز برای شناسایی و رفع نقصهای امنیتی را کاهش میدهد و با عملکرد بهینه خود نسبت به ابزارهای قدیمی، وضعیت امنیتی کلی سیستمها و برنامهها را بهبود میبخشد. از طرف دیگر هوش مصنوعی رفتارهای مشکوکی که نشاندهنده نفوذ در شبکه است را تشخیص داده و به آنها پاسخ مناسب داده و از زیر ساختهای حیاتی محافظت کنند. بهعبارتدیگر هوش مصنوعی امکان نظارت مستمر خودکار را فراهم میکند که برای امنیت سایبری مدرن امری ضروری است.
خطرات و آسیبهای هوش مصنوعی برای امنیت سایبری
- فیشینگ پیشرفته و حملات مهندسی اجتماعی
یکی از خطرات هوش مصنوعی مولد زبانی، توانایی ایجاد ایمیلهای فیشینگ، پیامها یا تماسهای تلفنی بسیار قانعکننده است. این یک زنگ خطر بزرگ برای افراد سازمان و حتی دولتهاست زیرا مهاجمان از طریق فیشینگ میتوانند با فریب کاربران دست به اقدامات مخرب و فاش کردن اطلاعات حساس بزنند. پیچیدگی هوش مصنوعی مولد اثربخشی مهندسی اجتماعی را تقویت کرده و مقاومت در برابر آنها را سختتر میکند. تربیت جامعهای با سواد سایبری و رسانهای بالا و آگاه به اصول مهندسی اجتماعی برای جلوگیری از فریبخوردن از ابزار فناورانه مدرن، یکی از نیازهای بشر امروز است.
*مطالب و اطلاعات جعلی عمیق
هوش مصنوعی مولد میتواند محتوای جعلی عمیق (deep fake) بسیار واقعی با فرمتهای تصویر، ویدئو و صدا تولید کند. سوءاستفادهکنندگان با استفاده از این قابلیت هوش مصنوعی میتوانند با انتشار اطلاعات نادرست افکار عمومی را دستکاری کرده و حتی هویت افراد را جعل کنند. دیپفیک میتواند عواقبی شدید؛ مانند آسیبزدن به آبرو، سو استفادههای سیاسی داشته باشد و در نهایت به اعتماد عمومی خدشهای جبرانناپذیر وارد کند.
*دورزدن سیستمهای امنیتی سنتی
مهاجمان میتوانند با طراحی بدافزارهایی با سیستم پیچیده، ابزارهای امنیتی سنتی مانند آنتیویروسها را دور بزنند و با طراحی و تولید بدافزارهایی که دائماً درحالتوسعه و تکاملاند و از شناسایی طفره میروند، حملاتی پیچیده انجام دهند.
*پیامدهای اخلاقی و حقوقی
استفاده از هوش مصنوعی مولد در امنیت سایبری، باعث نگرانیهایی در مورد نقض حریم خصوصی افراد و تصمیمگیریهای مغرضانه این ابزار شده است. بهعبارتدیگر هوش مصنوعی مولد قادر است امنیت کاربران را در فضای سایبری تهدید کند.
لازم است تا چارچوبهای قانونی پیرامون مسئولیتپذیری این ابزار جدید فناوری ایجاد شده و همزمان با پیشرفتهای هوش مصنوعی بهروز شوند تا با ایجاد هنجارها و ضوابط ضروری، تعهدات آن را افزایش دهند.