پالسی نو علوم پزشکی تبریز

-گزارش علمی و تحقیقی جدید موسسه تحقیقاتیCap Gemini با عنوان) تهدیدات جدید و دفاع‌های جدید(:

آنچه هوش مصنوعی و هوش مصنوعی نسل جدید برای امنیت سایبری به ارمغان می‌آورند، نشان می‌دهد که در حالی که خطرات جدید امنیت سایبری به دلیل گسترش هوش مصنوعی(AI) و هوش مصنوعی مولد (Gen AI) در حال ظهور هستند، این فناوری‌ها نشان‌دهنده یک تغییر دگرگون‌کننده در تقویت استراتژی‌های دفاع سایبری برای بلندمدت جهت پیش‌بینی، شناسایی و پاسخ به تهدیدات هستند.دو سوم سازمان‌ها اکنون هوش مصنوعی را در عملیات امنیتی خود در اولویت قرار می‌دهند.

بر اساس این گزارش، در حالی که سازمان‌ها هوش مصنوعی را به عنوان یک فناوری استراتژیک برای تقویت استراتژی‌های امنیتی خود در نظر می‌گیرند، افزایش پذیرش هوش مصنوعی نسل جدید در صنایع مختلف  آسیب‌پذیری را افزایش می‌دهد. هوش مصنوعی نسل جدید سه حوزه خطر عمده را برای سازمان‌ها معرفی می‌کند: 

-حملات پیچیده‌تر با دشمنان بیشتر 

-گسترش سطح حملات سایبری 

- رشد آسیب‌پذیری‌ها در کل چرخه عمر راه‌حل‌های هوش مصنوعیGen AI. 

این خطرات همچنین با سوءاستفاده از هوش مصنوعی و هوش مصنوعی نسل جدید توسط کارمندان تشدید می‌شود که می‌تواند خطر نشت داده‌ها را به میزان قابل توجهی افزایش دهد.

از هر سه سازمان، دو سازمان نگران افزایش مواجهه با تهدیدات هستند.

تقریباً تمام سازمان‌های مورد بررسی (97٪) می‌گویند که در سال گذشته با نقض‌ها یا مسائل امنیتی مربوط به استفاده از هوش مصنوعی نسل جدید مواجه شده‌اند. هوش مصنوعی نسل جدید همچنین خطرات اضافی، از جمله توهم، تولید محتوای مغرضانه، مضر یا نامناسب و حملات تزریق سریع را به همراه دارد  . از هر سه سازمان، دو سازمان (67٪) نگران مسمومیت داده‌ها و نشت احتمالی داده‌های حساس از طریق مجموعه داده‌های آموزشی مورد استفاده برای آموزش مدل‌های هوش مصنوعی نسل جدید هستند.

علاوه بر این، توانایی هوش مصنوعی نسل جدید در تولید محتوای مصنوعی بسیار واقع‌گرایانه، خطرات بیشتری را ایجاد می‌کند: بیش از دو پنجم سازمان‌های مورد بررسی (۴۳٪) گفته‌اند که در استفاده از دیپ‌فیک متحمل ضررهای مالی شده‌اند.

تقریباً از هر 10 نفر، 6 نفر معتقدند که برای تقویت دفاع خود، باید بودجه امنیت سایبری خود را افزایش دهند.

هوش مصنوعی و هوش مصنوعی نسل جدید برای تشخیص و پاسخ به حملات بسیار مهم هستند.

این گزارش با بررسی ۱۰۰۰ سازمان  که یا هوش مصنوعی را برای امنیت سایبری در نظر گرفته‌اند یا در حال حاضر از آن استفاده می‌کنند، نشان می‌دهد که اکثر آنها به دلیل توانایی این فناوری در تجزیه و تحلیل سریع حجم عظیمی از داده‌ها، شناسایی الگوها و پیش‌بینی نقض‌های احتمالی، برای تقویت امنیت داده‌ها، برنامه‌ها و فضای ابری خود به هوش مصنوعی متکی هستند.

بیش از ۶۰٪ از آنها از کاهش حداقل ۵ درصدی در زمان تشخیص خبر دادند و تقریباً ۴۰٪ گفتند که زمان اصلاح آنها پس از پیاده‌سازی هوش مصنوعی در مراکز عملیات امنیتی (SOC) ۵٪ یا بیشتر کاهش یافته است.

از هر پنج سازمان مورد بررسی، سه سازمان (۶۱٪) معتقدند که هوش مصنوعی برای پاسخ موثر به تهدیدات ضروری است و آنها را قادر می‌سازد تا استراتژی‌های امنیتی پیشگیرانه را در برابر عوامل تهدیدآمیز پیچیده‌تر اجرا کنند. علاوه بر این، همین نسبت از پاسخ‌دهندگان پیش‌بینی می‌کنند که هوش مصنوعی نسل جدید، استراتژی‌های دفاعی پیشگیرانه را در درازمدت تقویت می‌کند و پیش‌بینی می‌شود که تشخیص تهدیدات سریع‌تر شود. بیش از نیمی از آنها همچنین معتقدند که این فناوری، تحلیلگران امنیت سایبری را قادر می‌سازد تا بیشتر بر استراتژی مبارزه با تهدیدات پیچیده تمرکز کنند.

استفاده از هوش مصنوعی و هوش مصنوعی عمومی تاکنون مانند یک شمشیر دولبه عمل کرده است. در حالی که خطرات بی‌سابقه‌ای را به همراه دارد، سازمان‌ها به طور فزاینده‌ای برای تشخیص سریع‌تر و دقیق‌تر حوادث سایبری به هوش مصنوعی متکی هستند. هوش مصنوعی و هوش مصنوعی عمومی ابزارهای جدید و قدرتمندی را در اختیار تیم‌های امنیتی قرار می‌دهند تا این حوادث را کاهش داده و استراتژی‌های دفاعی خود را متحول کنند. برای اطمینان از اینکه آنها در مواجهه با پیچیدگی تهدیدهای در حال تحول، مزیت خالصی را نشان می‌دهند، سازمان‌ها باید نظارت مداوم بر چشم‌انداز امنیتی را حفظ و اولویت‌بندی کنند، زیرساخت‌های مدیریت داده‌های لازم، چارچوب‌ها و دستورالعمل‌های اخلاقی برای پذیرش هوش مصنوعی را ایجاد کنند و برنامه‌های آموزشی و آگاهی‌بخشی قوی برای کارکنان ایجاد کنند .(( این گفته‌ی مارکو پریرا، رئیس جهانی امنیت سایبری، خدمات زیرساخت ابری، کپجمینی است.))

روش کار:

موسسه تحقیقاتیCap Gemini، ۱۰۰۰ سازمان را که هوش مصنوعی را برای امنیت سایبری در نظر گرفته‌اند یا در حال حاضر از آن استفاده می‌کنند، در ۱۲ بخش و ۱۳ کشور در آسیا و اقیانوسیه، اروپا و آمریکای شمالی مورد بررسی قرار داد که درآمد سالانه آنها ۱ میلیارد دلار و بیشتر است. این بررسی جهانی در ماه مه ۲۰۲۴ انجام شد. سازمان‌های مورد بررسی طیف متنوعی از بخش‌ها از جمله خودرو؛ محصولات مصرفی؛ خرده‌فروشی؛ بانکداری؛ بیمه؛ مخابرات؛ انرژی و خدمات رفاهی؛ هوافضا و دفاع؛ فناوری پیشرفته؛ تولید تجهیزات صنعتی؛ داروسازی و مراقبت‌های بهداشتی و بخش عمومی را شامل می‌شوند.

منبع گزارش: موسسه تحقیقاتی در مورد تاثیر فناوری‌های دیجیتال بر کسب‌وکارهای سنتی بزرگ منتشر می‌کند و دارای مراکز تحقیقاتی اختصاصی در هند، سنگاپور، بریتانیا و ایالات متحده است. اخیراً توسط تحلیلگران مستقل، رتبه اول کیفیت تحقیقات در جهان را کسب کرده است

References:

[1] Nearly one-quarter (24%) of organizations have enabled Gen AI capabilities in some or most of their functions and locations – Cap Gemini Research Institute, “Harnessing the value of generative AI 2^nd edition: Top use cases across sectors,” July 2024.

[2] This involves using malicious inputs to manipulate AI and Gen AI models, compromising their integrity.

[3] 1,000 organizations across 12 sectors and 13 countries in Asia Pacific, Europe, and North America, with annual revenues of $1 billion and over.

گردآورنده: فریبا اسمعیلی- کارشناس ارشد مهندسی نرم افزار

کارشناس فناوری اطلاعات دانشکده پرستاری ومامایی تبریز

شماره تماس:09143123580