روابط عمومی شرکت ایدکو (توزیع‌کننده‌ی محصولات کسپرسکی در ایران)؛ حدود تقریباً دو دهه است که کسپرسکی در حوزه ادغام هوش مصنوعی (AI) و یادگیری ماشین (ML) در خدمات و محصولاتش پیشگام بوده است. مهارت عمیق و تجربه کافی در بکارگیری این فناوری‌ها در حوزه امنیت سایبری به همراه مجموعه داده‌های منحصر به فردی که در اختیار داریم و نیز متودهای کارا و زیرساخت آموزش مدل پیشرفته، بستر رویکرد ما را در حل چالش‌های پیچیده ML شکل داده است. مرکز پژوهش فناوری هوش مصنوعی کسپرسکی[1] دانشمندان حوزه داده، مهندسین یادگیری ماشین، متخصصین تهدید و زیرساخت را کنار هم جمع کرده تا چالش‌برانگیزترین امور را در بخش امنیت سایبری و AI/ML مدیریت کنند. این شامل نه تنها توسعه فناوری‌های کاربردی که نیز پژوهش امنیت الگوریتم‌های هوش مصنوعی از جمله استفاده از رویکردهای تضمینی مانند یادگیری ماشین نورومورفیک، آگاهی به خطر هوش مصنوعی و غیره می‌شود.

محصولات و فناوری‌های ما

ما در کسپرسکی دامنه‌ای وسیع از فناوری‌های شناسایی تهدید نیروگرفته از AI یا ML توسعه داده‌ایم که عمدتاً کارشان شناسایی بدافزارهاست. اینها الگوریتم شبکه عمیق عصبی برای شناسایی فایل‌های مخرب قابل اجرا مبتنی بر ویژگی‌های ایستا، فناوری ML «درخت تصمیم[2]» برای ساخت خودکار قوانین شناسایی که روی دستگاه‌های کاربر کار می‌کنند و شبکه‌های عصبی برای شناسایی رفتار آلوده برنامه‌ها در طول اجرا را شامل می‌شوند. ما همچنین از سیستمی برای شناسایی منابع آنلاین مخرب بر اساس تله‌متری ناشناس دریافت‌شده از راهکارهایی که روی دستگاه‌های مشتری نصبند و نیز سایر منابع استفاده می‌کنیم.

مدل‌های ما شامل مدل یادگیری ماشین برای شناسایی وبسایت های تقلبی و DeepQuarantine برای قرنطینه ایمیل‌های اسپم مشکوک از کاربران در برابر تهدیدهای فیشینگ و اسپم محافظت می‌کند. زیرساخت کلود KSN باعث شده توسعه‌های AI ما تقریباً بلافاصله در اختیار کاربران شرکتی و هم خانگی قرار گیرند. با هدایت وعده‌های هوش مصنوعی مولد، به‌ویژه مدل‌های زبان بزرگ (LLM)، ما زیرساختی برای کشف قابلیت‌های آن و نمونه‌سازی سریع راه‌حل‌های جدید ایجاد کرده‌ایم. این زیرساخت، که ابزارهای LLM را شبیه به ChatGPT به کار می‌برد، نه تنها برای کارمندان در تمام بخش‌ها برای کارهای روزمره قابل دسترسی است، بلکه به عنوان مبنایی برای راه‌حل‌های جدید نیز عمل می‌کند. به عنوان مثال، پورتال اطلاعاتی Kaspersky Threat ما به زودی دارای قابلیت OSINT جدید مبتنی بر LLM خواهد بود که به سرعت خلاصه‌های گزارش تهدید را برای IoCهای خاص ارائه می‌کند.

برای افزایش امنیت زیرساخت‌های مشتریان خود، ما به طور فعال در حال توسعه فناوری های هوش مصنوعی متناسب با محصولات و خدمات شرکت های شاخص خود هستیم. چندین سال است که تحلیلگر هوش مصنوعی در شناسایی و پاسخ مدیریت شده کسپرسکی با فیلتر کردن خودکار موارد مثبت کاذب به کاهش بار کاری تیم‌های SOC کمک می‌کند. تنها در سال گذشته، این فناوری بیش از 100000 هشدار را بدون دخالت انسان بسته است. این به کارشناسان SOC اجازه می‌دهد تا به تهدیدهای واقعی سریع‌تر پاسخ و زمان بیشتری را به بررسی موارد پیچیده و جستجوی فعالانه برای تهدیدات اختصاص دهند.

یکی دیگر از راهکارهای ما - امتیازدهی ریسک میزبان مبتنی بر هوش مصنوعی در Kaspersky SIEM  (پلت‌فرم نظارت و تجزیه و تحلیل یکپارچه)- از الگوریتم های ML برای جستجوی رفتار میزبان مشکوک بدون نیاز به انتقال داده به خارج از شرکت استفاده می‌کند. حوزه کلیدی دیگرِ توسعه کسپرسکی، استفاده از AI/ML در محیط‌های صنعتی است. این شامل Kaspersky MLAD (یادگیری ماشین مخصوص شناسایی ناهنجاری‌ها) می‌شود که راهکار نرم‌افزاری تحلیلیِ پیش‌بینی‌کننده است و به طور خودکار علائم اولیه (پنهان) خرابی تجهیزات، اختلال در پروسه، خطای انسانی و حمله سایبری در سیگنال‌های تله‌متری را شناسایی می‌کند.

با آموزش مدام شبکه عصبی، MLAD جریان رخدادهای «اتمی» را از شیء تحلیل کرده، آن‌ها را در قالب الگوهایی درآورده و رفتار ناهنجار را از آن بیرون می‌کشد. یکی دیگر از پروژه‌های ما KNP[3] -پروژه پژوهشی و پلت‌فرم نرم‌افزاری برای راهکارهای هوش مصنوعی بر اساس شبکه‌های عصبی پرشتاب و AltAI، پردازشگر نورومورفیک صرفه‌جو در انرژی توسعه‌داده‌شده توسط Motive NT (مقر در روسیه) با همکاری کسپرسکی است.  پذیرش گسترده فناوری‌های هوش مصنوعی مستلزم کنترل امنیتی است، به همین دلیل است که ما یک تیم امنیتی هوش مصنوعی نیز ایجاد کرده‌ایم. این مجموعه خدماتی را با هدف تضمین حفاظت قابل اعتماد از سیستم‌های هوش مصنوعی و خنثی کردن تهدیدهای احتمالی برای داده‌ها، فرآیندهای تجاری و زیرساخت‌های هوش مصنوعی ارائه می‌کند.

افراد ما

در گذشته، وظایف مبتنی بر ML توسط بخش هایی انجام می‌شد که مستقیماً در شناسایی تهدیدهای خاص درگیر بودند. با این حال، با افزایش تعداد وظایف و اهمیت روزافزون فناوری‌های ML، ما تصمیم گرفتیم تخصص خود را در سیستم‌های مبتنی بر هوش مصنوعی به یک مرکز تخصصی جداگانه اختصاص دهیم: تحقیقات فناوری هوش مصنوعی Kaspersky.  این منجر به ایجاد سه تیم اصلی برای استفاده از هوش مصنوعی در کسپرسکی شد:

•         گروه تجزیه و تحلیل روش‌های تشخیص، الگوریتم‌های ML را برای شناسایی بدافزار با همکاری تیم تحقیقات و تحلیل جهانی (GReAT) و مرکز تحقیقات تهدید توسعه می‌دهد. سیستم‌های هوش مصنوعی آنها برای شناسایی بدافزارهای ثابت و مبتنی بر رفتار مستقیماً به امنیت کاربران ما کمک می‌کند.
•         تحقیقات فناوری، تحت بخش فناوری‌های آینده، در موارد زیر تخصص دارد: تحقیق در مورد فناوری‌های امیدوارکننده هوش مصنوعی؛ توسعه Kaspersky MLAD و KNP؛ توسعه نسل بعدی پردازنده نورومورفیک AltAI با همکاری Motive NT و ارائه خدمات AIST برای امنیت هوش مصنوعی.
•         تیم MLTech مسئول توسعه زیرساخت ML شرکتی برای آموزش مدل‌های ML، ایجاد مدل‌های شناسایی تهدید محتوا (فیشینگ و هرزنامه)، و پیاده‌سازی فناوری‌های هوش مصنوعی، از جمله مبتنی بر LLM، در خدمات و راهکارهای شرکتی پیشرفته ما، مانند MDR، Kaspersky است. SIEM (پلت‌فرم یکپارچه نظارت و تجزیه و تحلیل) و Kaspersky XDR.

این بدان معنا نیست که تخصص هوش مصنوعی ما محدود به تیم‌های فوق است. حوزه هوش مصنوعی در حال حاضر به قدری پیچیده و چندوجهی است که تمرکز تمام دانش در چند گروه تحقیقاتی غیرممکن است. تیم‌های دیگر نیز مشارکت قابل توجهی در کار مرکز تخصصی دارند و ML را در بسیاری از وظایف به کار می‌گیرند: فناوری‌های بینایی ماشین در تیم Antidrone.  تحقیق در مورد دستیاران کدنویسی هوش مصنوعی در بخش‌های CoreTech و KasperskyOS؛ جستجوی APT در  GreAT و مطالعه قوانین هوش مصنوعی در تیم روابط دولتی.

پژوهش و پتنت‌های ما

پتنت‌هایی که در سراسر دنیا بدست آوردیم مهر تأییدی است بر منحصر به فرد بودن فناوری‌های هوش مصنوعی ما. از همه مهمتر، اینها پتنت‌هایی هستند مخصوص فناوری‌های شناسایی مانند شناسایی بدافزارها مبتنی بر لاگ‌های رفتار برنامه، شناسایی سرورهای مخرب در تله‌متری، وبسایت‌های جعلی و اسپم با کمک یادگیری ماشین. اما پورتفولیوی کسپرسکی دامنه وسیعتری از تسک‌ها را پوشش می‌دهد: فناوری‌هایی برای بهبود مجموعه داده‌هایی مخصوص ML، شناسایی ناهنجاری و حتی جستجوی کانتکت‌های مشکوک بچه‌ها در سیستم‌های کنترل والدین. و البته مدام در حال پتنت‌سازی فناوری‌های هوش مصنوعی خود برای سیستم‌های صنعتی و رویکردهای شبکه عصبی منحصر به فرد جهت پردازش جریانات رخداد هستیم. افزون بر این، کسپرسکی فعالانه مهارت هوش مصنوعی‌اش را در اختیار این جامعه می‌گذارد.

برخی مطالعات مانند آن‌هایی که روی الگورتیم‌های مونوتونیک یادگیری ماشین هستند یا کاربرد شبکه‌های عصبی برای شناسایی اسپم به عنوان مقالات آکادمیک روی پورتال‌های تخصصی و در کنفرانس‌های امنیت اطلاعات منتشر می‌شوند. برای مثال، ما تحقیقاتی را در مورد امنیت الگوریتم‌های هوش مصنوعی خودمان منتشر می‌کنیم، به‌ویژه حملات به تشخیص هرزنامه و الگوریتم‌های تشخیص بدافزار. ما کاربرد شبکه‌های عصبی را برای تحلیل سری‌های زمانی مطالعه و استفاده از شبکه‌های نورومورفیک را در وظایف مرتبط با صنعت بررسی می‌کنیم. پلت‌فرم نورومورفیک کسپرسکی ما یک نرم‌افزار منبع باز است که برای استفاده و توسعه توسط کل جامعه ML در دسترس خواهد بود.

موضوع توسعه و کاربرد ایمن هوش مصنوعی برای ما اهمیت اساسی دارد، زیرا باید بتوانیم به الگوریتم های خود اعتماد کنیم و از قابلیت اطمینان آنها اطمینان داشته باشیم. موضوعات دیگری که پوشش می‌دهیم شامل مشارکت ما در چالش‌های امنیت سایبری می‌شود که حملات به سیستم های ML را شبیه‌سازی کرده و از فناوری‌های پیشرفته مانند LLM برای شناسایی تهدیدها در گزارش های سیستم و لینک‌های فیشینگ استفاده می‌کند. ما همچنین در مورد تهدیدهای برای هوش مصنوعی مولد، از جمله از نقطه نظر حفظ حریم خصوصی، حملات به سیستم‌های مختلف مبتنی بر LLM، استفاده از هوش مصنوعی توسط مهاجمین، و استفاده از فناوری‌های ما در SOC صحبت می‌کنیم. گاهی اوقات در را باز کرده و عملکرد درونی خود را آشکار کرده و در مورد روند آموزش مدل‌های خود و حتی پیچیدگی های ارزیابی کیفیت آنها صحبت می‌کنیم.

بالا بردن سطح آگاهی

در آخر، مهمترین ویژگی مرکز پژوهش فناوری هوش مصنوعی کسپرسکی بالا بردن سطح آگاهی بین مشتریان و عموم افراد در مورد مزایا و معایب فناوری‌های AI و تهدیدهایی است که می‌توانند در پی داشته باشند. متخصصین ما در Expertise Center خطرات ویدیوهای دیپ فیک را نشان می‌دهند. ما در مورد نکات بهتری از کاربرد AI (برای مثال اینکه چطور چت‌جی‌پی‌تی روی پروسه استخدام توسعه‌دهندگان اثر می‌گذارد) حرف می‌زنیم و تجارب خود را در وبینارها و مباحث میزگردی‌مان به اشتراک می‌گذاریم. تیم تحقیقاتی فناوری FT کنفرانس‌هایی را در مورد فناوری‌های نورومورفیک با یک مسیر جداگانه به مسائل امنیتی هوش مصنوعی، از جمله سیستم‌های مبتنی بر رویکرد نورومورفیک، سازمان‌دهی می‌کند. ما به همراه شریکمان، مؤسسه برنامه‌نویسی سیستم آکادمی علوم روسیه (ISP RAS) در حال تحقیق بُردارهای حمله مختلف در شبکه‌های عصبی در حوزه‌های Computer Vision، LLM، و سری‌های زمانی و راه‌هایی برای محافظت از آنها هستیم. به عنوان بخشی از مشارکت صنعتی Kaspersky با ISP RAS، این تیم در حال آزمایش نمونه‌هایی از چارچوب‌های قابل اعتماد ML هستند.

ما همچنین درگیر توسعه دوره‌های آموزشی، از جمله ماژول استفاده از هوش مصنوعی در امنیت سایبری در دانشگاه فنی دولتی باومان مسکو هستیم. مثال دیگر ماژول ما در مورد استفاده ایمن از هوش مصنوعی در Kaspersky ASAP -راهکار ما برای افزایش آگاهی کارکنان از تهدیدهای سایبری- است. در نهایت، ما در ایجاد مجموعه‌ای از استانداردهای بین المللی برای استفاده از هوش مصنوعی مشارکت می‌کنیم. در سال 2023، ما اولین اصول برای استفاده اخلاقی از سیستم‌های هوش مصنوعی در امنیت سایبری را در انجمن حاکمیت اینترنت ارائه کردیم. به طور خلاصه، وظایف اصلی مرکز تحقیقات فناوری هوش مصنوعی کسپرسکی، توسعه فناوری‌های هوش مصنوعی، کاربرد ایمن آنها در امنیت سایبری، نظارت بر تهدید برای استفاده نادرست یا مخرب هوش مصنوعی و پیش‌بینی روندها است. همه این وظایف یک هدف واحد را دنبال می‌کنند: تضمین بالاترین سطح امنیت برای مشتریان خود.

[1] Kaspersky AI Technology Research Center

[2] decision-tree

[3] Kaspersky Neuromorphic Platform

کسپرسکی آنلاین (ایدکو)

کسپرسکی اسم یکی از بزرگترین شرکتهای امنیتی و سازنده آنتی ویروس است که برخی از کاربران اشتباهاً این شرکت و محصولات آنتی ویروس آن را با عناوینی نظیر کسپرسکای،کاسپرسکی، کسپراسکای، کسپراسکای، و یا کاسپراسکای نیز می‌شناسد. همچنین لازم به ذکر است مدیرعامل این شرکت نیز یوجین کسپرسکی نام دارد.