ChatGPT چیست و چطور امنیت سایبری را تغییر خواهد داد؟

05 بهمن 1401 ChatGPT چیست و چطور امنیت سایبری را تغییر خواهد داد؟

روابط عمومی شرکت ایدکو (توزیع‌کننده‌ی محصولات کسپرسکی در ایران)؛ گرچه اصول فناوری یادگیری ماشین حدود نیم‌قرن پیش مطرح شد اما همین اواخر بود که توانست به طور گسترده اجرایی شود. با رشد قدرت رایانش، کامپیوترها یاد گرفتند ابتدا اجسام در تصاویر را از هم تمیز دهند و گیم  Go را بهتر از انسان‌ها بازی کنند. سپس توانستند بر اساس توصیفات متنی تصاویری کشیده و چتی منسجم را حفظ کنند. پیشرفت‌های علمی در سال‌های 2021 و 2022 برای همه قابل دسترسی بود. برای مثال شما می‌توانید در MidJourney عضو شوید و فرضاً فوراً کتاب‌های خود را به تصویر بکشید. و OpenAI نیز در نهایت از مدل زبان بزرگ [1]GPT-3 خود را از طریق ChatGPT در اختیار عموم مردم قرار داد. این بات در سایت  chat.openai.com–جایی که می‌توانید خودتان ببینید چطور یک مکالمه منسجم حفظ می‌شود- موجود است و در واقع مفاهیم علمی پیچیده را بهتر از بسیاری از معلمین توضیح می‌دهد. هچنین به طور هنرمندانه‌ای متون را به زبان‌های مختلف برمی‌گرداند و قابلیت‌های بسیار دیگری نیز دارد.

اگر ChatGPT را به موارد ضروری خرد کنیم، مدل زبان مذکور روی مجموعه عظیمی از متون آنلاین آموزش داده می‌شود که از آن می‌تواند به یاد بیاورد چه کلماتی، جملاتی و پاراگراف‌هایی بیشتر با هم ترکیب می‌شوند و چطور با هم ارتباط دارند. این مدل به کمک چندین ترفند فنی و راندهای اضافی آموزشی بویژه برای دیالوگ بهینه‌سازی می‌شود. از آنجایی که در اینترنت می‌توانید هر چیزی را به طور قطع پیدا کنید، این مدل فی‌الذات قادر است دیالوگ را عملاً در هر بستر و موضوعی پیش برده و حمایت کند. از فشن و مد گرفته تا تاریخ و هنر و برنامه‌ریزی و فیزیک کوانتوم! دانشمندان، ژورنالیست‌ها و صرفاً افراد مشتاق حتی برای ChatGPT کاربردهای دیگری نیز پیدا کرده‌اند. وبسایت Awesome ChatGPT  لیستی دارد از فرمان‌ها (عباراتی برای شروع مکالمه با بات) که اجازه‌ی سوئیچ کردن  ChatGPT را می‌دهد تا به سبک گاندالف یا هر شخصیت ادبی دیگری پاسخ دهد، با کد پیتون بنویسد، نامه‌های اداری و رزومه تولید کند و حتی از ترمینال لینوکس تقلید نماید. با این همه ChatGPT هنوز یک مدل زبان است پس همه موارد فوق چیزی بیش از ترکیب‌های کلمات نیستند- هیچ دلیل یا منطقی برای آن نیست. گاهی ChatGPT کاملاً چرند می‌گوید (مثل خیلی از انسان‌ها). برای مثال به مطالعات علمی که اصلاً وجود ندارد اشاره می‌کند. پس همیشه باید با محتوای ChatGPT با احتیاط برخورد کرد. با این حال حتی در فرم کنونی‌اش هم این بات را می‌توان در صنایع و پروسه‌های عملی به کار برد. در ذیل نمونه‌هایی را خواهیم داشت از این بات در بستر امنیت سایبری:

ایجاد بدافزار

مجرمان سایبری تازه‌کار در تالارهای گفت‌وگوی هکری زیرزمینی گزارش می‌دهند چطور برای ایجاد تروجان‌های جدید از  ChatGPT استفاده می‌کنند. این بات می‌تواند کد بنویسد پس اگر به طور مختصر عملکرد مطلوب خود را شرح دادید (ذخیره همه پسوردها در فایل X و ارسال از طریق  HTTP POST به سرور Y) می‌توانید بدون داشتن مهارت برنامه‌نویسی (حتی ذره‌ای) یک سارق اطلاعات داده داشته باشید. با این حال کاربران صادق چیزی برای ترسیدن ندارند. اگر کد نوشته‌شده توسط بات دارد استفاده می‌شود، راهکارهای امنیتی آن را طوری که انگار بدافزار ساخت دست انسان باشد با سرعت و به طور مؤثری شناسایی و خنثی می‌کنند. افزون بر این، اگر چنین کدی توسط برنامه‌نویس مجربی چک نشود، بدافزار احتمالاً حاوی خطاهایی جزئی و نواقص منطقی خواهد شد که این از کارا بودنش می‌کاهد. دست کم برای الان، بات‌ها فقط یارای رقابت با ویروس‌نویسان تازه‌کار را دارند.

تحلیل بدافزار

وقتی تحلیلگران InfoSec اپ‌های جدید مشکوک را بررسی می‌کنند، شبه‌کد یا کد ماشین را مهندسی معکوس می‌کنند و سعی دارند از ساز و کار آن سر دربیاورند. گرچه این کار می‌تواند تماماً به ChatGPT محول شود اما این ربات چت همین الانش هم قادر است با سرعت وظیفه‌ی یک تکه کد خاص را توضیح دهد. همکار ما ایوان کیاتکوفسکی برای IDA Pro  پلاگینی توسعه داده که دقیقاً همین کار را انجام می‌دهد. این مدل زبان در بنیادی‌ترین بخش‌های سازنده‌اش یک ChatGPT واقعی نیست بلکه پسرعمویش  davinci-003 است. اما در نظر داشته باشید که این یک تفاوت تماماً فنی است. برخی‌اوقات این پلاگین کار نمی‌کند یا خروجی‌اش افتضاح است اما برای آن دسته از مواردی که خودکار نام‌های قانونی را برای کارکردها معین می‌کند و الگوریتم‌های رمزنگاری را در کد و پارامترهایشان شناسایی می‌نماید داشتنش در کیت‌بگ خالی از لطف نخواهد بود. این در شرایط SOC خودش را نشان می‌دهد، جایی که تحلیلگران دائماً باید حداقل زمان را به هر رخداد اختصاص دهند، بنابراین هر ابزاری برای سرعت بخشیدن به فرآیند مورد استقبال قرار می‌گیرد.

جستجوی آسیب‌پذیری

سویه‌ی رویکرد فوق سرچ خودکار است برای کد آسیب‌پذیر. این چت‌بات شبه‌کدِ اپِ دی‌کامپایل‌شده را می‌خواند و جاهایی که ممکن است حاوی آسیب‌پذیری باشد را شناسایی می‌کند. افزون بر این، بات کد پیتون را که برای اکسپلویت آسیب‌پذیری (poc) طراحی شده ارائه می‌دهد. مطمئناً این بات می‌تواند هر نوع اشتباهی بکند (هم در بخش سرچ آسیب‌پذیری‌ها و هم نوشتن کد poc) اما حتی در فرم کنونی‌اش هم این ابزار می‌تواند هم توسط مهاجمین هم مدافعین استفاده گردد.

مشاوره امنیتی

از آنجایی که ChatGPT می‌داند مردم در فضای انلاین در مورد امنیت سایبری چه می‌گویند، توصیه‌اش برای این بستر متقاعدکننده است. اما در مورد توصیه‌ی هر چت‌باتی هرگز نخواهید دانست دقیقاً از کجا آمده.

فیشینگ و دستکاری ایمیل سازمانی

متون مجاب‌کننده نقطه قوت GPT-3 و ChatGPT هستند پس حملات خودکار اسپیر فیشینگ که از چت‌بات‌ها استفاده می‌کنند شاید همین الان هم دارند اتفاق می‌افتند. مشکل اصلی در مورد ایمیل‌های فیشینگ عمده این است که به نظر درست نمی‌آیند و کلی متن هست که ربطی به دریافت‌کننده ندارد. در مورد اسپیر فیشینگ: وقتی مجرم سایبری ایمیلی را به قربانی واحد می‌فرستند بسیار هزینه‌بردارتر است. از این رو فقط برای حملات هدف‌دار به کار می‌رود. ChatGPT طوری تنظیم‌ شده که به شدت تعادل قدرتی را تغییر دهد زیرا این به مهاجمین اجازه می‌دهد تا در مقایس صنعتی دست به تولید ایمیل‌های مجاب‌کننده وشخصی‌سازی‌شده بزنند. با این وجود برای اینکه ایمیلی همه اجزای لازم را داشته باشد چت‌بات اید دستورالعمل‌های جزئی‌ای را در اختیار داشته باشد.

اما حملات اصلی فیشینگ معمولاً شامل یک سری ایمیل‌ها می‌شود که هر کدام به تدریج اعتماد قربانی را جلب می‌کنند. بنابراین برای ایمیل های دوم، سوم و nامین، ChatGPT واقعاً در وقت مجرمان سایبری صرفه جویی می‌کند. از آنجایی که ربات چت زمینه مکالمه را به خاطر می‌آورد، ایمیل های بعدی می‌توانند به زیبایی از یک دستور بسیار کوتاه و ساده ساخته شوند.

علاوه بر این، پاسخ قربانی می‌تواند براحتی به مدل داده شود و در چند ثانیه یک پیگیری قانع کننده ایجاد کند. از جمله ابزارهایی که مهاجمین می‌توانند استفاده کنند، مکاتبات سبک‌مند است. با توجه به نمونه کوچکی از یک سبک خاص، جعبه گفتگو به راحتی می‌تواند آن را در پیام‌های بعدی اعمال کند. این امکان ایجاد ایمیل‌های جعلی قانع‌کننده ظاهراً از یک کارمند به کارمند دیگر را فراهم می‌کند. متأسفانه، این بدان معنی است که تعداد حملات فیشینگ موفقیت آمیز افزایش خواهد یافت. و چت بات در ایمیل، شبکه‌های اجتماعی و پیام رسان‌ها به همان اندازه قانع کننده خواهد بود.

چگونه مبارزه کنیم؟

کارشناسان تحلیل محتوا به طور فعال در حال توسعه ابزارهایی هستند که متون چت بات را شناسایی می‌کنند. زمان نشان خواهد داد که این فیلترها چقدر موثر خواهند بود. اما در حال حاضر، ما فقط می‌توانیم دو نکته استاندارد خود (آموزش هوشیاری و آگاهی از امنیت سایبری) را به اضافه یک نکته جدید توصیه کنیم. یاد بگیرید که چگونه متون تولید شده توسط ربات را شناسایی کنید. ویژگی‌های ریاضی برای چشم قابل تشخیص نیست، اما ویژگی‌های کوچک سبکی و ناهماهنگی‌های کوچک هنوز ربات‌ها را از بین می‌برد. این بازی را بررسی کنید تا ببینید می‌توانید تفاوت بین متن نوشته شده توسط انسان و ماشین را تشخیص دهید یا نه.

[1] Generative Pretrained Transformer 3، ترسنفورمر تولیدگر از پیش آموزش دیده به اختصار (GPT-3) یک مدل زبانی خودگرا است که از یادگیری عمیق برای تولید متنی شبیه انسان استفاده می‌کند.

 

منبع: کسپرسکی آنلاین (ایدکو)

کسپرسکی اسم یکی از بزرگترین شرکتهای امنیتی و سازنده آنتی ویروس است که برخی از کاربران اشتباهاً این شرکت و محصولات آنتی ویروس آن را با عناوینی نظیر کسپرسکای،کاسپرسکی، کسپراسکای، کسپراسکای، و یا کاسپراسکای نیز می‌شناسد. همچنین لازم به ذکر است مدیرعامل این شرکت نیز یوجین کسپرسکی نام دارد.

محصولات مرتبط

  • Kaspersky Internet Security for Android

    امنیت پیشرفته‌ای که همیشه همراه شماست بخش مهمی از زندگی اکثر ما اکنون روی گوشی‌ها و تبلت‌هاست- پس به امنیت موبایلی نیاز دارید که شما را همیشه امن نگه ...

    6,294,000 ریال
    خرید
  • Kaspersky Cloud Password Manager

    Kaspersky Cloud Password Manager ابزار مدیریت کلمه عبور ابری کسپرسکی (KCPM) ضمن ذخیره ایمن تمامی کلمات عبور مورد استفاده شما برای وبسایت‌ها، اپلیکیشن‌ها، و شبکه‌های اجتماعی آنها را در تمامی ...

    9,444,000 ریال
    خرید
  • Kaspersky Safe Kids

    شما می توانید بر ارتباطات اینترنتی کودکان از قبیل فعالیتهای عمومی در فیسبوک، کنترل تماسها و پیامها از طریق دستگاههای اندرویدی نظارت داشته باشید. کمک شما به کودکان بهترین راهنمایی برای آنها ...

    2,361,000 ریال9,444,000 ریال
    خرید
  • Kaspersky Small Office Security

    محافظت در حین کار Kaspersky Small Office Security به طور خاص برای سازمان‌هایی طراحی شده است که 5 تا 50 دستگاه کامپیوتر در خود جای داده‌اند. نصب آن بسیار آسان است؛ مدیریت آن ...

    5,670,000 ریال22,680,000 ریال
    خرید
  • Kaspersky Security Cloud Personal

    تمام اپ‌های امنیتیِ ما در دستانتان. به کل خانواده‌ی اپ‌های ما برای دسکتاپ و موبایل دسترسی پیدا کنید. از آنتی‌ویروس گرفته تا ابزارهای حریم خصوصی و اجرایی، هر کدام را به میل ...

    62,994,000 ریال
    خرید
  • Kaspersky Standard

    سیستم امنیتی بهبودیافته به همراه تقویت‌کننده عمکرد دستگاه طرح امنیتی استاندارد ما، نه تنها سیستم امنیتی قدرتمندی را برای انواع ویروس‌ها، بدفزارها و باج‌افزارها ارائه می‌دهد ...

    8,910,000 ریال17,820,000 ریال
    خرید
  • Kaspersky Plus

    امنیت. کارایی. حریم خصوصی. همه در یک برنامه با کاربری آسان کسپرسکی پلاس با ارائه امنیت سایبری نسل بعد، شما در برابر ویروس‌ها، باج‌افزارها و بدافزارهای جدید محافظت کند - بدون ...

    12,777,000 ریال25,554,000 ریال
    خرید
  • Kaspersky Premium

    حفاظت کامل از دستگاه ها، حریم خصوصی و هویت شما با محصول Kaspersky Premium تمام نیازهای امنیتی خود و خانواده‌تان را پوشش دهید. حفاظت پیشرفته ...

    13,668,000 ریال27,336,000 ریال
    خرید

نظر خودتان را ارسال کنید


کاربر گرامی چنانچه تمایل دارید، نقد یا نظر شما به نام خودتان در سایت ثبت شود، لطفاً وارد سایت شوید.
*نظر
کلیه حقوق مادی و معنوی این سایت محفوظ و متعلق به شرکت گسترش خدمات تجارت الکترونیک ایرانیان است و هر گونه کپی برداری از آن پیگرد قانونی دارد