روابط عمومی شرکت ایدکو (توزیع‌کننده‌ی محصولات کسپرسکی در ایران)؛ خیلی پیش آمده که در فیلم‌ها کاراکتر اصلی به اشتباه فکر می‌کند کسی وسط جاده پریده؛ بعد فرمان را ناگهان به سمت دیگری گرفته و ماشینش در گودال یا دره‌ای می‌افتد. حال تصور کنید این فیلم نباشد و در واقعیت اتفاق بیافتد. این بار به جای کلک نور یا خیال، مجرمان سایبری تصاویری از فانتوم‌ها (موجوداتی شبح‌گونه) را در کسری از ثانیه –اصطلاحاً- پروجکت می‌کنند و خلبان خودکارها (اتوپایلوت‌ها) گمان می‌کنند آنها انسان‌های واقعی‌اند که سر راهشان سبز شده. در نتیجه طبق برنامه‌ای که بدان‌ها داده شده به آن فانتوم‌ها واکنش نشان می‌دهند و این می‌تواند پیامدهای بسیار منفی داشته باشد. در ادامه با ما همراه شوید تا مفصلاً به این مبحث بپردازیم.
محققین دانشگاه‌های Georgia Tech و Ben-Gurion در کنفرانس RSA 2021 چنین حمله فانتومی را به تصویر کشاندند و پیرامون آن سخنرانی کردند. ایده‌ی نمایش دادن تصاویر وحشتناک به سیستم هوش مصنوعی ایده‌ی جدیدی نیست. در این تکنیک‌ها از تصاویر دستکاری‌شده برای مجبور کردن هوش مصنوعی برای نتیجه‌گیری اشتباه و عجله‌ای استفاده می‌شود. همه الگوریتم‌های فناوری یادگیری ماشین این نقطه ضعف را دارند؛ آنها می‌دانند کدام ویژگی‌ها برای شناسایی تصویر کلیدی است. این یعنی کمی دانش در خصوص الگوریتم می‌تواند دستکاری عکس را ممکن سازد و اگر عکس دستکاری شود، پروسه تصمیم‌گیری ماشین به تعویق افتاده و یا حتی مجبور به نتیجه‌گیری غلط می‌شود. نوآوری‌ای که در رویکرد نمایش‌داده‌شده در این کنفرانس وجود دارد این است که اتوپایلوت مذکور نیازی ندارد از عملکرد الگوریتم هم خبری داشته باشد یا بداند از چه ویژگی‌هایی در آن استفاده شده است. فقط اینکه تصاویر به مدت خیلی کوتاه در جاده پروژکت شدند. مجرمان سایبری به طور مشابهی، طی چند ثانیه روی تبلیغات بیلبوردی کنار جاده هم تصاویری پروژکت کرده‌اند.
بنابراین، محققین دریافتند که مجرمان سایبری می‌توانند از فاصله‌ای امن نیز ویرانی‌های زیادی را موجب شوند بدون اینکه حتی ذره‌ای از آثار جرمشان برای ردیابی باقی بماند. فقط کافیست بدانند چه مدت زمانی را باید به پروژکت کردن تصویر برای فریب دادن هوش مصنوعی اخصاص دهند (اتومبیل‌های خودران برای کاهش احتمال تولید مثبت‌های کاذب –برای مثال از یک کثیفی یا لکه روی لنزهای دوربین یا لیدار[1]- آستانه‌ی هدف برایشان تعیین و تحدید می‌شود).
اکنون فاصله‌ی ترمز اتومبیل در ده‌ها فوت اندازه‌گیری می‌شود؛ بنابراین افزودن چند فوت برای ارزیابی بهتر موقعیت برای توسعه‌دهندگان هوش‌مصنوعی کار بزرگی هم نبوده است.
اما با این حال، همین چندین متر روی سیستم دید مصنوعی موبایل‌آی در سرعت 60 کیلومتر بر ساعت (حدود 37 مایل در ساعت) پیاده‌سازی شد. در این سناریو زمان واکنش‌دهی حدود 125 میلی‌ثانیه است. آستانه واکنش اتوپایلوت –همانطور که محققین از روی تجربه تعیین کرده بودند- حدود سه برابر بود (در 400 میلی‌ثانیه). در همان سرعت حدود 7 متر بدان اضافه شد (حدود 22 فوت). در هر دو سناریو هنوز هم کسری از ثانیه وجود دارد. در نتیجه، محققین به این باور رسیده‌اند که چنین حمله‌ای می‌توانند بسیار آنی رخ دهد- پیش از آنکه از آن باخبر شوید یا ماجرا به افتادن در گودال ختم می‌شود یا هم که پهپادی که عکس را پروژکت کرده از بین خواهد رفت. امید است اتوپایلوت‌ها در نهایت بتوانند این نوع حمله را نیز متوقف سازند: تصاویر نامناسب پروژکت‌شده روی سطوح که از واقعیت به دورند. اعوجاج در چشم‌اندازها، لبه‌های نامساوی، رنگ‌های غیرطبیعی، کنتراست بالا و سایر موارد عجیب و غریب باعث می‌شود چشم انسان خیلی راحت فرق آنها را با اجسام واقعی تشخیص دهد. در نتیجه، آسیب‌پذیری اتوپایلوت‌ها در برابر حملات فانتوم حاصل درک پایین هوش مصنوعی نسبت به مغز انسان است. برای فایق آمدن بر این مشکل، محققین این پژوهش پیشنهاد داده‌اند در سیستم‌های خلبان خودکار چک‌های اضافی بگنجانند؛ بررسی‌هایی برای میزان پایداری قابلیت‌هایی چون چشم‌انداز، روانی لبه‌ها، رنگ، کنتراست و روشنی و نیز تضمین سازگاری نتایج پیش از گرفتن هر تصمیمی. درست مانند هیئت منصفه‌ی انسانی، شبکه‌های مغزی نیزبا طومأنینه پارامترهایی را که به تشخیص فرق دوربین واقعی یا سیگنال‌های لیدار با فانتومی در حال فرار کمک کی‌کنند مورد تحلیل قرار می‌دهند. این کار البته که لود رایانشی سیستم‌ها را اضافه می‌کند و به طور مؤثری به عملکرد موازی چندین شبکه مغزی در آن واحد منجر می‌شود؛ همه اینها به طور الزامی آموزش دیده‌اند (فرآیندی طولانی و انرژی‌بر). و خودروها -که از همین الان نیز خوشه رایانه‌هایی پیاده‌سازی‌شده روی چرخ‌ها هستند- می‌بایست در آینده به خوشه ابرکامپیوترهایی روی فرمان‌ها تبدیل شوند. با شیوع کارکرد تسریع‌گرهای هوش مصنوعی، خودروها ممکن است قادر به حمل شبکه‌های مغزی شوند؛ شبکه‌هایی که به موازات هم کار کرده و برق زیادی مصرف نمی‌کنند. اما این مبحثی مفصل است که در این مقال نمی‌گنجد.
[1]یکی از فناوری‌های سنجش از راه دور است که با تاباندن لیزر به هدف و تجزیه و تحلیل نور بازتاب‌شده، فاصله را اندازه می‌گیرد.
منبع: کسپرسکی آنلاین (ایدکو)
کسپرسکی اسم یکی از بزرگترین شرکتهای امنیتی و سازنده آنتی ویروس است که برخی از کاربران اشتباهاً این شرکت و محصولات آنتی ویروس آن را با عناوینی نظیر کسپرسکای،کاسپرسکی، کسپراسکای، کسپراسکای، و یا کاسپراسکای نیز می‌شناسد. همچنین لازم به ذکر است مدیرعامل این شرکت نیز یوجین کسپرسکی نام دارد.
