روابط عمومی شرکت ایدکو (توزیع‌کننده‌ی محصولات کسپرسکی در ایران)؛ پیشرفت سریع سیستم‌های هوش مصنوعی و تلاش‌ها برای معرفی آنها در همه‌جا هم جای خوشحالی دارد و امیدوارکننده است و هم باعث نگرانی. هوش مصنوعی به انسان‌ها در حوزه‌های مختلف کمک می‌کند و در این میان حوزه امنیت سایبری از همه مقدم‌تر است. ما در کسپرسکی 20 سالی می‌شود از فناوری یادگیری ماشین استفاده می‌کنیم و این را می‌دانیم که بدون هوش مصنوعی محال است بشود در برابر صفوف عظیم تهدیدهای سایبری که آن بیرون وجود دارد قد علم کند. در این بازه زمانی بیست ساله همچنین طیف وسیعی شناسایی کردیم از مسائل مربوط به AI- از آموزش دادن به آن در مورد داده‌های ناصحیح تا حملات مخرب روی سیستم‌های هوش مصنوعی و استفاده از این فناوری برای مقاصد غیراخلاقی. پلت‌فرم‌های مختلف مباحثات بین‌المللی و سازمان‌ها از همین الان هم اصولی کلی را برای هوش مصنوعی اخلاقی پایه‌ریزی کرده‌اند اما راهکارهای جزئی‌تر برای صنعت امنیت سایبری هنوز به مشترک مورد پذیرش قرار نگرفته. برای به کاربردن هوش مصنوعی در حوزه امنیت سایبری بدون پیامدهای منفی پیشنهاد می‌کنیم این صنعت مجموعه اصول اخلاقی هوش مصنوعی را اتخاذ کند که اولین نسخه‌اش هم ما داریم در مجمع مدیریت اینترنت سازمان ملل در کیوتوی ژاپن معرفی می‌کنیم. این اصول باید مورد بحث قرار گرفته و در کل جامعه امنیت سایبری به طور گسترده شفاف‌سازی گردد؛ گرچه هنوز این اتفاق به طور کامل نیافتاده اما کسپرسکی دست کم به این اصول پایبند است. در ادامه با ما همراه شوید تا توضیح دهیم اصول اخلاقی هوش مصنوعی شامل چه مواردی می‌شوند.
شفافیت
کاربران حق دارند بدانند آیا ارائه‌دهنده امنیت از سیستم‌های هوش مصنوعی استفاده می‌کند یا نه؛ همینطور باید بدانند این سیستم‌ها چطور اقدام به تصمیم‌گیری می‌کنند و برای چه منظوری استفاده می‌شوند. برای همین است که به سیستم‌های هوش‌مصنوعی که در بالاترین حد ممکن قابل‌تفسیر هستند پایبندیم. باید هر نوع اقدامات محافظتی وجود داشته باشد تا نتایج معتبری تولید گردد. هر کسی می‌تواند با سر زدن به مراکز شفافیت کسپرسکی ما می‌تواند با کد و جریانات کاری ما آشنا شود.
امنیت
میان تهدیدهایی که سیستم‌های هوش مصنوعی با آنها مواجه هستند، تحریف مجموعه داده‌های ورودی برای تولید تصمیم‌های نادرست به چشم می‌خورد که بسیار اهمیت دارد. از این رو باورمان بر این است که توسعه‌دهندگان هوش مصنوعی باید انعطاف‌پذیری و امنیت را در اولویت قرار دهند. به همین منظور طیفی از اقدامات اجرایی را برای ارائه سیستم‌های با کیفیت بالای هوش مصنوعی اتخاذ کردیم: ممیزی‌های امنیت مختص هوش مصنوعی و تیم قرمز[1]، حداقل استفاده از مجموعه‌داده‌های طرف‌سوم در آموزش و نیز پیاده‌سازی مجموعه‌ای از فناوری‌ها برای محافظت چندلایه‌ای. تا جایی که امکان دارد نظرمان بر هوش مصنوعی کلود محور (با همه راهکارهای محافظتی لازمش) بر روی مدل‌های نصب‌شده به صورت لوکال است.
کنترل انسانی
گرچه سیستم‌های یادگیری ماشین ما می‌توانند مستقل عمل کنند اما نتایج و عملکردشان مدام توسط متخصصین تحت نظارت است. احکام سیستم‌های خودکار ما در صورت لزوم به‌خوبی تنظیم می‌شوند، و خود سیستم‌ها توسط متخصصان برای مقاومت در برابر تهدیدات سایبری کاملاً جدید و/یا بسیار پیچیده سازگار و اصلاح می‌شوند. ما ML را با تخصص انسانی ترکیب می‌کنیم و متعهد هستیم که این عنصر کنترل انسانی را برای همیشه در سیستم‌های خود حفظ نماییم.
حریم خصوصی
هوش مصنوعی بدون کلان داده نمی‌تواند آموزش ببیند- بخشی از این کلان‌داده می‌تواند شخصی باشد. از این رو رویکرد اخلاقی برای استفاده از هوش مصنوعی باید به حقوق افراد و حریم خصوصی‌شان احترام بگذارد. این در بخش اجرایی امنیت اطلاعات می‌تواند شامل برخی اقدامات زیر شود:
محدود کردن انواع و کمیت داده‌های پردازش شده؛ نام مستعار و ناشناس سازی; کاهش ترکیب داده‌ها؛ تضمین یکپارچگی داده‌ها؛ و اعمال تدابیر فنی و سازمانی برای حفاظت از داده‌ها.
توسعه‌داده‌شده برای امنیت سایبری
هوش مصنوعی در حوزه امنیت سایبری باید فقط برای مقاصد دفاعی استفاده شود. این بخش مهم مأموریت ما را برای ایجاد جهانی امن که در آن فناوری‌های فردا زیست ما را ارتقا می‌دهند شکل می‌دهد.
پذیرای دیالوگ
ما باور داریم تنها در کنار هم بودن می‌تواند کاری کند بر موانعی که سر کاربرد امن هوش مصنوعی قرار دارد پیروز شویم. به همین دلیل است که خواهانیم با همه ذی‌نفعان دیالوگی برقرار کنیم تا از پی این صحبت‌ها بشود بهترین اقدامات را در راستای استفاده اخلاقی از هوش مصنوعی به اشتراک گذاشت.
[1]گروهی متخصص امنیت سایبری در قالب رخنه‌گر با هماهنگی سازمان یا شرکت اقدام به طراحی و پیاده سازی نفوذ فیزیکی و دیجیتال به سامانه و زیرساخت‌های آن سازمان یا شرکت می‌کنند.
منبع: کسپرسکی آنلاین (ایدکو)
کسپرسکی اسم یکی از بزرگترین شرکتهای امنیتی و سازنده آنتی ویروس است که برخی از کاربران اشتباهاً این شرکت و محصولات آنتی ویروس آن را با عناوینی نظیر کسپرسکای،کاسپرسکی، کسپراسکای، کسپراسکای، و یا کاسپراسکای نیز می‌شناسد. همچنین لازم به ذکر است مدیرعامل این شرکت نیز یوجین کسپرسکی نام دارد.
