وقتی محصول هوشمند خارجی تبدیل به منبع اطلاعاتی برای دشمن می‌شود

مسعود رجایی رئیس هیئت مدیره انجمن افتا درباره ضرورت‌های ارتقای امنیت داده‌ها با توجه به گسترش استفاده از هوش مصنوعی به خبرنگار مهر^[2] گفت: دو مطلب در رابطه با امنیت داده‌ها در فضای هوش مصنوعی وجود دارد. از لحاظ کاربردی، خوب است بدانیم که هوش مصنوعی در بزرگ‌ترین پروژه‌های دنیا کاربردهای متنوعی دارد و در شکار و شناسایی تهدیدها نقش مهمی ایفا می‌کند. در سطح جهانی این کاربردها به‌صورت مؤثر در شناسایی تهدیدات و تشخیص آسیب‌پذیری‌ها و حملات استفاده شده و در برخی محصولات ما نیز وارد شده است. این سامانه‌ها می‌توانند حملات را تشخیص دهند و با آن مقابله کنند.

وی تصریح کرد: اما نکته‌ای که مطرح شد آن است که استفاده مردم از مدل‌های آماده خارجی می‌تواند خطرناک باشد. اگر از یک سیستم هوش مصنوعی آمریکایی، فرانسوی یا چینی سوال کنیم و از آن پاسخ بخواهیم، این استفاده می‌تواند به‌جای کمک، خود تهدیدی برای امنیت باشد. پاسخ‌های این سیستم‌ها می‌تواند هدفمند باشد و در برخی مسائل امنیتی ما، استفاده از آن‌ها خطرزا است. این وضعیت شبیه این است که از تجهیزات غنیمتی دشمن به‌گونه‌ای استفاده کنیم که ناخواسته اطلاعات و مزایا را به دشمن بازگردانیم.

رجایی افزود: به‌عبارت دیگر، نمی‌توان از یک محصول خارجی به‌عنوان دیده بان استفاده کرد؛ نصب یک محصول هوشمند خارجی در سازمانی که در داخل کشور مستقر است و انتظار داشته باشیم هرگاه آمریکا یا اسرائیل حمله کردند، آن محصول هشدار دهد، انتظار بیهوده‌ای است. این کم‌هوشی است که چنین انتظاری از محصول هوشمند خارجی داشته باشیم. بخش دیگر مسأله این است که باید خودمان دانش ایجاد کنیم و تفکری که در داخل وجود دارد را به محصول تبدیل کنیم؛ این کار دقت محصول را افزایش می‌دهد.

رئیس هیئت مدیره انجمن افتا بیان کرد: در شرایط بحران کنونی و بحران نیروی انسانی متخصص در حوزه سایبری، هوش مصنوعی می‌تواند کمک کند تا نیاز ما به نیروی انسانی کاهش یابد و هزینه‌های امنیت کمتر شود، زیرا نیروی انسانی متخصص گران و نادر است. اگر هوش به‌درستی طراحی شود می‌تواند این نیازمندی‌ها را رفع کند. اما اگر ما بدون طراحی و بومی‌سازی، هوش آماده خارجی را به‌کار بگیریم، این می‌تواند آسیب‌پذیری ما را بیشتر کند. استفاده از هوش آماده خارجی مثل گذاشتن نیروی انسانی خارجی در جایی است که باید از آن مراقبت شود؛ اگر عامل هوش خارجی عامل دشمن باشد می‌تواند اهداف آن را در مجموعه پیاده کند و به همان خطرات انسانی منجر شود.

رجایی در پایان تاکید کرد: در نتیجه، استفاده از هوش مصنوعی در امنیت می‌تواند هم فرصت باشد و هم تهدید؛ فرصت در توانایی شناسایی و مقابله با حملات و کاهش وابستگی به نیروی انسانی، و تهدید در جهت‌دار بودن مدل‌ها، نشت داده‌ها و استفاده از محصولات خارجی بدون کنترل و بومی‌سازی. رعایت حفاظت داده‌های داخلی، تقویت استقلال دیجیتال، ارتقای توان بومی طراحی و توسعه مدل‌ها و ایجاد چارچوب‌های قانونی و سازمانی مناسب از جمله راهکارهای ضروری است تا از هوش مصنوعی به‌عنوان ابزار تقویت‌کننده امنیت و نه به‌عنوان راهی برای افزایش آسیب‌پذیری استفاده کنیم.