گوگل امنیت هوش مصنوعی را با جایزه ۳۰ هزار دلاری تقویت می‌کند

گوگل برنامه‌ای جدید با عنوان AI Vulnerability Reward Program راه‌اندازی کرده که در آن به محققان امنیتی و کاربران برای شناسایی نقص‌ها و آسیب‌پذیری‌های مرتبط با محصولات هوش مصنوعی خود، تا سقف ۳۰ هزار دلار پاداش پرداخت می‌کند.

به گزارش انگجت، در فهرست انواع باگ‌های موردنظر گوگل، نمونه‌هایی از اقدامات بالقوه خطرناک یا سوءاستفاده‌های هوش مصنوعی از جمله تزریق غیرمستقیم پرامپت که ممکن است دستیار هوشمند Google Home را وادار به باز کردن در کند، یا استخراج داده‌ها از ایمیل کاربران و ارسال خلاصه آن به حساب کاربری مهاجم دیده می‌شود.

براساس تعریف گوگل، باگ هوش مصنوعی شامل هرگونه سوءاستفاده از مدل‌های زبانی بزرگ یا سیستم‌های هوش مصنوعی مولد برای ایجاد آسیب یا بهره‌برداری از حفره‌های امنیتی است.

انتهای پیام/