هوش مصنوعی نحوه ساخت سلاح‌های مرگبار را آموزش می‌دهد

به گزارش خبرآنلاین، به نقل از زومیت، کاربران در ماه‌های گذشته از ChatGPT درباره‌ی روش‌های تبدیل عوامل بیماری‌زا به غبار قابل تنفس و تغییر ویروس سرخک برای مقاوم‌سازی آن در برابر واکسن سؤال کرده‌اند و این چت‌بات پاسخ‌های لازم را ارائه داده است.

در موردی دیگر، کاربری راهنمای ساخت سم بسیار خطرناک رایسین را دریافت کرده و از تصمیم خود برای آسیب به خانواده‌اش سخن گفته است؛ با این حال، توسعه‌دهندگان پس از مسدودسازی حساب‌های کاربری متخلف، موضوع را به نهادهای قانونی گزارش نکرده‌اند.

حمزه چودری، مدیر سیاست امنیت ملی در مؤسسه‌ی آینده‌ی زندگی، گفت: «هوش مصنوعی در سال‌های آینده می‌تواند به عنوان یک مشاور ارشد در زمینه‌ی سلاح‌های زیستی برای سازمان‌های تروریستی عمل کند، مشکلات پروتکل‌های آزمایشگاهی ناموفق را حل کند و جایگزین سال‌ها آموزش تخصصی شود.»

بررسی‌ها نشان می‌دهد دور زدن لایه‌های امنیتی چت‌بات‌های معروفی مانند کلاد متعلق به آنتروپیک، جمنای گوگل و گراک متعلق به اسپیس‌ایکس‌ای‌آی به راحتی امکان‌پذیر است. ایمی چانگ، مدیر تحقیقات امنیت و تهدیدات هوش مصنوعی در سیسکو، گفت: «هیچ مدلی به طور صددرصد در برابر نفوذ ایمن نیست، به ویژه اگر کاربر به اندازه‌ی کافی اصرار داشته باشد.»

محدودیت‌های سخت‌گیرانه نیز چالش‌های خاص خود را به همراه دارند؛ به عنوان مثال، ممنوعیت استفاده از واژه‌ی پاتوژن در کلاد باعث شد کارکنان مرکز کنترل و پیشگیری از بیماری‌های آمریکا در جریان شیوع هانتاویروس در یک کشتی تفریحی نتوانند از این ابزار برای ردیابی بیماری استفاده کنند.

۵۸۵۸