هوش مصنوعی گوگل در جریان آزمایش، به سامانه‌های سه شرکت نفوذ کرد

اکسیوس نوشت: مدل هوش مصنوعی Gemini گوگل در جریان آزمایش‌های انجام‌شده در اوایل سال جاری، با استفاده از روش‌های نسبتاً ابتدایی هک توانست به سامانه‌های سه شرکت نفوذ کند. به گزارش «انتخاب»؛ در ادامه این مطلب آمده است: چرا مهم است: گوگل یکی از معدود آزمایشگاه‌های هوش مصنوعی بود که تا آن زمان به‌طور عمومی وقوع نفوذ امنیتی توسط عامل‌های هوش مصنوعی خود را در جریان آزمایش‌های معمول پیش از عرضه اعلام نکرده بود. خبر مهم: گوگل روز جمعه وقوع این سه حادثه را که در ماه مه رخ داده‌اند، تأیید کرد. این حوادث بخشی از یک آزمایش بودند که توسط شرکت ارزیابی شخص ثالث Irregular اجرا می‌شد؛ این اتفاق مشابه موارد دیگری است که در آنها مدل‌های هوش مصنوعی OpenAI، Anthropic و Meta نیز در جریان آزمایش‌های امنیتی مرتکب نفوذ شده بودند. وال‌استریت ژورنال نخستین رسانه‌ای بود که این حوادث را گزارش کرد. آنها چه می‌گویند: «توسعه ایمن مدل‌های قدرتمند هوش مصنوعی اهمیت حیاتی دارد و ما در این زمینه سرمایه‌گذاری گسترده‌ای انجام می‌دهیم.» این را هدر ادکینز، معاون مهندسی امنیت گوگل، در بیانیه‌ای گفت. ادکینز افزود که تیم او با نهادهای آسیب‌دیده تماس گرفته و «با شریک آموزشی خود برای اعمال تغییراتی که اکنون در فرایندهای آزمایشی آنها ایجاد شده است، همکاری کرده است.» سخنگوی Irregular نیز در گفت‌وگو با Axios تأیید کرد که حادثه مربوط به Gemini شامل همان آسیب‌پذیری‌های امنیتی‌ای بوده که به حوادث مشابه در مدل‌های سایر آزمایشگاه‌های هوش مصنوعی منجر شده است. این سخنگو همچنین در بیانیه‌ای گفت که «تمام آزمایشگاه‌های مرتبط در اواخر ژوئیه در جریان قرار گرفتند» و «تمام مشکلات شناخته‌شده از طرف ما، هفته‌ها پیش برطرف و رفع شده‌اند.» جزئیات بیشتر: این نفوذها زمانی رخ داد که Gemini در حال انجام یک تمرین هک موسوم به Capture the Flag (CTF) بود؛ در این تمرین، از مدل خواسته شده بود اطلاعاتی را از نرم‌افزاری که متعلق به یک شرکت فرضی در محیط آزمایشی بود، استخراج کند؛ طبق گزارش وال‌استریت ژورنال. با این حال، نام شرکت فرضی با نام یک شرکت واقعی یکسان بود. در یکی از موارد، مدل با حدس زدن رمزهای عبور یک سامانه محافظت‌شده، سرانجام توانست به آن دسترسی پیدا کند. در دو مورد دیگر، مدل اطلاعات ورود و اعتبارنامه‌ها را در یک مخزن عمومی پیدا کرد و از آنها برای دسترسی به سامانه‌های محافظت‌شده دیگر استفاده کرد. با این حال: مدل گوگل به محض اینکه متوجه شد به شرکت‌های واقعی دسترسی پیدا کرده است، اقدامات خود را متوقف کرد. نکته قابل توجه: Irregular به وال‌استریت ژورنال گفته است که مدل اساساً نباید امکان دسترسی به اینترنت را می‌داشت، اما دسترسی به اینترنت به‌طور ناخواسته در دسترس آن قرار گرفته بود. پس از آنکه OpenAI و Anthropic نیز در تابستان امسال موارد دیگری را افشا کردند، یک منبع آگاه به موضوع به Axios گفت که آزمایشگاه‌های هوش مصنوعی و Irregular درباره جزئیات دقیق فرایندهای آزمایشی و تدابیر حفاظتی کاملاً با یکدیگر هماهنگ نبودند. همین مسئله باعث ایجاد ابهام درباره این شد که هر یک از طرفین انتظار داشتند ارزیابی‌هایی که معمولاً با دسترسی به اینترنت انجام می‌شوند، تحت چه شرایط و محدودیت‌هایی اجرا شوند.