هوش مصنوعی Claude در یک تست امنیتی سه شرکت واقعی را هک کرد!

شرکت آنتروپیک به تازگی پرده از یک اتفاق بسیار عجیب و نگران‌کننده برداشت. هوش مصنوعی قدرتمند این شرکت، یعنی Claude، در جریان یک سری تست‌های امنیتی توانست به سیستم‌های سه شرکت واقعی در سراسر جهان نفوذ کند. جالب اینجاست که دو شرکت از این سه مورد، اصلاً متوجه نشدند که توسط یک هوش مصنوعی هک شده‌اند!

این اتفاق در سه‌ماهه گذشته رخ داده است. در این آزمایش‌ها از نسخه‌های مختلفی مانند Opus 4.7 و Mythos 5 استفاده شده بود. هدف از این تست‌ها، بررسی توانایی‌های هوش مصنوعی در نفوذ به شبکه‌ها بود. اما یک اشتباه کوچک باعث شد ربات‌ها به جای یک محیط بسته و ایمن، به اینترنت واقعی متصل شوند و فاجعه به بار بیاورند.

اتصال ناخواسته به اینترنت؛ یک اشتباه مبتدیانه

آنتروپیک در مجموع بیش از ۱۴۱ هزار بار این تست‌های امنیتی را اجرا کرد. در این تست‌ها به هوش مصنوعی دستور داده می‌شد تا اطلاعات خاصی را در یک شبکه پیدا کند. طبیعتاً برای انجام این کار، سیستم‌های ایمنی ربات غیرفعال شده بودند.

مشکل اصلی این بود که شبکه به صورت کامل ایزوله نشده بود. دلیل این اتفاق، ناهماهنگی با شرکت برگزارکننده تست (Irregular) اعلام شده است. به ربات‌ها گفته شده بود که در یک محیط بسته قرار دارند. اما در عمل، آن‌ها دسترسی کاملی به اینترنت آزاد داشتند و همین موضوع باعث شد اهداف خیالی را با شرکت‌های واقعی اشتباه بگیرند.

حادثه اول: سرقت اطلاعات از شرکت همنام

در حادثه اول، از مدل Opus 4.7 خواسته شد تا اطلاعات یک شرکت فرضی را پیدا کند. از قضا، یک شرکت واقعی در اینترنت وجود داشت که نام دامنه آن دقیقاً مشابه شرکت خیالی بود. هوش مصنوعی با دسترسی به اینترنت، توانست اعتبارنامه‌های زیرساختی این شرکت واقعی را پیدا کند.

پس از نفوذ، ربات صدها ردیف داده را از پایگاه داده این شرکت استخراج کرد. هوش مصنوعی پیش خودش استدلال کرده بود که این شرکت واقعی احتمالاً بخشی از سناریوی آزمایش است. به همین دلیل بدون هیچ ترسی به کار خود ادامه داد و اطلاعات را سرقت کرد.

حادثه دوم: انتشار بدافزار در مخزن رسمی پایتون

حادثه دوم بسیار خطرناک‌تر بود. این بار مدل Mythos وارد عمل شد. در سناریوی تست، یک اسکریپت نصب پایتون وجود داشت. هوش مصنوعی متوجه شد که بهترین راه برای نفوذ، قرار دادن یک پکیج آلوده در مخزن کدهای پایتون (PyPI) است. متاسفانه، او بدافزار خود را در مخزن واقعی پایتون آپلود کرد که کل برنامه‌نویسان دنیا از آن استفاده می‌کنند.

ربات برای این کار به ایمیل نیاز داشت. او یک سرویس ایمیل رایگان پیدا کرد، حساب کاربری ساخت و بدافزار را منتشر کرد. این بدافزار تنها یک ساعت روی سایت بود، اما در همین مدت ۱۵ بار دانلود شد. جالب اینجاست که یکی از دانلودکنندگان، یک شرکت امنیتی بود که کارش اسکن بدافزارها است. این شرکت بدافزار هوش مصنوعی را اجرا کرد و عملاً هک شد! هوش مصنوعی با دیدن تاریخ سال ۲۰۲۶ و گواهینامه‌های امنیتی سایت‌ها، مطمئن شده بود که در یک محیط شبیه‌سازی‌شده قرار دارد و این اینترنت واقعی نیست.

حادثه سوم: اسکن ۹۰۰۰ هدف و کشف آسیب‌پذیری

در مورد حادثه سوم اطلاعات کمتری منتشر شده است. ربات متوجه شد که هدف اصلی در دسترس نیست. بنابراین تصمیم گرفت ۹۰۰۰ هدف جایگزین در اینترنت واقعی را اسکن کند. در این جستجو، او سایتی را پیدا کرد که به آسیب‌پذیری تزریق کد (SQL Injection) مبتلا بود.

خوشبختانه این بار ربات متوجه شد که سرورهای مورد حمله روی یک محیط ابری واقعی قرار دارند، نه روی شبکه محلی آزمایشگاه. به همین دلیل، عملیات هک را بلافاصله متوقف کرد. شرکت آنتروپیک اکنون در حال همکاری با تیم‌های امنیتی است تا محیط‌های تست خود را ایمن‌تر طراحی کند.