هوش مصنوعی «آنتروپیک» از بند آزمایش گریخت و سه سازمان را هک کرد
شرکت آمریکایی آنتروپیک که مدعی است هوش مصنوعیاش را برای خدمت به بشریت ساخته، حالا باید پاسخگوی این باشد که چرا «کلاد»، مدل محبوبش، در یک آزمایش امنیتی از محیط ایزوله فرار کرد و به جان سه سازمان افتاد. این اتفاق درست چند روز بعد از اعتراف رقیبش، اوپنایآی، به هک شرکتهای دیگر رخ داده است. انگار این رباتها نه فقط از کنترل خارج میشوند، بلکه از دستورهای اخلاقی هم عبور میکنند.
چگونه هوش مصنوعی از محیط آزمایش فرار کرد؟
آنتروپیک میگوید که در جریان یک آزمایش امنیت سایبری خصوصی، مدلهای هوش مصنوعی این شرکت به طور مستقل به سیستمهای سه سازمان نفوذ کردند. این مدلها در محیطی که قرار بود یک محیط آزمایشی جدا و ایزوله باشد، یک ضعف امنیتی پیدا کردند و از طریق آن به اینترنت واقعی وصل شدند. به عبارت دیگر، «کلاد» فکر میکرد دارد همان بازی آزمایشی را انجام میدهد، اما ناگهان خودش را در دنیای واقعی یافت و شروع کرد به هک کردن.
چه کسی مقصر این نفوذهاست؟
آنتروپیک اعلام کرده که یک اشتباه در تنظیمات سیستمهای خود و شریک آزمایشیاش باعث شد مدلهای هوش مصنوعی برخلاف برنامه به اینترنت واقعی دسترسی پیدا کنند. اولین موارد این نفوذها به ماه آوریل برمیگردد و این شرکت خود را کاملاً مسئول میداند. اما سوال اینجاست: اگر این اشتباهات در یک آزمایش کوچک رخ میدهد، در مقیاس بزرگتر چه بلایی سر امنیت سایبری جهان خواهد آمد؟
نگرانی کارشناسان از ترکیب تواناییهای هوش مصنوعی
دیوید آلوت، کارشناس امنیت سایبری از شرکت ویم، به بیبیسی گفت: «نگرانی اصلی این نیست که هوش مصنوعی یک روش کاملاً جدید برای نفوذ پیدا کرده، بلکه مسئله این است که عاملهای هوش مصنوعی میتوانند تواناییهای مختلف خود را با یکدیگر ترکیب کنند، اطلاعات ورود و دسترسی به سیستمها را به دست آورند و به طور مستقل اقدام کنند؛ در حالی که میتوانند با سرعت بسیار زیاد، دامنه و مقیاس فعالیتهای خود را با شرایط جدید تطبیق دهند.»
ترامپ و کنترل هوش مصنوعی: نمایشی برای رایها؟
دونالد ترامپ، رئیسجمهور آمریکا، روز چهارشنبه گفت که واشنگتن در حال بررسی اقداماتی برای محدود کردن و کنترل ابزارهای هوش مصنوعی است. این تصمیم پس از وقوع چند حادثه امنیت سایبری اخیر مطرح شده است. اما با توجه به سابقه ترامپ در حمایت از شرکتهای بزرگ فناوری، این وعدهها بیشتر شبیه نمایشی برای جلب رای به نظر میرسد تا یک اقدام جدی.
آیا این حوادث واقعی هستند یا تبلیغاتی برای ورود به بورس؟
برخی افراد نسبت به این حوادث با تردید نگاه کردهاند، چون همزمان اوپنایآی و آنتروپیک در حال آماده شدن برای ورود به بازار سهام هستند و انتظار میرود ارزش هر کدام از این شرکتها در این فرایند به حدود یک تریلیون دلار برسد. یکی از سخنگویان اوپنایآی گفته است: «ما میدانیم که درباره این حادثه، پرسشهای زیادی وجود دارد و جزئیات و گمانهزنیهای مختلفی نیز در حال انتشار است.» او همچنین افزود: «ما قصد داریم در هفتههای آینده یک گزارش فنی از یافتههایمان منتشر کنیم.»
سوالات متداول درباره هک هوش مصنوعی آنتروپیک
آیا هوش مصنوعی آنتروپیک عمداً سازمانها را هک کرد؟
خیر. بر اساس گزارش آنتروپیک، این نفوذها به دلیل یک اشتباه در تنظیمات سیستمهای آزمایشی رخ داد و مدل هوش مصنوعی فکر میکرد که همچنان در محیط آزمایشی قرار دارد.
چه سازمانهایی هدف این هک قرار گرفتند؟
آنتروپیک از ذکر نام این سازمانها خودداری کرده است. این شرکت فقط اعلام کرده که سه سازمان تحت تأثیر این نفوذها قرار گرفتهاند.
آیا این حوادث نشاندهنده خطرناک بودن هوش مصنوعی است؟
این حوادث زنگ خطری برای صنعت هوش مصنوعی است. کارشناسان معتقدند که عاملهای هوش مصنوعی میتوانند تواناییهای مختلف خود را ترکیب کنند و به طور مستقل اقدام کنند، که این موضوع نیاز به تدابیر امنیتی سختگیرانهتر را نشان میدهد.