نفوذ هوش مصنوعی به سامانه‌های حفاظت از داده‌ها در اسپانیا

برای نخستین‌بار، نهاد ناظر حفاظت از داده‌های اسپانیا از دریافت گزارش یک نقض داده خبر داده که در آن یک عامل هوش مصنوعی نقش مستقیم داشته است. این نفوذ نشان‌دهنده ورود تکنولوژی‌های نوین به حوزه امنیت سایبری و چالش‌های آن است.

جزئیات نفوذ و عملکرد عامل هوش مصنوعی

سامانه‌ای که با دخالت محدود انسان توانسته آسیب‌پذیری را پیدا کند، وارد سیستم شده و به داده‌های شخصی دسترسی پیدا کرده است. آژانس حفاظت از داده‌های اسپانیا تأکید کرده که عامل هوش مصنوعی با استفاده از یک مدل زبانی بزرگ، پس از ورود به سامانه هدف به‌صورت خودکار به جست‌وجوی ضعف‌های نرم‌افزاری پرداخته و پس از شناسایی یک آسیب‌پذیری، اطلاعات شخصی را تغییر داده و سوابق مربوط به صورت‌حساب‌ها را مشاهده کرده است.

بیشتر بخوانید: سیلیکون‌ولی به کلیسای کاتولیک رو آورد

ابعاد خطر و تحلیل نهادهای امنیتی

این پرونده همچنان در دست بررسی است و جزئیات بیشتری درباره سازمان قربانی یا مدل مورد استفاده اعلام نشده است. اهمیت این پرونده فقط به وقوع یک نفوذ محدود نمی‌شود. آژانس اسپانیایی تأکید کرده که عامل هوش مصنوعی چندین مرحله از حمله را با «مداخله محدود انسانی» انجام داده است؛ موضوعی که نشان می‌دهد عامل‌های خودکار می‌توانند بخشی از فرایند حملات سایبری را از شناسایی هدف و آسیب‌پذیری تا دسترسی و تغییر داده‌ها بر عهده بگیرند.

مقام‌های اسپانیایی تأکید کرده‌اند که یک پرونده به‌تنهایی برای اثبات شکل‌گیری یک روند گسترده کافی نیست. همچنین استفاده از یک مدل زبانی مشخص به معنای هک شدن خود مدل یا زیرساخت ارائه‌دهنده آن نیست و آژانس اسپانیایی این فناوری را ذاتاً برای فعالیت مخرب طراحی‌شده نمی‌داند.

آژانس حفاظت از داده‌های اسپانیا می‌گوید هوش مصنوعی لزوماً تهدیدهای کاملاً جدیدی ایجاد نمی‌کند، اما می‌تواند سرعت، مقیاس و سازگاری روش‌های مخرب موجود را افزایش دهد و زمان در اختیار مدافعان برای شناسایی و مهار حمله را کاهش دهد. به همین دلیل، سازمان‌های پردازش‌کننده داده باید برای افزایش سرعت حملات آماده باشند.

این پرونده در شرایطی مطرح شده که نهادهای نظارتی و امنیت سایبری در آمریکا و اروپا توجه بیشتری به خطرات عامل‌های هوش مصنوعی نشان می‌دهند. تفاوت مهم این گزارش با بسیاری از هشدارهای قبلی آن است که موضوع دیگر صرفاً یک سناریوی آزمایشگاهی نیست و یک نهاد رسمی حفاظت از داده، وقوع یک حادثه واقعی با نقش عامل هوش مصنوعی را برای بررسی ثبت کرده است.

بیشتر بخوانید: فونت‌های جدید طراحی شده برای انسان‌ها، ربات‌های هوش مصنوعی را گیج می‌کند · نگرانی‌های جهانی درباره هوش مصنوعی و اسب تروای آن