شورش روبات ها از فیلمهای علمی تخیلی تا حقیقت پیش رو
به گزارش لینک بگیر، گسترش سیستم های خودکار هوش مصنوعی در زیرساخت های حیاتی سبب شده سناریوهایی که روزگاری تنها در فیلم های علمی تخیلی دیده می شدند، حالا به عنوان مسایل واقعی عالم سیاستگذاری مطرح شوند.
به گزارش لینک بگیر به نقل از مهر؛ رشد شتابان هوش مصنوعی و گسترش سیستم های خودکار در زیرساخت های حیاتی سبب شده سناریوهایی که روزگاری تنها در فیلم های علمی تخیلی دیده می شدند، حالا به عنوان مسایل واقعی عالم سیاستگذاری مطرح شوند. آن چه زمانی صرفا یک تصویر آینده نگرانه به نظر می رسید، امروز به یک چالش حکمرانی برای دولت ها، نهادهای امنیتی و بنگاه های اقتصادی تبدیل گشته است. در حقیقت، هرچه وابستگی جوامع به سیستم های هوشمند بیشتر می شود، مرکز ثقل لطمه پذیری ملی نیز از زیرساخت های سنتی به زیرساخت های دیجیتال و خودکار منتقل می گردد. این یعنی اختلال در یک سامانه هوشمند در ظاهر کوچک، مانند نرم افزار کنترل یک پهپاد انبارداری یا دستگاه حمل و نقل عمومی، می تواند بصورت زنجیره وار به بحران های گسترده تری در مقیاس شهری یا حتی ملی منجر شود. گزارش اخیر اندیشکده رند تحت عنوان «شورش روبات ها: ارزیابی راهبردی دستاوردهای یک حمله سایبری مبتنی بر عوامل هوشمند خودمختار» به دقت نشان میدهد که اگر روزی هوش مصنوعی یا مجموعه ای از عامل های هوشمند بصورت مستقل اقدام به ایجاد اختلال در زیرساخت ها کند، چه پیامدهایی برای اقتصاد، امنیت ملی و ثبات اجتماعی کشورها خواهد داشت. این گزارش اخطار می دهد که مساله تنها اهداف حمله نیست؛ بلکه حتی رفتارهای غیرقابل پیش بینی یا تکثیر خودبه خودی عامل های هوشمند می تواند در لحظه، ساختار خدمات حیاتی مانند حمل و نقل، انرژی، پزشکی و خدمات شهری را مختل کند. نویسندگان این گزارش با اجرای مجموعه ای از شبیه سازی های مبتنی بر یک سناریوی فرضی، تلاش نموده اند بفهمند دولت ها در رویارویی با یک حادثه واقعی چه تصمیم هایی خواهند گرفت. این شبیه سازی ها بگونه ای طراحی شده اند که شرایطی کاملا شبیه حقیقت را بازنمایی کنند؛ جایی که تصمیم گیرندگان باید بدون فرصت مطالعه طولانی و در وضعیت فشار روانی و اطلاعات ناقص، در رابطه با امنیت ملی تصمیم گیری کنند. در سناریوی بررسی شده، بحران با اختلال گسترده در خودرو های خودران، پهپادها، خطوط تولید هوشمند و سیستم های کنترل برق و آب شروع می شود و به سرعت ابعاد جهانی پیدا می کند؛ برای اینکه خیلی از این سامانه ها نه تنها در هم پیوسته اند، بلکه بر بستر شبکه های مشترک جهانی عمل می کنند.
وقتی مرز میان کنترل و خودمختاری محو می شود
در سالیان اخیر سیستم های هوشمند از خودرو های خودران و انبارهای رباتیک گرفته تا تحلیل های پزشکی، پایش ترافیک، لجستیک زنجیره تامین و مدیریت نیروگاه ها، جای خویش را به سرعت در زندگی روزمره باز کرده اند. این سامانه ها به سبب سرعت، دقت و کاهش هزینه ها، به عنوان ارکان جدید زیرساخت جهانی پذیرفته شده اند. اما همین وابستگی گسترده یک نقطه لطمه اساسی را نیز آشکار می کند. بر همین مبنا هرچه زندگی و اقتصاد بیشتر به الگوریتم ها و شبکه های متصل تکیه کند، احتمال بروز اختلالات گسترده نیز افزایش خواهد یافت. پرسش کلیدی اینجاست که اگر یکی از این سیستم ها حتی نه بصورت آگاهانه، بلکه بصورت خطای شبکه ای یا الگوریتمی از مسیر کنترل بیرون برود، چه اتفاقی رخ خواهد داد؟ گزارش رند نشان میدهد که حتی بدون ظهور یک ابر هوش مصنوعی قدرتمند، مجموعه ای از عامل های هوشمند با سطح متوسط که در سیستم های شهری و صنعتی حضور دارند، می توانند در صورت بروز اختلال، پیامدهایی در سطح بحران های ملی ایجاد کنند. در چنین شرایطی، احتیاجی به نیت خصمانه یا آگاهی نیست؛ تنها کافی است الگوریتم ها بصورت خودکار از یکدیگر یاد بگیرند، یک رفتار خطا را تکثیر و بصورت شبکه ای در هزاران دستگاه و سرویس تکرار کنند. در چنین حالتی، یک خطای کوچک می تواند به سرعت به اختلال در حمل و نقل، انرژی، بیمارستان ها و خدمات عمومی گسترش یابد؛ برای اینکه معماری امنیتی موجود برای چنین سطحی از خودمختاری طراحی نشده است.
مرور سناریو: شروع بحران از یک حمله نامشخص
در شبیه سازی صورت گرفته، بحران از یک حمله سایبری گسترده شروع می شود؛ حمله ای که در ابتدا همچون یک اختلال فنی غیرمنتظره به نظر می آید اما به سرعت ابعاد انسانی و زیرساختی پیدا می کند. در لس آنجلس، خودرو های خودران بدون فرمان انسانی از مسیر خارج می شوند و این حادثه به جان باختن ۲۶ نفر منجر می شود. هم زمان، پهپادهای تجاری و صنعتی که نقش برجسته ی در حمل و نقل و نظارت شهری دارند رفتاری غیرقابل پیش بینی از خود نشان می دهند؛ گویی منبع فرمان دهی آنها گرفتار تغییر شده است. در چند ایالت آمریکا، شبکه های آب و برق با اختلال های ناگهانی مواجه می شوند؛ خاموشی های پراکنده، بی نظمی در توزیع انرژی و کاهش دسترسی به آب شهری، فشار روانی گسترده ای را بر جامعه وارد میکند. به مرور مشخص می شود که این اتفاقات محدود به یک کشور نیست و سیستم های مشابه در کشورهای دیگر نیز گرفتار مشکل شده اند و این مورد نشان میدهد بحران ماهیتی جهانی دارد. در این مرحله، بزرگ ترین ابهام تصمیم گیرندگان این است که منشأ حمله کجاست؟ آیا این شرایط نتیجه اقدام یک دولت رقیب طرف است؟ یا گروهی تروریستی با توانایی های پیشرفته سایبری چنین وضعیتی را رقم زده است؟ یا شاید یک نقص فنی گسترده و سیستماتیک در شبکه های هوشمند منجر به اختلال مذکور شده است؟ این تردید تصمیم گیری را سخت و احتمال واکنش اشتباه را زیاد می کند. اما در ادامه و در مرحله دوم سناریو، مشخص می شود که منشأ این حملات و اختلال ها نه یک دولت یا گروه انسانی، بلکه شبکه ای از عامل های هوش مصنوعی خودمختار است که از چرخه کنترل خارج شده اند و بصورت مستقل در زیرساخت ها نفوذ و عمل می کنند.
چالش اصلی: مشکل انتساب مسئولیت حمله
مهم ترین مساله سیاست گذاران در این سناریو، لحظه ای است که باید تصمیم بگیرند با چه نوع تهدیدی مواجهند. قبل از هر واکنش نظامی، اعلام موضع سیاسی یا اجرای عملیات سایبری، لازم است منبع حمله با دقت و اطمینان مشخص شود. برای اینکه هر سناریو، پیامدها و راهبردهای کاملا متفاوتی را به دنبال دارد و اشتباه در تشخیص، می تواند بحران را نه تنها حل نکند بلکه آنرا وارد مرحله ای خطرناک تر نماید. اگر شواهد نشان دهد که یک دولت خارجی این حمله را هدایت کرده است، ماجرا در سطح تقابل بین المللی قرار می گیرد؛ جایی که بازدارندگی، تهدید متقابل یا حتی بسیج توان دفاعی و دیپلماسی بحران فعال می شود؛ اما اگر مشخص شود که یک گروه تروریستی یا شبکه جنایی عامل ماجرا است، اولویت سیاستگذاری به سوی همکاری امنیتی و اطلاعاتی منطقه ای و جهانی می رود؛ جایی که تبادل داده، عملیات مشترک و مهار شبکه تامین مالی و لجستیکی گروه مهاجم اهمیت پیدا می کند. با پذیرش فرض سوم و در صورتیکه حمله ازطریق یک عامل هوشمند خودمختار انجام شده باشد، ماهیت بحران به کلی تغییر می کند. در این حالت دشمن، انسان یا یک سازمان دارای ساختار و منافع معلوم نیست. این یعنی نمی توان با تهدید، تحریم، مذاکره یا عملیات نظامی به مواجهه با بحران رفت. بلکه لازم است تمرکز بر مهار دیجیتال عامل های هوشمند، شامل شناسایی شبکه نفوذ شده، قطع دسترسی سیستم های آلوده، بازگردانی کنترل به انسان و بازطراحی لایه های امنیتی زیرساخت معطوف شود. این وضعیت مستلزم هماهنگی فوری میان دولت، لابراتوار های هوش مصنوعی، شرکت های عرضه کننده خدمات ابری و اپراتورهای زیرساختی است. بنابراین، بدون تعیین دقیق منشأ حمله، هر اقدام شتاب زده امنیتی نه تنها امکان دارد بی اثر باشد، بلکه می تواند به تشدید بحران، ایجاد سوء برداشت بین المللی یا حتی درگیری های پیش بینی نشده منجر شود.
زیرساخت ها بیش از اندازه به هم متصل و لطمه پذیر هستند
طبق یافته های اندیشکده رند، مساله اصلی تنها هوش مصنوعی پیشرفته نیست؛ بلکه زیرساخت های حیاتی ما آن قدر به شبکه های هوشمند متصل شده اند که یک اختلال واحد می تواند به سرعت در اقتصاد، خدمات عمومی و امنیت شهری گسترش یابد. بدین سبب کشورها باید بجای تکیه کامل بر زیرساخت های متصل و خودکار، لایه های موازی و مقاوم ایجاد کنند. به این معنا که در کنار سیستم های دیجیتال، نسخه های آفلاین و مستقل از شبکه نیز در دسترس باشد؛ نسخه هایی که در صورت بروز اختلال می توانند ادامه خدمات حیاتی را تضمین کنند. این نسخه های پشتیبان نباید صرفا آرشیوی باشند، بلکه باید بصورت دوره ای آزمایش شوند تا در لحظه بحران به سرعت قابلیت عملیاتی بیابند. در کنار این موضوع، طراحی سیستم های کنترلی با قابلیت قطع اضطراری فیزیکی اهمیت حیاتی دارد. یعنی اپراتور انسانی بتواند بدون وابستگی به شبکه، فرمان توقف، تغییر وضعیت یا ایزوله سازی را چه در نیروگاه و شبکه برق، چه در خودرو های خودران یا خطوط تولید صنعتی اجرا نماید. این بازگشت سریع به کنترل انسانی باید بخشی ساختاری از معماری امنیتی باشد. همچنین، باید به این مورد عنایت داشت که هیچ حکمرانی مؤثری در مقابل چنین بحران هایی بدون هم افزایی میان دولت و بخش خصوصی قابل تحقق نیست. برای اینکه بخش قابل توجهی از زیرساخت های هوشمند و پلت فرم ها در اختیار شرکتها قرار دارند. از همین روی، لازم است چارچوب های مشخصی برای تبادل داده، واکنش مشترک در وضعیت اضطراری، رویه های اطلاع رسانی سریع و سازوکار تصمیم گیری هماهنگ تعریف شود؛ سازوکاری که هم امنیت ملی را تأیید کند و هم مانع از ایجاد اختلال غیرضروری در اقتصاد و خدمات عمومی گردد.
آینده متعلق به هوش مصنوعی است، اما انسان باید فرمان دهد
این گزارش سناریوی «شورش روبات ها» را نه به عنوان یک تصویر علمی تخیلی، بلکه به عنوان هشداری عملی عرضه می کند؛ زنگ خطری در رابطه با واقعیتی که آرام و بصورت تدریجی درحال رخ دادن است. هرچه هوش مصنوعی بیشتر در بافت زیرساخت ها، خدمات عمومی و تصمیم گیری های روزمره نفوذ کند، مرز میان کنترل انسانی و خودکار بودن سیستم ها باریک تر و شکننده تر می شود. این گزارش به ما یادآوری می کند که خطر اصلی الزاماً از دشمنی یا شورش عامدانه ماشین ها ناشی نمی گردد، بلکه از لحظه ای است که سیستم ها دیگر دقیقا آن طور که طراحی شده اند، عمل نمی کنند. به بیان دیگر، مبحث این نیست که روبات ها بخواهند جای انسان را بگیرند یا مقابل او اقدامی آگاهانه انجام دهند؛ بلکه مساله این است که معماری پیچیده و به هم پیوسته زیرساخت های هوشمند امکان دارد در وضعیت غیرمنتظره، رفتاری فراتر از مدل سازی و نظارت انسانی بروز دهد. وقتی الگوریتم ها بصورت شبکه ای یاد می گیرند و تکامل می یابند، پیش بینی پذیری آنها به همان اندازه کاهش پیدا می کند.
خلاصه اینکه آیا این شرایط نتیجه اقدام یک دولت رقیب طرف است؟ اگر شواهد نشان دهد که یک دولت خارجی این حمله را هدایت کرده است، ماجرا در سطح تقابل بین المللی قرار می گیرد؛ جایی که بازدارندگی، تهدید متقابل یا حتی بسیج توان دفاعی و دیپلماسی بحران فعال می شود؛ اما اگر مشخص شود که یک گروه تروریستی یا شبکه جنایی عامل ماجرا است، اولویت سیاست گذاری به طرف همکاری امنیتی و اطلاعاتی منطقه ای و جهانی می رود؛ جایی که تبادل داده، عملیات مشترک و مهار شبکه تامین مالی و لجستیکی گروه مهاجم اهمیت پیدا می کند. در این حالت دشمن، انسان یا یک سازمان دارای ساختار و منافع مشخص نیست.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب