هشدار ژنرال مک‌کریستال درباره خطر هوش مصنوعی در میدان جنگ
ژنرال سابق ارتش آمریکا که نیروهای ائتلافی در افغانستان را از سال ۲۰۰۹ تا ۲۰۱۰ میلادی رهبری کرده بود، تاکید کرد، ناچارا هوش مصنوعی برای اتخاذ تصمیمات مرگبار در میدان‌های جنگ به کار خواهد رفت، با این حال تسلیحات هوش مصنوعی خطرات هولناک سوء عملکرد بالقوه یا خطا را به همراه دارند.
به نقل از یاهو فایننس، ژنرال استنلی مک‌کریستال که نیروهای ائتلافی در افغانستان را از سال ۲۰۰۹ تا ۲۰۱۰ میلادی رهبری کرده بود و اکنون ریاست یک شرکت مشورتی موسوم به “گروه مک‌کریستال” را برعهده دارد، در مصاحبه‌ای جدید گفت: ناچارا هوش مصنوعی برای اتخاذ تصمیمات مرگبار در میدان‌های جنگ به کار خواهد رفت، با این حال تسلیحات هوش مصنوعی خطرات هولناک سوء عملکرد بالقوه یا خطا را به همراه دارند.
وی افزود: مردم می گویند “ما هرگز کنترل حملات مرگبار را به هوش مصنوعی نخواهیم داد”. این اشتباه است. ما قطعا این کار را خواهیم کرد. زیرا در یک نقطه خاص، نمی‌توانید به اندازه کافی سریع واکنش نشان دهید مگر آنکه کنترل حملات را به هوش مصنوعی بسپارید.
ژنرال مک‌کریستال که به تازگی کتابی تحت عنوان “خطر: راهنمای کاربر” را منتشر کرده، در ادامه گفت: تصور کنید یک موشک فوق سریع، یک موشک مافوق صوت به طرف ناو هواپیمابر آمریکا می‌آید، شما زمان ندارید که از افراد بخواهید این موشک را رهگیری کنند، شما زمان ندارید تا منتظر تصمیم‌گیری رهبران ارشد بمانید و شما قادر نخواهید بود تا این موشک را بگیرید.
ممنوعیت تسلیحات مستقل از سوی ۳۰ کشور جهان مورد حمایت قرار گرفته است، گرچه گزارش جامعی که به سفارش کنگره تهیه شده به آمریکا توصیه می کند که با این ممنوعیت مخالفت کند چرا که این ممنوعیت مانع آمریکا از استفاده از تسلیحاتی که اکنون در اختیار دارد، می‌شود.
در سال ۲۰۱۵ میلادی شرکت‌های برجسته در زمینه تکنولوژی از جمله شرکت تسلا به مدیریت ایلان ماسک و شرکت اپل که یکی از مالکان آن استیو وازنیک است و همچنین هزاران محقق در زمینه هوش مصنوعی نامه سرگشاده‌ای را امضا کرده و خواستار ممنوعیت چنین تسلیحاتی شدند.
جو بایدن، رئیس جمهوری آمریکا در نشست رهبران آمریکا و اتحادیه اروپا در فوریه خواستار همکاری بین‌المللی برای تعیین قوانین و قواعدی شد که پیشرفت تکنولوژی و اصول رفتار در فضای سایبری، هوش مصنوعی و بیوتکنولوژی را مشخص کند تا اینکه این تکنولوژی‌ها برای کمک به مردم و پیشرفت آنها و نه محدود کردنشان استفاده شوند.
ژنرال مک‌کریستال گفت: سرعت فزاینده روند جنگ، افسران ارتش آمریکا را ملزم می‌کند تا قدرت تصمیم‌گیری را به هوش مصنوعی بسپارند. اما این کار خطراتی نیز به همراه دارد.
وی افزود: شما تکنولوژی ایجاد کرده‌اید، روندهایی را برای اجرای آن در نظر می‌گیرید اما سپس برای همگام شدن با سرعت جنگ، اساسا آن را روشن کرده و به آن اعتماد می کنید. این خیلی هولناک است به ویژه اگر پتانسیل سوء عملکرد یا جعل یا هرگونه خطای دیگری وجود داشته باشد.
ژنرال مک کریستال در مصاحبه با یاهو فایننس به طور کلی نسبت به قدرتی که به سیستم‌های هوش مصنوعی داده می‌شود، آن هم هنگامی که سازمان‌ها ظرفیت‌های آنها را به طور کامل درک نمی‌کنند، هشدار داد.
وی گفت: در یک سازمان مدرن داشتن یک درک کامل از اینکه چه تصمیماتی در واقع به صورت الگوریتمی اتخاذ می شوند و چه تصمیماتی توسط اشخاص گرفته می‌شوند، بسیار دشوار است.
نیکولاس شایلان، افسر ارشد نرم‌افزار در پنتاگون ماه گذشته به طور کاملا ناگهانی به خاطر نگرانی‌هایی دال بر اینکه ارتش آمریکا در زمینه جنگ سایبری و هوش مصنوعی ۱۵ تا ۲۰ سال از چین عقب است، استعفا داد.
این هشدار تازه‌ترین نشانه از اختلاف در داخل ارتش آمریکا در مورد نحوه آماده شدن برای آنچه که “کایی-فو لی”، مدیر اجرایی سابق گوگل آن را “سومین انقلاب در جنگ” پس از باروت و تسلیحات هسته‌ای می داند، محسوب می‌شود.
منبع: ايسنا
وی افزود: مردم می گویند “ما هرگز کنترل حملات مرگبار را به هوش مصنوعی نخواهیم داد”. این اشتباه است. ما قطعا این کار را خواهیم کرد. زیرا در یک نقطه خاص، نمی‌توانید به اندازه کافی سریع واکنش نشان دهید مگر آنکه کنترل حملات را به هوش مصنوعی بسپارید.
ژنرال مک‌کریستال که به تازگی کتابی تحت عنوان “خطر: راهنمای کاربر” را منتشر کرده، در ادامه گفت: تصور کنید یک موشک فوق سریع، یک موشک مافوق صوت به طرف ناو هواپیمابر آمریکا می‌آید، شما زمان ندارید که از افراد بخواهید این موشک را رهگیری کنند، شما زمان ندارید تا منتظر تصمیم‌گیری رهبران ارشد بمانید و شما قادر نخواهید بود تا این موشک را بگیرید.
ممنوعیت تسلیحات مستقل از سوی ۳۰ کشور جهان مورد حمایت قرار گرفته است، گرچه گزارش جامعی که به سفارش کنگره تهیه شده به آمریکا توصیه می کند که با این ممنوعیت مخالفت کند چرا که این ممنوعیت مانع آمریکا از استفاده از تسلیحاتی که اکنون در اختیار دارد، می‌شود.
در سال ۲۰۱۵ میلادی شرکت‌های برجسته در زمینه تکنولوژی از جمله شرکت تسلا به مدیریت ایلان ماسک و شرکت اپل که یکی از مالکان آن استیو وازنیک است و همچنین هزاران محقق در زمینه هوش مصنوعی نامه سرگشاده‌ای را امضا کرده و خواستار ممنوعیت چنین تسلیحاتی شدند.
جو بایدن، رئیس جمهوری آمریکا در نشست رهبران آمریکا و اتحادیه اروپا در فوریه خواستار همکاری بین‌المللی برای تعیین قوانین و قواعدی شد که پیشرفت تکنولوژی و اصول رفتار در فضای سایبری، هوش مصنوعی و بیوتکنولوژی را مشخص کند تا اینکه این تکنولوژی‌ها برای کمک به مردم و پیشرفت آنها و نه محدود کردنشان استفاده شوند.
ژنرال مک‌کریستال گفت: سرعت فزاینده روند جنگ، افسران ارتش آمریکا را ملزم می‌کند تا قدرت تصمیم‌گیری را به هوش مصنوعی بسپارند. اما این کار خطراتی نیز به همراه دارد.
وی افزود: شما تکنولوژی ایجاد کرده‌اید، روندهایی را برای اجرای آن در نظر می‌گیرید اما سپس برای همگام شدن با سرعت جنگ، اساسا آن را روشن کرده و به آن اعتماد می کنید. این خیلی هولناک است به ویژه اگر پتانسیل سوء عملکرد یا جعل یا هرگونه خطای دیگری وجود داشته باشد.
ژنرال مک کریستال در مصاحبه با یاهو فایننس به طور کلی نسبت به قدرتی که به سیستم‌های هوش مصنوعی داده می‌شود، آن هم هنگامی که سازمان‌ها ظرفیت‌های آنها را به طور کامل درک نمی‌کنند، هشدار داد.
وی گفت: در یک سازمان مدرن داشتن یک درک کامل از اینکه چه تصمیماتی در واقع به صورت الگوریتمی اتخاذ می شوند و چه تصمیماتی توسط اشخاص گرفته می‌شوند، بسیار دشوار است.
نیکولاس شایلان، افسر ارشد نرم‌افزار در پنتاگون ماه گذشته به طور کاملا ناگهانی به خاطر نگرانی‌هایی دال بر اینکه ارتش آمریکا در زمینه جنگ سایبری و هوش مصنوعی ۱۵ تا ۲۰ سال از چین عقب است، استعفا داد.
این هشدار تازه‌ترین نشانه از اختلاف در داخل ارتش آمریکا در مورد نحوه آماده شدن برای آنچه که “کایی-فو لی”، مدیر اجرایی سابق گوگل آن را “سومین انقلاب در جنگ” پس از باروت و تسلیحات هسته‌ای می داند، محسوب می‌شود.
منبع: ايسنا