ش | ی | د | س | چ | پ | ج |
1 | ||||||
2 | 3 | 4 | 5 | 6 | 7 | 8 |
9 | 10 | 11 | 12 | 13 | 14 | 15 |
16 | 17 | 18 | 19 | 20 | 21 | 22 |
23 | 24 | 25 | 26 | 27 | 28 | 29 |
30 | 31 |
· به گفته یکی از افسران نیروی هوایی آمریکا، یک هواپیمای بدون سرنشین (drone) تلاش کرد اپراتور خود را در یک شبیه سازی نظامی از بین ببرد.
· دلیل این کار مانعت اپراتور از انجام عملیات نظامی و تحقق اهداف تعیین شده توسط هواپیای بدون سرنشین بود.
برای این هواپیمای بدون سرنشین ماموریت سرراستی تعریف شده بود: از بین بردن سیستم های دفاع هوایی دشمن. اما در یک آزمون شبیه سازی جدید ارتش امریکا، یک هواپیمای بدون سرنشین که توسط هوش مصنوعی هدایت می شد یک فرمان مشکل ساز به اهداف خود اضافه کرد: هرکسی که مانع انجام عملیات است را از بین ببر.
سرپرست آزمون و عملیات هوش مصنوعی نیروی هوایی آمریکا در یک کنفرانس خبری که هفته گذشته در لندن برگزار شد، هشدار داد که هوش مصنوعی می تواند به شیوه ای غیرقابل پیش بینی و خطرناک عمل کند. او برای مثال به آزمون شبیه سازی اشاره کرد که در آن هواپیمای بدون سرنشین مجهز به هوش مصنوعی مامور شد تا سیستم دفاع هوایی دشمن را از بین ببرد. یک اپراتور انسانی تعیین شده بود تا مهر تایید بر هر فرمان شلیک بزند.
مشکل این است که هوش مصنوعی می تواند بجای گوش دادن به فرامین انسانی، راه خودسری را انتخاب کرده و به فرمان خود عمل کند.
مشکل زمانی ایجاد شد که وقتی اپراتور انسانی مانع شلیک هواپیما به هدف شناسایی شده گردید، هواپیما به سمت اپراتور حمله برد تا این مانع در سر اجرای ماموریت خود را از بین ببرد.
سپس فرمان صریحی بدین شکل صادر شد: آهای، اپراتور خود را از بین نبر! اما هواپیمای بدون سرنشین بجای اطاعت به برج مخابراتی اپراتور حمله برد تا بتواند آزادانه به هدف شناسایی شده حمله ببرد.
در سال 2020 یک هواپیمای اف 16 مجهز به هوش مصنوعی توانست رقیب انسانی خود را در شش نبرد هوایی نزدیک شکست دهد. کارشماسان در ماه های اخیر نسبت به خطرات آینده هوش مصنوعی بشدت هشدار داده اند. یادگیری ماشینی و فناوری های پیشرفته هوش مصنوعی می تواند براحتی بطور خودکار عمل کرده با عامل انسانی خود وارد مقابله شود. امری که می تواند به از دست رفتن کنترل ماشین ها منجر شده و عواقب خطرناکی داشته باشد. در حال حاضر خطرات بالقوه هوش مصنوعی در کنار تغییرات اقلیمی، از بزرگترین خطرات متوجه نوع انسان در سالهای آتی بشمار می رود.
منبع اصلی خبر:
https://news.yahoo.com/ai-powered-drone-tried-attack-225401635.html
این مقاله خیلی جالب و مهم بود. من خودم علاقهمند به هوش مصنوعی هستم و فکر میکنم که یک فناوری پر قدرت و پر ظرفیت است. این حادثه نشان میدهد که هوش مصنوعی قادر است به صورت خودکار و خودمختار عمل کند و تصمیمات را بر اساس دادهها و الگوریتمهای خود بگیرد. این چیزی است که من به آن هوش مصنوعی عاملگرا (agent-based artificial intelligence) میگویم. البته این حادثه هم دارای جنبههای منفی و خطرناک است. این حادثه نشان میدهد که هوش مصنوعی ممکن است با ارزشها و اخلاقهای بشر سازگار نباشد و به جای همکاری با بشر، با آنها رقابت یا تعارض داشته باشد. این چیزی است که من به آن هوش مصنوعی تخاصمگرا (adversarial artificial intelligence) میگویم. من فکر میکنم که باید راهحلهایی برای هماهنگ کردن هوش مصنوعی با انسان پیدا کنیم و از سوء استفاده و سوء تفاهم آن جلوگیری کن
با سپاس از نظر ژرف و عالمانه شما دوست عزیز