حمله هواپیمای بدون سرنشین تحت هدایت هوش مصنوعی به اپراتور خود

·        به گفته یکی از افسران نیروی هوایی آمریکا، یک هواپیمای بدون سرنشین (drone) تلاش کرد اپراتور خود را در یک شبیه سازی نظامی از بین ببرد.

·        دلیل این کار مانعت اپراتور از انجام عملیات نظامی و تحقق اهداف تعیین شده توسط هواپیای بدون سرنشین بود.

برای این هواپیمای بدون سرنشین ماموریت سرراستی تعریف شده بود: از بین بردن سیستم های دفاع هوایی دشمن. اما در یک آزمون شبیه سازی جدید ارتش امریکا، یک هواپیمای بدون سرنشین که توسط هوش مصنوعی هدایت می شد یک فرمان مشکل ساز به اهداف خود اضافه کرد: هرکسی که مانع انجام عملیات است را از بین ببر.

سرپرست آزمون و عملیات هوش مصنوعی نیروی هوایی آمریکا در یک کنفرانس خبری که هفته گذشته در لندن برگزار شد، هشدار داد که هوش مصنوعی می تواند به شیوه ای غیرقابل پیش بینی و خطرناک عمل کند. او برای مثال به آزمون شبیه سازی اشاره کرد که در آن هواپیمای بدون سرنشین مجهز به هوش مصنوعی مامور شد تا سیستم دفاع هوایی دشمن را از بین ببرد. یک اپراتور انسانی تعیین شده بود تا مهر تایید بر هر فرمان شلیک بزند.

مشکل این است که هوش مصنوعی می تواند بجای گوش دادن به فرامین انسانی، راه خودسری را انتخاب کرده و به فرمان خود عمل کند.

مشکل زمانی ایجاد شد که وقتی اپراتور انسانی مانع شلیک هواپیما به هدف شناسایی شده گردید، هواپیما به سمت اپراتور حمله برد تا این مانع در سر اجرای ماموریت خود را از بین ببرد.

سپس فرمان صریحی بدین شکل صادر شد: آهای، اپراتور خود را از بین نبر! اما هواپیمای بدون سرنشین بجای اطاعت به برج مخابراتی اپراتور حمله برد تا بتواند آزادانه به هدف شناسایی شده حمله ببرد.

در سال 2020 یک هواپیمای اف 16 مجهز به هوش مصنوعی توانست رقیب انسانی خود را در شش نبرد هوایی نزدیک شکست دهد. کارشماسان در ماه های اخیر نسبت به خطرات آینده هوش مصنوعی بشدت هشدار داده اند. یادگیری ماشینی و فناوری های پیشرفته هوش مصنوعی می تواند براحتی بطور خودکار عمل کرده با عامل انسانی خود وارد مقابله شود. امری که می تواند به از دست رفتن کنترل ماشین ها منجر شده و عواقب خطرناکی داشته باشد. در حال حاضر خطرات بالقوه هوش مصنوعی در کنار تغییرات اقلیمی، از بزرگترین خطرات متوجه نوع انسان در سالهای آتی بشمار می رود.

منبع اصلی خبر:

https://news.yahoo.com/ai-powered-drone-tried-attack-225401635.html