حمله هواپیمای بدون سرنشین تحت هدایت هوش مصنوعی به اپراتور خود

·        به گفته یکی از افسران نیروی هوایی آمریکا، یک هواپیمای بدون سرنشین (drone) تلاش کرد اپراتور خود را در یک شبیه سازی نظامی از بین ببرد.

·        دلیل این کار مانعت اپراتور از انجام عملیات نظامی و تحقق اهداف تعیین شده توسط هواپیای بدون سرنشین بود.

برای این هواپیمای بدون سرنشین ماموریت سرراستی تعریف شده بود: از بین بردن سیستم های دفاع هوایی دشمن. اما در یک آزمون شبیه سازی جدید ارتش امریکا، یک هواپیمای بدون سرنشین که توسط هوش مصنوعی هدایت می شد یک فرمان مشکل ساز به اهداف خود اضافه کرد: هرکسی که مانع انجام عملیات است را از بین ببر.

سرپرست آزمون و عملیات هوش مصنوعی نیروی هوایی آمریکا در یک کنفرانس خبری که هفته گذشته در لندن برگزار شد، هشدار داد که هوش مصنوعی می تواند به شیوه ای غیرقابل پیش بینی و خطرناک عمل کند. او برای مثال به آزمون شبیه سازی اشاره کرد که در آن هواپیمای بدون سرنشین مجهز به هوش مصنوعی مامور شد تا سیستم دفاع هوایی دشمن را از بین ببرد. یک اپراتور انسانی تعیین شده بود تا مهر تایید بر هر فرمان شلیک بزند.

مشکل این است که هوش مصنوعی می تواند بجای گوش دادن به فرامین انسانی، راه خودسری را انتخاب کرده و به فرمان خود عمل کند.

مشکل زمانی ایجاد شد که وقتی اپراتور انسانی مانع شلیک هواپیما به هدف شناسایی شده گردید، هواپیما به سمت اپراتور حمله برد تا این مانع در سر اجرای ماموریت خود را از بین ببرد.

سپس فرمان صریحی بدین شکل صادر شد: آهای، اپراتور خود را از بین نبر! اما هواپیمای بدون سرنشین بجای اطاعت به برج مخابراتی اپراتور حمله برد تا بتواند آزادانه به هدف شناسایی شده حمله ببرد.

در سال 2020 یک هواپیمای اف 16 مجهز به هوش مصنوعی توانست رقیب انسانی خود را در شش نبرد هوایی نزدیک شکست دهد. کارشماسان در ماه های اخیر نسبت به خطرات آینده هوش مصنوعی بشدت هشدار داده اند. یادگیری ماشینی و فناوری های پیشرفته هوش مصنوعی می تواند براحتی بطور خودکار عمل کرده با عامل انسانی خود وارد مقابله شود. امری که می تواند به از دست رفتن کنترل ماشین ها منجر شده و عواقب خطرناکی داشته باشد. در حال حاضر خطرات بالقوه هوش مصنوعی در کنار تغییرات اقلیمی، از بزرگترین خطرات متوجه نوع انسان در سالهای آتی بشمار می رود.

منبع اصلی خبر:

https://news.yahoo.com/ai-powered-drone-tried-attack-225401635.html

هوش مصنوعی چیست؟

در سالهای اخیر هوش مصنوعی (Artificial Intelligence) به یکی از گفتمان های مسلط تبدیل شده و بسیاری تولیدکنندگان محصولات و خدمات پیشرفته تلاش دارند هوش مصنوعی را در فرآورده های خود بکار گیرند. در بیشتر موارد تنها به یکی از اجزای هوش مصنوعی مانند یادگیری ماشینی اشاره می شود لیکن هوش مصنوعی (AI) نیاز به بنیانی از سخت افزار و نرم افزار تخصصی برای نوشتن الگوریتم های یادگیری ماشینی دارد. زبانهای برنامه نویسی مانند پایتون، R و جاوا برای تولید الگوریتم های AI بسیار متداول هستند.

بطور کلی سیستم های AI با درآشامیدن مقادیر عظیمی داده های برچسب دار یادگیری، تحلیل داده ها برای یافتن روابط و الگوها و استفاده از این الگوها برای پیش بینی وضعیت آینده هستند. بدین روش به یک روبات گفتگو (chatbot) مثالهایی از گفتگوهای متنی خورانده می شود تا بتواند مبادلات کلامی زنده با افراد واقعی انجام دهد، یا یک ابزار تشخیص تصویر با استفاده از هوش مصنوعی و بازبینی میلیونها مثال موجود، می تواند اشیای موجود در تصاویر را شناسایی و توصیف کند.

برنامه نویسی AI بر سه مهارت تشخیصی متمرکز است: یادگیری، استدلال و خوداصلاحی.

فرایندهای یادگیری. این جنبه از برنامه نویسی AI بر تحصیل داده و ایجاد قواعدی برای نحوه تبدیل داده به اطلاعات عملی تمکز دارد. این قواعد که الگوریتم نامیده می شوند، ابزارهایی محاسباتی شامل دستورالعمل هایی برای تعیین نحوه تکمیل یک وظیفه خاص فراهم می نمایند.

فرایندهای استدلال. این جنبه از برنامه نویسی AI به انتخاب الگوریتم درست برای رسیدن به یک نتیجه مطلوب اختصاص دارد.

فرایندهای خوداصلاحی. این جنبه از برنامه نویسی AI برای بهبود پیوسته الگوریتم ها و تضمین اینکه آنها درست ترین نتایج ممکن را فراهم می کنند، طراحی شده است.

اهمیت هوش مصنوعی

هوش مصنوعی از آن جهت مهم است که به شرکتها بینش هایی در مورد عملیات خود می دهد که ممکن است پیشاپیش از آن آگاه نباشند و به این علت که در برخی حالات AI می تواند کارها را بهتر از انسانها انجام دهد. بویژه در مورد کارهای تکراری که جزئیات آنها باید به دقت رعایت شود، مانند تحلیل تعداد زیادی از اسناد حقوقی برای تضمین اینکه به درستی پر شده اند. ابزارهای AI می توانند کارها را سریع و با تعداد اندکی خطا به انجام رسانند.

این ویژگی های AI موجب رشد انفجاری کارایی شده و فرصت های جدیدی را برای شرکتهای تجاری فراهم آورده است. پیش از موج نوین AI، تصور اینکه با استفاده از نرم افزارهای کامپیوتری بتوانند ارتباط متقابلی میان مسافران و تاکسی ها فراهم کنند دشوار بود اما هم اکنون شرکت اوبر یکی از بزرگترین شرکتها در استفاده از هوش مصنوعی برای این منظور شده است. این شرکت از الگوریتم یادگیری ماشینی پیشرفته برای پیش بینی زمان نیاز یافتن افراد به تاکسی در مناطق مختلف استفاده می کند که کمک مهمی برای رساندن رانندگان به خیابانها پیش از اعلام نیاز مسافران است. به عنوان مثالی دیگر، گوگل به یکی از بزرگترین بازیگران در گستره خدمات آنلاین با استفاده از یادگیری ماشینی تبدیل شده است و در این راه از یادگیری ماشینی برای درک نحوه استفاده افراد از خدمات آنها برای ارتقای این خدمات استفاده می کند. در سال 2017 رییس اجرایی شرکت سوندار پیچای، اعلام کرد که گوگل به عنوان یک شرکتی که هوش مصنوعی را مقدم بر همه فرایندهای می داند، فعالیت خواهد کرد.

مزایا و معایب هوش مصنوعی

شبکه های عصبی مصنوعی و فناوری های هوش مصنوعی ژرف بسرعت در حال تکامل هستند زیرا AI حجم عظیمی از داده ها را بسیار سریعتر پردازش کرده و پیش بینی هایی درست تر از توان بالقوه انسانها تدارک می‌نماید. یک عیب عمده AI هزینه سنگین ایجاد الگوریتم های آن برای پردازش حجم عظیم داده است. هم چنین نیروی کار زبده در بخش AI هنوز به فراوانی وجود ندارد.

چهار نوع اصلی هوش مصنوعی

آرند هینتز (Arend Hintze) استادیار علوم و مهندسی کامپیوتر در دانشگاه ایالتی میشیگان در مقاله ای به سال 2016 هوش مصنوعی را به چهار نوع رده بندی کرد که از سیستم های هوشمند وظیفه محور که امروزه بطور وسیع از آنها استفاده می شود آغاز شده و به سیستم های دارای احساس و ادراک ختم می شود که هنوز ابداع نشده اند. این رده بندی به شرح زیر است:

نوع 1: ماشین های واکنشی (Reactive machines). این سیستم های هوشمند دارای حافظه نیستند و وظیفه محور می باشند. یک مثال از این نوع Deep Blue است، برنامه شطرنج IBM که گری کاسپارف قهرمان دنیا را در دهه 1990 شکست داد. این برنامه کامپیوتری آرایش فعلی صفحه شطرنج را شناسایی کرده و حرکات بعدی را پیش بینی می کرد، اما دارای حافظه نبود و نمی توانست از تجارب قبلی برای حرکات بعدی خود استفاده نماید.

نوع 2: حافظه محدود. این سیستم های AI دارای حافظه هستند و در نتیجه می توانند از تجارب قبلی برای تصمیمات آگاهانه در آینده استفاده کنند. برخی کارکردهای تصمیم سازی در خودروهای بدون راننده به این روش طراحی شده اند.

نوع 3. نظریه ذهن. نظریه ذهن یک اصطلاح روانشناسی است. وقتی در حوزه AI بکار می رود، به این معنا است که که سیستم دارای هوش اجتماعی برای درک احساسات است. این نوع AI قادر خواهد بود مقاصد انسان را استنتاج کرده و رفتار آنها را پیش بینی کند. این امر مهارتی ضروری برای سیستم های AI در جهت تبدیل شدن به اعضای پیوسته ای از گروه های انسانی است.

نوع 4: خودآگاهی. در این رده سیستم های AI از وجود خود آگاه هستند که به آنها قابلیت هوشیاری می‌دهد. ماشین های دارای خودآگاهی وضعیت جاری خود را درک می کنند. این نوع AI هنوز ابداع نشده است.

مثالهایی از فناوری AI امروزین

·        خودکارسازی. وقتی خودکارسازی با هوش مصنوعی ترکیب شود، خواهد توانست حجم و نوع کارهیا قابل انجام را گسترش دهد. یک مثال در این رابطه خودکارسازی روباتیک فرایند است، نوعی نرم افزار که کارهای پردازش داده تکراری و قاعده محور را بطور خودکار در می آورد. این فناوری در ترکیب با یادگیری ماشینی و ابزارهای نوظهور هوش مصنوعی می تواند کارهای پیچیده تری در یک شرکت را بطور خودکار درآورده و به تغییرات فرایندی پاسخ دهد.

·        یادگیری ماشینی. یادگیری ماشینی، دانشی است که به کمک آن کامپیوتر می تواند بدون برنامه نویسی عمل کند. یادگیری ژرف زیرمجموعه ای از یادگیری ماشینی است که به بیان ساده خودکارسازی تحلیل مبتنی بر پیش بینی است.

·        دید ماشینی. این فناوری به ماشین توانایی دیدن می دهد. دید ماشینی اطلاعات بصری را با استفاده از یک دوربین کسب و تحلیل کرده و تبئیل آنالوگ به دیجیتال و پردازش سیگنل دیجیتال را انجام می‌دهد. این فناوری اغلب با چشم انسانی مقایسه می شود اما دید ماشینی به زیست شناسی محدود نمی شود و می تواند برای مثال جهت دیدن از درون یک دیوار برنامه ریزی شود. برای مثال در کاربردهایی مانند شناسایی امضا یا تحلیل تصاویر پزشکی بکار می رود.

·        پردازش زبان طبیعی. این فناوری عبارت از پردازش زبان انسانی با یک برنامه کامپیوتری است. یکی از قدیمی ترین نمونه های این فناوری شناسایی هرزنامه ها (spam) است که به خط موضوع و متن ایمیل نگریسته و در مورد هرزنامه بودن آن تصمیم گیری می کند. جدیدترین رویکردهای این فناوری مبتنی بر یادگیری ماشینی است. وظایف این فناوری عبارت است از ترجمه متن، تحلیل احساسی و تشخیص گفتار.

·        روباتیک. این حوزه مهندسی بر طراحی و ساخت روباتها تمرکز دارد. از روباتها اغلب برای کارهایی استفاده می شود که انجام آنها برای انسانها دشوار است. برای مثال روباتها در خطوط مونتاژ برای تولید خودرو یا توسط ناسا برای جابجا ساختن اشای بزرگ در فضا استفاده می شود.

·        خودروهای بدون راننده. خودروهای خودران از ترکیبی از دید کامپیوتری، تشخیص تصویر و یادگیری ژرف بای ایجاد مهارت خودکار در راندن یک وسیله نقلیه بر سطح جاده جهت ماندن آن در باند حرکتی و اجتناب از موانع استفاده می کنند.

منبع:

https://www.techtarget.com/searchenterpriseai/definition/AI-Artificial-Intelligence

مسابقه برای یافتن درمان بیماری ویروس کرونا مانعی مهم بر سر راه خود دارد: شرکتهای بزرگ دارویی

پرفسور آرا دارسی، کالج سلطنتی لندن – نشریه گاردین، دوم آوریل 2020

هفته های گذشته شاهد بدترین و بهترین واکنشهای انسانی در برابر بحران ویروس کرونا بودیم – از غارتگران فروشگاهها که قفسه ها را خالی از جنس کردند تا تشکیل گروههای همسایگی که به سازماندهی کمک برای کهنسالان و افراد آسیب پذیر پرداختند.

پاسخ شرکتهای دارویی بزرگ در برابر این بحران را چگونه می‌توان داوری کرد؟ از یک نظر رفتار آنان هم ارز رفتار غارتگران فروشگاهها بوده است، نه رفتار انسان دوستانه گروههای همسایگی.

راهبرد ما برای خروج از انسداد جهانی ناشی از ویروس کرونا به ابداع یک واکسن موثر بستگی دارد. تلاش عظیمی برای یافتن چنین واکسنی در حال انجام است اما نمی توان 18 ماه برای آن صبر کرد.

در این میان تلفات انسانی افزایش یافته و پزشکان سخت تلاش خواهند کرد درمانهایی را برای کاستن از اثرات ویروس بکار برند تا شاید از شدت عفونت بیماری کاسته و بدین روش جانهایی را نجات دهند. هم اکنون یک جستجوی بین المللی برای داروی بیماری در حال انجام است. اما این نبردی علیه زمان است.

چند نوع درمان هم اکنون بر روی بیماران آزمایش می شود که از آن جمله می توان به مخلوط دو داروی ضد ایدز، یک داروی ضد مالاریا و دارویی را که برای درمان ابولا ابداع شده لیکن هیچگاه بکار گرفته نشد اشاره کرد. اما نمی توان منتظر نتیجه این داروها ماند و جستجو برای داروی موثر نهایی باید ادامه یابد.

بهترین راه برای شناسایی داروهای مناسب استفاده از هوش مصنوعی است که امکان می دهد حجم عظیمی از داده ها را پردازش نمود تا داروی موثر شناسایی شود. شرکتهای بزرگی با تخخصص در هوش مصنوعی توان محاسباتی خود را در اختیار دانشمندان داروشناس قرار داده اند.

اما آنها در این راه با مانعی بزرگ روبرو هستند: برخی شرکتهای دارویی تمام داده های خود در مورد درمانهای ممکن بیماری را به اشتراک نمی گذارند زیرا برای آنها ارزش تجاری محرمانه قایل هستند.

اشتراک آزاد داده ها در سراسر جهان بود که دانشمندان را قادر ساخت ژنوم ویروس جدید کرونا را با سرعتی غیرمنتظره نگاشت کنند. حالا تمامی شرکتهای دارویی باید جاه طلبی های تجاری خود را کنار گذارده و در تلاش مشترک مشابهی برای شناسایی، آزمایش، توسعه و ساخت داروهایی برای درمان بیماری با هم متحد شوند.

فناوری قابل اعتماد بلاک چین کمک شایانی به همکاری شرکتهای دارویی و هوش مصنوعی نموده است. هم اکنون از هوش مصنوعی در سراسر جهان برای کشف درمان ویروس کرونا استفاده می شود، از هنگ کنگ گرفته تا اسرائیل و بریتانیا تا ایالات متحده. ماه گذشته سریعترین ابرکامپیوتر جهان، آی بی ام سامیت، 77 ترکیب را به عنوان داروهای بالقوه شناسایی کرد. نتیجه حاصل از این همکاری به داده هایی بستگی دارد که به این سیستم های عظیم کامپیوتری خورانده می شود.  بدون دسترسی به داده های فراگیر، دانشمندان با دست بسته به مبارزه ویروس خواهند رفت.

تمام شرکتهای دارویی باید کتابخانه های شیمیایی خود را بگشایند بطوری که داروهای بالقوه قابل شناسایی باشند و آزمونهایی برای تست نویدبخش ترین درمانها باید هرچه زودتر آغاز شود. دنیا وقتی برای تلف شدن در اختیار ندارد.

منبع:

https://www.theguardian.com/commentisfree/2020/apr/02/coronavirus-vaccine-big-pharma-data