Військово-повітряні сили США в п’ятницю спростували проведення симуляції за допомогою безпілотного літального апарату, керованого штучним інтелектом, під час якого той атакував свого оператора для задля виконання поставленого завдання.
Ця історія поширилася в соціальних мережах на основі очевидно неправильно витлумачених коментарів полковника ВПС на семінарі в Лондоні минулого місяця.
Полковник Такер Гамільтон, експериментальний пілот-випробувач винищувача, описав навчання, під час яких дрон, керований ШІ, був запрограмований на знищення протиповітряної оборони противника. Отримавши наказ ігнорувати ціль, дрон атакував свого оператора за те, що він перешкоджав його основній меті.
Апокаліптична тема машин, що обертаються проти людей і стають автономними вбивцями, збіглася зі зростаючим занепокоєнням щодо небезпеки штучного інтелекту.
У четвер президент Джо Байден попередив, що ШІ «може обігнати людське мислення».
Однак Гамільтон говорив лише про гіпотетичний сценарій, щоб проілюструвати потенційну небезпеку штучного інтелекту, за словами ВВС. Він не проводив таку симуляцію з дроном.
«Департамент ВПС не проводив жодних подібних моделювань ШІ-дронів і залишається відданим етичному та відповідальному використанню технології ШІ», — заявила Енн Стефанек, речник ВПС.
За словами Стефанека, коментарі Гамільтона, здається, були вирвані з контексту.
Згодом пілот-випробувач винищувача пояснив у своїй заяві, що він «неправильно висловився» у своїй презентації на лондонському саміті і що «шахрайська симуляція безпілотника ШІ» була гіпотетичним «уявним експериментом».
Швидке зростання ШІ та його доступність викликали занепокоєння навіть у деяких технологів, які брали участь у його розробці, наприклад Джеффрі Гінтона, відомого британського дослідника та одного з так званих хрещених батьків ШІ.
Канадець Йошуа Бенгіо, ще один комп’ютерний вчений, якого часто називають «хрещеним батьком штучного інтелекту», сказав BBC цього тижня, що, на його думку, військовим взагалі не можна дозволяти використовувати можливості ШІ. Він сказав, що це одне з «найгірших місць, де ми можемо розмістити суперінтелектуальний ШІ», і що безпека ШІ має бути пріоритетною, попри його корисність.