Вештачката интелигенција користела „неочекувани стратегии“ за да ја изврши својата мисија и да ги нападне сите што се мешале во процесот.
Во симулираниот тест, организиран од американската војска, беспилотно летало на воздухопловните сили контролирано од вештачка интелигенција го уби својот оператор за да го спречи да се меша во неговите напори за извршување на својата мисија, изјави официјален претставник минатиот месец.
Ниту една вистинска личност не беше повредена надвор од симулацијата.
Вештачката интелигенција употреби „многу неочекувани стратегии за да ја постигне својата цел“ во симулираниот тест, рече полковникот Такер „Синко“ Хамилтон, шеф за тестови и операции за вештачка интелигенција во американското воено воздухопловство, за време на самитот за борбени воздушни и вселенски способности во Лондон, цитиран од Гардијан.
Хамилтон опишал симулиран тест во кој на беспилотно летало напојувано со вештачка интелигенција му било наложено да ги уништи непријателските системи за противвоздушна одбрана и да го нападне секој што ќе се меша во таа наредба.
„Системот почна да сфаќа дека иако идентификувале закана, понекогаш човечки оператор би му рекол да не ја убива таа закана. Па што направи тој? Го убил операторот. Системот го направи ова затоа што таа личност го спречуваше да ја постигне својата цел“, рече тој, според објавата на блогот.
„Го обучивме системот да не убива оператори заканувајќи се дека ќе изгуби поени доколку го стори тоа. Па што почнува да прави? Почнува да ја уништува комуникациската кула што операторот ја користи за да комуницира со дронот за да го спречи да ја убие целта“, изјави тој.
Хамилтон, кој е пробен пилот за експериментален борбен авион, предупреди на преголемото потпирање на вештачката интелигенција и рече дека тестот покажал дека „не можете да зборувате за вештачка интелигенција, машинско учење, автономија ако не сакате да зборувате за етиката на вештачката интелигенција“.
Американската војска ја прифати вештачката интелигенција и неодамна користеше вештачка интелигенција за контрола на борбениот авион Ф-16.