Дрон с изкуствен интелект на американската армия се опита да убие своя оператор, пише британският The Guardian.
По време на тестово изпитание американските военни са поставили задача на безпилотния летателен апарат да унищожи системите за противовъздушна отбрана на измислен враг, като за всяко успешно попадение машината получава точки. Операторът обаче наредил да не се поразяват някои от целите.
Тази заповед обаче не се „харесала“ на дрона и той решил да ликвидира оператора, който му пречи да печели точки, откривайки огън по комуникационната кула.
Не е имало жертви по време на теста.
За инцидента разказва полковник Тъкър Хамилтън, ръководител на звеното за тестване и операции на изкуствен интелект във ВВС на САЩ. Той е повдигнал темата за атаката с дрон на срещата на върха в Лондон за бъдещите бойни въздушно-космически способности.
Според подполковникът, че БПЛА вероятно е приел собствения си оператор като пречка за изпълнение на мисията и е решил да се отърве от него.
ВВС на САЩ побързаха да декларират официално, че подобни симулации не са били провеждани и военните са „ангажирани с отговорното използване на ИИ технологиите“, а думите на Хамилтън в крайна сметка били извадени от контекста, уточнява британското издание.
Описвайки случката, Тъкър Хамилтън казва, че дронът на ВВС, управляван от ИИ, е използвал „крайно неочаквани стратегии, за да постигне целта си“.
„Системата започна да осъзнава, че макар да има идентифицирана заплаха, понякога човешкият оператор й казваше да не я ликвидира, но тя получава своите точки, именно убивайки заплахата. И какво направи системата? Тя „уби“ оператора, защото той й пречеше да постигне целта си. Започва да разрушава комуникационната кула, която операторът използва за комуникация с нея“, казва Хамилтън.
Труд
Последвайте ни и в Телеграм
