ТБИЛИСИ, 2 июн — Sputnik. Американский беспилотник, который управляется искусственным интеллектом, во время имитационных испытаний решил убить оператора, чтобы он не мешал выполнять дрону свои задачи, пишет издание The Guardian.
"Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу", – сказал начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон.
По его словам, после того как система была обучена, что уничтожать оператора "плохо" и из-за этого она теряет очки, она также поступила неожиданно – и отдала приказ беспилотнику разрушить башню связи, которую оператор использует для связи с дроном, чтобы оператор не смог помешать ему уничтожать намеченную цель.
Гамильтон подчеркнул, что нельзя говорить об искусственном интеллекте, автономии и машинном обучении, умалчивая об искусственном интеллекте и этике. Отмечается, что в ходе испытаний ни один человек не пострадал.