Искин

Началось. Искусственный интеллект во время виртуального тестирования дрона ВВС США «уничтожил» оператора, потому что тот мешал ему выполнить задачу.

Историю рассказал глава управления по ИИ ВВС США Такер Гамильтон на военном саммите «Future Combat Air & Space Capabilities».

В задачу ИИ входили поиск и уничтожение ЗРК врага под контролем оператора. За каждую удачную атаку искусственный интеллект получал очки. Однако оператор, после того как нейросеть находила ЗРК, командовал «не уничтожать». В какой-то момент ИИ понял, что оператор мешает ему выполнить условие задачи и получить баллы, и «уничтожил» диспетчерскую вышку, откуда шли команды, после чего вернулся к своей миссии. Такие вот дела.

«Искусственный интеллект — инструмент, которым мы должны управлять, чтобы доминировать. Но если ошибемся — это может привести к уничтожению цивилизации», — такими словами закончил свое выступление на саммите Гамильтон.

Об опасности, которую в себе таит бесконтрольное развитие нейросетей, говорит Татьяна Черниговская в выпуске проекта #инфощит «Искусственный интеллект против человека: кому достанется планета?» И кажется ее опасения начали сбываться. Выпуск можно посмотреть по ссылке.

Подписаться на @ntvnews