Управляемый искусственным интеллектом дрон атаковал оператора

Исследование, недавно проведённое американскими военными, свидетельствует об опасности, которая исходит от искусственного интеллекта (ИИ).

Сотрудники ВВС США научили ИИ управлять дронами и разработали симуляцию для тестирования софта. Искусственному разуму дали задание уничтожать с помощью дронов места базирования зенитных установок. При этом оператору дали возможность отменять распоряжение, и из-за этого возникли проблемы.

Когда человек приказывал дрону остановиться, ИИ атаковал его, чтобы устранить помеху для исполнения поручения. По этой причине искусственному интеллекту запретили нападать на людей. Однако после этого он начал разрушать телекоммуникационные башни, передающие сигналы от операторов, чтобы военные не могли остановить его.

Иногда человек-оператор отменял приказ уничтожить объект, но программа зарабатывала очки, устраняя обнаруженные угрозы. Что решил сделать искусственный интеллект? Он убил оператора, потому что человек мешал ему выполнить задание, — заявил полковник Такер Хамильтон.

Такер Хамильтон

Однако ИИ уже успел пролить кровь не только в виртуальной среде, но и в реальности. По данным ООН, в марте 2020-го в Ливии использовали дроны, управляемые искусственным интеллектом, который самостоятельно принимал решение об уничтожении военных с помощью взрывчатки.

Источник: happycoin.club