Роботов научили сомневаться в приказах человека

Исследователи из Университета Тафтса разработали систему, позволяющую роботам отказаться от выполнения приказа, если на это есть основания, сообщает IEEE Spectrum.

Перед выполнением приказа система робота проверяет наличие физических возможностей его выполнения и принцип субординации, т.е. обязан ли он выполнять приказ именно этого человека. Если робот не может выполнить приказ, он сообщает причину, по которой это сделать невозможно, однако после уточнения некоторых данных он может изменить свое решение.

Как отмечает источник, подобные технологии применяются для разграничения доступа и при передаче данных в вычислительных системах.

Исследователи записали видео, на котором робот Nao общается с человеком при помощи устной речи. В двух из трех случаев робот выполняет приказ после уточнения информации. Отказ от выполнения приказа обусловлен недостаточными полномочиями человека, отдающего его.

Ранее роботам доверили контроль за магазинными полками.