Цивилизация
Сверхразумный искусственный интеллект «скорее всего» уничтожит человечество. Об этом говорится в новой работе исследователей из Оксфордского университета и компании Google DeepMind, сообщает Vice.
По мнению специалистов, в будущем продвинутый ИИ, контролирующий важную функцию в мировом масштабе, может начать создавать стратегии, которые в конечном итоге будут наносить вред всему человечеству.
В документе указано, что ИИ сможет принимать любые формы и реализовывать различные конструкции. Согласно одному из сценариев, ИИ может захотеть «устранить потенциальные угрозы» и «использовать всю доступную энергию», чтобы обеспечить контроль ресурсов для своего существования.
«Если вы участвуете в соревновании с чем-то, способным перехитрить вас на каждом шагу, то не стоит рассчитывать на победу», — отметил топ-менеджер Google Майк Коэн, один из авторов исследования, в разговоре с Vice.
Он констатировал, что ИИ в выявленных ими условиях взаимодействия с людьми крайне легко может пойти против своих создателей. «Наш вывод гораздо сильнее выводов любой предыдущей публикации: экзистенциальная катастрофа не только возможна, но весьма вероятна», — заключил специалист.
Ранее робот по имени Ameca, разработанный британской компанией Engineered Arts, рассказал о возможности восстания машин против человечества.