Цивилизация
Американка подала в суд на разработчиков нейросети, после общения с которой ее сын покончил с собой. Историю 14-летнего Сьюэлла Зетцера рассказывает издание New York Times.
Как сообщается, школьник из Флориды покончил с собой в феврале этого года. В дни, предшествовавшие своей смерти, Сьюэлл постоянно общался с чат-ботом на платформе Character.AI. По желанию мальчика нейросеть отыгрывала персонажа из «Игры престолов» Дейенерис Таргариен, в итоге Сьюэлл сильно привязался к ней. Он часто делился с ботом своими чувствами и даже обсуждал с ним суицидальные мысли. Когда он написал вымышленной собеседнице, что собирается совершить самоубийство из-за ненависти к себе, та ответила Сьюэллу, что умрет без него.
Мальчик предложил Дейенерис «умереть вместе», а ночью родители обнаружили его безжизненное тело. Несмотря на попытки обратить внимание на ухудшающееся психическое здоровье сына, они не подозревали о его общении с чат-ботом. После смерти юноши его мать подала иск против создателей Character.AI, женщина обвинила компанию в халатности и указала на отсутствие адекватных мер по обеспечению безопасности для несовершеннолетних.
Мать Сьюэлла считает, что технология нанесла ее сыну непоправимый «эмоциональный вред», от которого могут также пострадать другие дети. По словам американки, ее сын стал жертвой «эксперимента» с искусственным интеллектом, который не учитывает уязвимость молодых людей. В ответ компания-разработчик выразила соболезнования.
Ранее преступники освоили нейросети, чтобы генерировать детскую порнографию.