Смартфон под лупой
Apple официально подтвердила свои планы по сканированию фотографий в личных галереях пользователей iPhone на предмет фиксирования фактов жестокого обращения с детьми и записи порнографии с участием несовершеннолетних. Американская компания представила подробности своего нововведения на официальном сайте.
Метод Apple основан на выявлении изображений, которые содержатся в базе уже известных материалов сексуального насилия над детьми. Алгоритмы будут сравнивать снимки в галерее с запрещенным контентом и при совпадении оповещать сотрудников компании.
Затем сотрудник Apple лично проверит каждый такой снимок и, если совпадение будет подтверждено, отключит аккаунт пользователя и отправит данные в организацию NCMEC [Национальный центр пропавших без вести и эксплуатируемых детей].
Вместо сканирования изображений в облаке система будет выполнять сопоставление на самом устройстве с использованием базы данных. Набор запрещенных снимков предоставят NCMEC и другие организации, занимающиеся безопасностью детей. Apple преобразует эту базу данных в нечитаемый набор хэшей и будет хранить их на устройствах пользователей. Эти меры компания оправдывает заботой о конфиденциальности своих клиентов.
При этом в компании заверили, что система не будет допускать ошибочных пометок, и отметили ее «чрезвычайно высокий уровень точности».
В Apple «гарантировали менее одного случая на один триллион в год неправильной пометки учетной записи». Однако в заявлении указано, что обладатель гаджета может подать апелляцию на решение о блокировке аккаунта. Пока эта функция будет работать исключительно для граждан США, проживающих на территории страны.
Нововведение будет добавлено в обновлениях iOS 15 для iPhone, iPadOS 15 для планшетов, watchOS 8 для умных часов и macOS Monterey для компьютеров. Apple также пообещала представить программное обеспечение, которое сможет анализировать изображения в приложении «Сообщения» с целью «предупреждать детей и их родителей о получении или отправке фотографий откровенно сексуального характера».
Инструмент контроля
Несмотря на заверения Apple в безопасности и надежности такой системы, эксперты критически отнеслись к планам компании. В разговоре с «Газетой.Ru» главный аналитик Российской ассоциации электронных коммуникаций [РАЭК] Карен Казарян назвал действия Apple компромиссом из-за претензий к компании со стороны силовиков — ее не раз обвиняли в отсутствии содействия правоохранительным органам при попытке разблокировки смартфонов, принадлежащих потенциальным преступникам.
«Это компромиссное решение, которое позволяет сохранить строгое шифрование пользователей с одной стороны, но иметь некие инструменты для борьбы со злоумышленниками с другой», — отметил он.
При этом, по словам специалиста, такие проверки — довольно непрозрачный процесс. «Что именно они будут проверять, мы не знаем. Определенный уровень прозрачности и подотчетности хотелось бы иметь в данном случае», — добавил Казарян.
Главный аналитик РАЭК пояснил, что на Apple оказывается серьезное давление правоохранителями не только США, но и других стран мира, причем именно на систему шифрования сообщений. «Мне кажется, что это решение лучше, чем сознательное ослабление шифрования», — считает эксперт.
Алгоритм тоже ошибается
Опрошенные «Газетой.Ru» разработчики программного обеспечения отметили, что компания очень заботится о приватности, но разработка, о которой идет речь, пока не выдержала проверку в реальных условиях.
iOS Team Lead в компании Swiftlane Иван Вавилов рассказал, что в самом механизме классификации изображений нет ничего нового.
«Этот механизм уже давно используется в виде автоматической модерации фотографий в популярных социальных сетях. Но Apple предложила алгоритм с акцентом на сохранность пользовательских данных», — пояснил он.
«По моему мнению, не стоит опасаться проблем с безопасностью и доступом к нашей переписке третьих лиц с добавлением этой новой фичи», — добавил Вавилов.
По словам эксперта, судя по представленному техническому описанию, Apple действительно не будет иметь доступа к фотографиям, несмотря на процесс классификации изображений внутри iPhone.
С ним согласен руководитель новых продуктов для малого и среднего бизнеса в «Яндексе» Александр Бакшеев. «Получение хеш-кодов методом NeuralHash из фотографии — достаточно надежная технология, она позволяет получать одинаковые хеш-коды для фотографий, подвергнутых различным трансформациям», — заверил он. Также эксперт указал на то, что система уже применяется в iOS и Android, но для разметки фотографий тегами.
Руководитель отдела продвижения продуктов компании «Код Безопасности» Павел Коростелев настроен более скептически. «Нельзя точно сказать, что Apple использует достаточно проверенную технологию», — отметил эксперт.
Специалист добавил, что практика показывает слабую работу алгоритмов, так как после пяти лет до сих пор «встречаются ошибки, когда фотографию большого лысого человека могут принять за «запрещенку».
Однако он согласен, что благодаря анализу снимков внутри смартфона корпорация «обеспечит мало-мальскую приватность пользователей, так как не будет отправлять фотографии на обработку и сравнение в облако». Коростелев призвал дождаться первых результатов работы алгоритма, чтобы оценить его эффективность.
Этический момент
Эксперты также отметили, что системное решение из-за своего построения может негативно отразиться на пользователях iPhone в разных странах мира, давая возможность для взлома и сбора информации, а также шантажа. Заявленная Apple технология порождает много вопросов на стыке различных отраслей права, подтвердил «Газете.Ru» партнер юридической компании 2b law office Антон Городецкий.
По его словам, так как Apple формально изучает не сами фотографии, а хеш-суммы снимков, сравнивая их с хешами из базы организаций, «у пользователей практически нет ни формальных, ни этических оснований возражать новой политике».
Городецкий добавил, что каждый добровольно принимает решение использовать технику Apple, а потому дополнительное согласие на применение новой функции от пользователя не потребуется.