Новый продукт Microsoft в области искусственного интеллекта звучит как кошмар-антиутопия
Это была большая пара дней для Microsoft. На ежегодной конференции Build, проходящей с 21 по 23 мая в Сиэтле, компания сделала множество анонсов о предстоящих технологиях, причем большая часть из них была посвящена интеграции искусственного интеллекта в будущие устройства. Но есть один анонс, который уже вызвал споры и может даже привести компанию к судебному разбирательству.
Функция «Recall», работающая на базе искусственного интеллекта, о которой Microsoft говорит как об «исследуемой временной шкале прошлого вашего ПК», с момента своего появления вызвала недоумение как экспертов, так и обывателей — и это понятно, ведь вся ее фишка заключается в том, чтобы буквально каждые несколько секунд делать скриншоты вашего активного экрана и сохранять их локально. Затем программа сможет искать по этим скриншотам, а также по всем прошлым действиям пользователя — файлам, фотографиям, электронным письмам, истории просмотров, и так далее.
Советник по вопросам ИИ и конфиденциальности доктор Крис Шришак заявил BBC, что это потенциальный «кошмар для частной жизни».
«Сам факт того, что скриншоты будут делаться во время использования устройства, может оказать на людей отпугивающее воздействие«, — сказал Шришак. «Люди могут избегать посещения определенных сайтов и доступа к документам, особенно конфиденциальным, если Microsoft будет делать скриншоты каждые несколько секунд«.
Microsoft, тем временем, подчеркнула, что в устройстве предусмотрены меры предосторожности: конфиденциальность была «встроена […] в дизайн Recall с самого начала«, заявляет компания, и пользователи могут ограничить время, когда делаются скриншоты.
«Снимки Recall хранятся […] на локальном жестком диске и защищены с помощью шифрования данных на вашем устройстве«, — говорят в компании. «Снимки экрана Recall привязаны только к конкретному профилю пользователя, и Recall не передает их другим пользователям, не делает их доступными для просмотра Microsoft и не использует их для нацеливания рекламы […] Снимки экрана Recall не доступны другим пользователям и не доступны другим приложениям или службам».
Звучит обнадеживающе, но эксперты по безопасности в этом не уверены. Сама Microsoft отмечает, что конфиденциальная информация, например пароли и номера финансовых счетов, не будет скрыта на скриншотах; поэтому компьютер, на котором неправильно настроены параметры конфиденциальности Recall, или нацелен на вредоносное ПО, или просто не работает, может представлять угрозу безопасности в огромных масштабах.
«Это одномоментная атака для преступников«, — сказал TechRadar Мухаммад Яхья Патель, ведущий инженер по безопасности Check Point.
«[Это] как взять и уйти, но с Recall у них, по сути, будет все в одном месте [в базе данных снимков экрана]«, — сказал Патель. «Представьте себе золотую жилу информации, которая будет храниться на компьютере, и то, что могут сделать с ней злоумышленники«.
На самом деле вопросы, связанные с Recall, настолько серьезны, что Microsoft уже столкнулась с юридическими проблемами — по крайней мере, в Великобритании, где Управление комиссара по информации (ICO), национальный орган по защите данных, подчиняющийся непосредственно парламенту, объявило, что оно «направляет запросы в Microsoft, чтобы понять, какие меры защиты конфиденциальности пользователей существуют».
«Мы ожидаем, что организации будут прозрачно информировать пользователей о том, как используются их данные, и обрабатывать персональные данные только в той мере, в какой это необходимо для достижения конкретной цели«, — говорится в заявлении ведомства, опубликованном в среду. «Промышленность должна учитывать вопросы защиты данных с самого начала и тщательно оценивать и смягчать риски для прав и свобод людей, прежде чем выводить продукты на рынок«.