Новый продукт Microsoft в области искусственного интеллекта звучит как кошмар-антиутопия

Это была большая пара дней для Microsoft. На ежегодной конференции Build, проходящей с 21 по 23 мая в Сиэтле, компания сделала множество анонсов о предстоящих технологиях, причем большая часть из них была посвящена интеграции искусственного интеллекта в будущие устройства. Но есть один анонс, который уже вызвал споры и может даже привести компанию к судебному разбирательству.

Функция “Recall”, работающая на базе искусственного интеллекта, о которой Microsoft говорит как об “исследуемой временной шкале прошлого вашего ПК”, с момента своего появления вызвала недоумение как экспертов, так и обывателей – и это понятно, ведь вся ее фишка заключается в том, чтобы буквально каждые несколько секунд делать скриншоты вашего активного экрана и сохранять их локально. Затем программа сможет искать по этим скриншотам, а также по всем прошлым действиям пользователя — файлам, фотографиям, электронным письмам, истории просмотров, и так далее.

Советник по вопросам ИИ и конфиденциальности доктор Крис Шришак заявил BBC, что это потенциальный “кошмар для частной жизни”.

“Сам факт того, что скриншоты будут делаться во время использования устройства, может оказать на людей отпугивающее воздействие“, — сказал Шришак. “Люди могут избегать посещения определенных сайтов и доступа к документам, особенно конфиденциальным, если Microsoft будет делать скриншоты каждые несколько секунд“.

Microsoft, тем временем, подчеркнула, что в устройстве предусмотрены меры предосторожности: конфиденциальность была “встроена […] в дизайн Recall с самого начала“, заявляет компания, и пользователи могут ограничить время, когда делаются скриншоты.

“Снимки Recall хранятся […] на локальном жестком диске и защищены с помощью шифрования данных на вашем устройстве“, — говорят в компании. “Снимки экрана Recall привязаны только к конкретному профилю пользователя, и Recall не передает их другим пользователям, не делает их доступными для просмотра Microsoft и не использует их для нацеливания рекламы […] Снимки экрана Recall не доступны другим пользователям и не доступны другим приложениям или службам”.

Звучит обнадеживающе, но эксперты по безопасности в этом не уверены. Сама Microsoft отмечает, что конфиденциальная информация, например пароли и номера финансовых счетов, не будет скрыта на скриншотах; поэтому компьютер, на котором неправильно настроены параметры конфиденциальности Recall, или нацелен на вредоносное ПО, или просто не работает, может представлять угрозу безопасности в огромных масштабах.

“Это одномоментная атака для преступников“, — сказал TechRadar Мухаммад Яхья Патель, ведущий инженер по безопасности Check Point.

“[Это] как взять и уйти, но с Recall у них, по сути, будет все в одном месте [в базе данных снимков экрана]“, — сказал Патель. “Представьте себе золотую жилу информации, которая будет храниться на компьютере, и то, что могут сделать с ней злоумышленники“.

На самом деле вопросы, связанные с Recall, настолько серьезны, что Microsoft уже столкнулась с юридическими проблемами — по крайней мере, в Великобритании, где Управление комиссара по информации (ICO), национальный орган по защите данных, подчиняющийся непосредственно парламенту, объявило, что оно “направляет запросы в Microsoft, чтобы понять, какие меры защиты конфиденциальности пользователей существуют”.

“Мы ожидаем, что организации будут прозрачно информировать пользователей о том, как используются их данные, и обрабатывать персональные данные только в той мере, в какой это необходимо для достижения конкретной цели“, — говорится в заявлении ведомства, опубликованном в среду. “Промышленность должна учитывать вопросы защиты данных с самого начала и тщательно оценивать и смягчать риски для прав и свобод людей, прежде чем выводить продукты на рынок“.