Ключевые выводы
- Эксперты по конфиденциальности выражают обеспокоенность по поводу использования Facebook общедоступных фотографий Instagram для обучения искусственного интеллекта.
- Программу научили распознавать изображения, показывая компьютеру более 1 миллиарда общедоступных фотографий.
- Политика конфиденциальности Instagram включает раздел, который сообщает пользователям, что информация может быть использована в исследованиях и разработках.
Использование Facebook фотографий из Instagram для обучения искусственного интеллекта вызывает обеспокоенность по поводу конфиденциальности.
Гигант социальных сетей недавно объявил, что создал программное обеспечение, которое может учиться на том, на что смотрит. Программу научили распознавать изображения путем просмотра более 1 миллиарда общедоступных фотографий. Эксперты говорят, что пользователи должны знать, что Facebook использует их фотографии.
«Все дело в том, чтобы знать согласие», - сказал Джеймс Э. Ли, главный операционный директор Ресурсного центра по краже личных данных, в интервью по электронной почте.
"Политика конфиденциальности Instagram, которую большинство людей, вероятно, не читают, очень четко указывает, что компания оставляет за собой право использовать фотографии, которые вы публикуете, для исследований. Пользователи могут включать и выключать распознавание лиц в своих настройках конфиденциальности."
Лучше, чем остальные
Программа Facebook, получившая прозвище SEER для самоконтроля, превзошла другие модели искусственного интеллекта (ИИ) в тесте на распознавание объектов, заявила компания. Программа получила «оценку точности классификации» 84.2%, когда он прошел тест, проверяющий, может ли программа ИИ определить, что изображено на картинке.
«Производительность SEER демонстрирует, что обучение с самоконтролем может преуспеть в задачах компьютерного зрения в реальных условиях», - говорится в сообщении в блоге компании.
"Это прорыв, который в конечном счете открывает путь для более гибких, точных и адаптируемых моделей компьютерного зрения в будущем."
Хотя условия Facebook могут позволять им использовать пользовательские данные таким образом, большинство пользователей прямо и активно не осознают, что их данные добываются для таких целей.
Если SEER будет запущен в коммерческую эксплуатацию, SEER поможет идентифицировать объекты, а не людей, не будучи запрограммированным на распознавание по метке того, что изображено на фотографии, сказал Ли. «Это более эффективный и быстрый способ, чем текущий метод, который требует огромных наборов данных для сопоставления объекта с его идентификатором», - добавил он.
"Всегда существует вероятность неправомерного использования, но есть и законные потенциальные преимущества такого рода технологий."
Программа Facebook может помочь компании лучше контролировать контент, который нарушает ее политику, например, ограничивая нежелательное использование непристойных или графических изображений, сказала в интервью по электронной почте Эйми О’Дрисколл, исследователь безопасности на сайте конфиденциальности Comparitech. Его также можно использовать для автоматического описания изображений, улучшая пользовательский опыт для людей с нарушениями зрения.
Вы уже согласились на эту программу
Политика конфиденциальности Instagram включает раздел, который сообщает пользователям, что информация может быть использована в исследованиях и разработках. «Компания использует свои данные для другой части своего бизнеса, подобно тому, как она использует пользовательские данные для поддержки своего рекламного бизнеса», - сказал О’Дрисколл.
"Даже в этом случае пользователи могут чувствовать себя некомфортно из-за того, что их изображения используются таким образом."
Яшар Бехзади, генеральный директор Synthesis AI, компании, которая использует искусственный интеллект для компьютерного зрения, сказал, что последние достижения Facebook в области искусственного интеллекта представляют собой «значительное улучшение» возможностей компьютерного зрения.
"Пользователи, скорее всего, могут рассчитывать на улучшенную пометку изображений и контекстный поиск, а рекламодатели выиграют от более точного таргетинга пользователей", – добавил он.
Но подход Facebook к использованию миллиардов изображений Instagram вызывает серьезные проблемы с конфиденциальностью и нормативными требованиями, сказал Бехзади.
«Хотя условия Facebook могут позволять им использовать пользовательские данные таким образом, большинство пользователей явно и активно не осознают, что их данные добываются для таких целей», - сказал он.
"Мы считаем, что компании должны быть более откровенными и прозрачными с пользователями, предоставляя им полный контроль над своими данными."
Многие другие компании использовали искусственный интеллект для идентификации содержимого изображения, отметил Бобби Гилл, генеральный директор разработчика приложений Blue Label Labs, в интервью по электронной почте. «Тем не менее, беспокоит тот факт, что это почти наверняка будет использоваться для маркетинга», - добавил он.
Новая программа может вызвать потенциальные проблемы с конфиденциальностью, в зависимости от того, как Facebook планирует использовать систему, сказал Гилл.
«Эти данные, вероятно, будут доступны техническим маркетологам, которые будут использовать их для определения определенных тенденций на основе различных элементов, идентифицированных на изображении», - сказал он..
Например, возможность извлекать информацию из изображений, которые публикуют люди, добавляет еще одно измерение для ассоциативных систем, которые обычно используют поведение для профилирования и нацеливания на людей. Может прийти к выводу, что любой, скажем, лягушки в 3- 7% их фотографий с большой вероятностью покупают домашнее оборудование для фитнеса».
