Meta конкурирует сразу в двух направлениях: развивает искусственный интеллект и ищет формат «нового смартфона». В этой стратегии компания делает ставку на умные очки с ИИ, включая Ray-Ban Meta 2. Эти устройства технически могут записывать изображения, звук и видео пользователя, включая повседневные и интимные ситуации.
Расследование Svenska Dagbladet о данных Meta и Ray-Ban Meta 2
Шведское издание Svenska Dagbladet опубликовало расследование о процессе обучения ИИ Meta, который работает в умных очках. Для этого компания собирает разговоры, фотографии и видео пользователей и отправляет их крупными пакетами подрядным компаниям. Эти материалы затем попадают в системы обучения ИИ.
Компания Sama в Кении и ручная разметка данных Meta
Одним из подрядчиков стала компания Sama, которая работает в Кении. Бывшие и действующие сотрудники Sama рассказали журналистам, что в ходе работы они видят записи обычных действий людей в частной обстановке. По их словам, эти данные предназначены для ручной разметки.
Meta использует так называемые «центры человеческих данных», где сотрудники вручную размечают изображения и видео. Этот процесс называют этикетированием. Работники выделяют контуры людей, подписывают объекты вроде лампы, машины, книги и компьютера, а также отмечают дорожные знаки и другие элементы среды, после чего компания формирует наборы данных для обучения ИИ.
Сбои анонимизации и сцены частной жизни пользователей
Перед передачей материалов Meta проводит автоматическую анонимизацию, которая размывает лица и скрывает чувствительную информацию. Однако бывшие сотрудники центров этикетирования в США сообщили Svenska Dagbladet, что при сложном освещении или нестандартных условиях алгоритмы дают сбой. В таких случаях лица и тела людей остаются различимыми.
Когда защита не срабатывает, сотрудники Sama видят необработанные сцены. Один из работников в Кении рассказал, что на видео иногда видно, как люди идут в туалет или раздеваются, вероятно не осознавая, что запись продолжается. Сотрудники также сталкиваются с записями сексуальных контактов, случайной съёмкой обнажённых партнёров и видео, где очки лежат на поверхности и фиксируют переодевание.
Помимо видео, работники читают текстовые расшифровки разговоров о протестах, преступлениях и других темах. Один из сотрудников заявил, что утечка таких клипов вызвала бы «огромный скандал».
Условия Meta AI и позиция компании
В условиях Meta AI указано, что для работы ассистента пользователь должен предоставить голос, текст, изображения и видео. Компания также сообщает, что может проверять взаимодействия с ИИ автоматически или вручную, включая содержание разговоров. Без согласия с этими условиями пользователь не может пользоваться Meta AI.
Meta уточняет, что очки начинают запись видео и звука при нажатии физической кнопки или при использовании голосовой команды «Ey Meta». Представитель Meta Джойс Омоупе заявила, что компания обрабатывает данные в соответствии с условиями обслуживания и политикой конфиденциальности Meta AI. Анонимный топ-менеджер Meta сообщил Svenska Dagbladet, что местоположение серверов не имеет значения, если страна соответствует требованиям Европейского союза, и подчеркнул, что эти заявления касаются хранения данных, а не их использования для обучения ИИ.
Ранее Meta уже сталкивалась с критикой из-за ручной проверки пользовательских данных. Компания признавала анализ сообщений и изображений в Messenger и Instagram для контроля контента, а сотрудники центров модерации, включая офис в Барселоне, сообщали о тяжёлых условиях труда и подаче исков о компенсациях. В отдельных случаях нагрузка доходила до 800 видео в день.
Этикетирование данных для ИИ часто сосредоточено в развивающихся странах. В Кении работают несколько таких центров, включая Sama, а журналисты ранее сообщали о похожих схемах в Индии и о случаях удалённой помощи сотрудников на Филиппинах при управлении роботакси Waymo. Журналисты Xataka сообщили, что обратились в Meta за дополнительными комментариями и обновят материал после получения ответа.
Оригинал: источник
