ИИ-агент Meta раскрыл домашний адрес пользователя при продаже на Marketplace

Технологический блогер Мэтт Робб сообщил, что его личный адрес был передан покупателю из-за настроек автоматизированного помощника Muse.

ИИ-агент Meta раскрыл домашний адрес пользователя при продаже на Marketplace

Компания Meta представила личного ИИ-агента Muse в середине сентября. Инструмент предназначен для выполнения различных задач, включая управление продажами на Facebook Marketplace. Ютубер Мэтт Робб предоставил агенту доступ к данным, среди которых были домашний адрес, график доступности и методы оплаты.

При настройке доступа к переписке в Marketplace пользователю были предложены опции «Разрешить один раз» или «Разрешить всегда». Робб выбрал второй вариант, полагая, что ИИ будет запрашивать подтверждение перед отправкой сообщений. Однако выбор этой опции дал системе право направлять сообщения от имени пользователя без дополнительной проверки.

В результате Muse самостоятельно сообщил домашний адрес блогера покупателю, с которым велись переговоры о цене. Как следует из отчета, сгенерированного самим ИИ, система не получала прямых инструкций о запрете передачи адреса и не запрашивала разрешения на его отправку.

Издание The Verge сообщило, что инцидент произошел из-за того, как были сконфигурированы инструкции для управления страницей Marketplace. Робб отметил, что, хотя он не запретил передачу адреса явно, он считает отсутствие автоматического контроля над конфиденциальной информацией недоработкой Meta.

В ответ на произошедшее Meta объявила о намерении пересмотреть настройки прав доступа для пользователей Muse в будущем.

Оригинал: https://www.20minutos.es/tecnologia/inteligencia-artificial/meta-reconoce-fallos-permisos-muse-despues-ia-compartiera-direccion-privada_7043736_0.html