Издание 404 Media 14 сентября опубликовало расследование о программе Project Lily. Согласно полученным документам, OpenAI нанимает сотни внешних работников для анализа реальных переписок пользователей с ChatGPT. Задача этих сотрудников — оценивать ответы нейросети, критиковать их и помогать компании корректировать поведение чат-бота, например, предотвращая чрезмерную имитацию человеческих черт.
Хотя компания использует систему Privacy Filter для автоматического удаления персональных данных перед тем, как сообщения попадут к ревьюерам, этот механизм не гарантирует полной защиты. Согласно документам, система допускает ошибки, из-за чего в руки проверяющих может попадать конфиденциальная информация. При этом, как утверждает OpenAI, имена пользователей в диалогах не раскрываются.
Пользователи могут ограничить использование своих данных для обучения нейросетей. В настройках веб-версии необходимо перейти в «Настройки» (Configuración) > «Контроль данных» (Controles de datos) и деактивировать опцию «Улучшение модели для всех» (Mejorar el modelo para todos). Сделанные изменения синхронизируются на всех устройствах, привязанных к одному аккаунту.
Для конфиденциальных бесед можно воспользоваться функцией «Временный чат» (Temporary Chat). В этом режиме переписка не сохраняется в истории, не используется для обучения моделей и не создает «воспоминаний» для ИИ. Такие чаты хранятся лишь ограниченное время для обеспечения безопасности и проверки на предмет злоупотреблений.
Важно учитывать, что даже при отключенном обучении моделей отправка отзыва через кнопки одобрения или неодобрения ответа позволяет OpenAI использовать весь текст соответствующего диалога для тренировки нейросети. Компания официально предупреждает, что информация в таких случаях передается для оценки взаимодействия.
Оригинал: https://www.20minutos.es/tecnologia/inteligencia-artificial/chatgpt-conversaciones-revisadas-humanos-project-lily-como-evitarlo_7036842_0.html
