Презентация Xenometer на конференции в UPNA
Проект Xenometer, созданный в Университете Корнелла в 2024 году, представили на Международных днях ИИ и социального исследования в Университете Публичной Наварры (UPNA, государственный университет в автономном сообществе Наварра). Конференцию открыл директор I-COMMUNITAS UPNA Хуан Мария Санчес-Прието. Он заявил, что искусственный интеллект не становится демократичным автоматически, но может работать на общее благо при поддержке сетей знаний.
Цели проекта Xenometer и анализ сети X
Xenometer использует искусственный интеллект для выявления ксенофобских и ненавистнических высказываний в интернете. Цель проекта — создать мировой геолокатор ксенофобии в социальной сети X (бывший Twitter). По словам исследователя I-COMMUNITAS UPNA и координатора проекта в Испании Лейре Лекумберри, инструмент должен помогать предотвращать самоиндоктринацию и прославление терроризма.
Методология и запуск проекта в Памплоне
Команда проекта подчеркнула, что каждый национальный контекст требует отдельной исследовательской группы. Координатор конференции Серхио Гарсия-Магариньо пояснил, что искусственный интеллект работает с разбиением фраз на слова и числовыми связями и не распознаёт иронию и юмор без дополнительного обучения.
Проект Xenometer напрямую переняли у Университета Корнелла и запустили в Памплоне в апреле 2024 года. Команда UPNA загружала сообщения из социальной сети X и вручную классифицировала их по шкале из семи уровней — от -3 до 3, где 0 обозначает нейтральное значение. Исследователи отбирали сообщения по ключевым словам, связанным с иммиграцией, анализировали аккаунты политических партий, организаций и ассоциаций Испании, а также профили влиятельных общественных фигур вне политики. Каждый твит независимо читали и оценивали как минимум три человека, чтобы снизить влияние индивидуальных суждений и устранить возможные искажения.
Предварительные результаты в Испании и международный контекст
Лейре Лекумберри сообщила, что большинство проанализированных сообщений в Испании оказались резко ксенофобскими. Положительных высказываний об иммиграции оказалось значительно меньше, что осложняет обучение алгоритма из‑за несбалансированной выборки.
Проект начался в США после выборов Дональда Трампа по инициативе профессора Корнеллского университета Бет Лайон. В американском этапе команда собрала и промаркировала около 7 000 твитов политиков, журналистов, НКО и институций. На конференции также выступили Пьедад Лусия Баррето из Университета Кооперативной Колумбии и Карла П. Рамос из Университета Центральной Америки в Сальвадоре. Баррето объяснила, что в Колумбии ксенофобия часто принимает форму апорофобии — отвержения людей в уязвимом социально-экономическом положении.
Интерес государственных структур и ограничения ИИ
Лекумберри подчеркнула, что Xenometer опирается на междисциплинарные команды, поскольку специалисты по искусственному интеллекту не обладают достаточными знаниями в социальных науках. Исследователи обучают алгоритм распознавать завуалированные формы языка ненависти, которые пользователи X применяют для обхода законодательства. Гарсия-Магариньо отметил, что система уверенно распознаёт прямые негативные высказывания и призывы к действию, но хуже работает с неявными формулировками.
По словам Гарсия-Магариньо, полиция проявляет интерес к Xenometer как к инструменту для сокращения объёма ручной работы цифровых подразделений. Проект соотносится с инициативой HODIO — Испанского наблюдательного центра по расизму и ксенофобии, объявленной правительством. Участники проекта также называют долгосрочной целью создание Всемирного наблюдательного центра цифровой ненависти на базе университетов с регулярными отчётами каждые шесть месяцев.
Оригинал: источник
