Социальная платформа X начала пилотный проект по использованию ИИ для борьбы с дезинформацией. Компания тестирует функцию, которая позволит чат-ботам генерировать «Заметки сообщества» (Community Notes). Это попытка масштабировать и удешевить процесс проверки фактов на платформе.
Проблема модерации контента и фактчекинга актуальна для всех соцсетей. Поддерживать большие команды людей-модераторов дорого, а их работа не всегда успевает за огромным потоком информации. Система Community Notes, где пользователи сами добавляют контекст к сомнительным постам, уже показала свою эффективность и была скопирована другими платформами, например Meta и TikTok, передает incrussia.ru
Теперь X хочет пойти дальше и подключить к этому процессу ИИ. Идея в том, что чат-боты, такие как собственный Grok от X или другие модели, подключенные через API, будут создавать черновые версии заметок. Эти сгенерированные ИИ заметки затем будут проходить ту же процедуру проверки людьми-волонтерами, что и заметки, написанные пользователями.
Главная цель — создать цикл, в котором люди и большие языковые модели (LLM) работают вместе. Обратная связь от людей-рецензентов будет использоваться для дообучения ИИ, делая его со временем все более точным. Однако существуют и риски.
Основная опасность — это «галлюцинации» ИИ, когда модели выдумывают факты. Также есть опасение, что поток ИИ-сгенерированных заметок перегрузит волонтеров.
С другой стороны, этот шаг позволит компании xAI сократить издержки. Автоматизация части процесса модерации может сэкономить компании миллионы долларов. Пилотный проект продлится несколько недель. Если он окажется успешным, X может внедрить эту технологию на постоянной основе, создав прецедент для всей индустрии социальных медиа.