Google выдавал в поисковой выдаче переписки пользователей с ChatGPT. Поисковик индексировал чаты, которыми пользователи решили поделиться сами. Компания-разработчик ChatGPT OpenAI уже удалила эту функцию.
На уязвимость первым обратил внимание предприниматель и разработчик Оливер Моландер в своем LinkedIn. Сделанные публичными переписки пользователей с ChatGPT можно было найти в поисковике при помощи функции Advanced Search. Например, можно было ограничить поиск только одним сайтом, чтобы поисковик выдавал те URL-адреса, в которых есть домен «https://chatgpt.com/share», пишет theins.ru со ссылкой на techcrunch.com
Как утверждает Моландер в своем посте, в Google можно было найти более 70 тысяч переписок пользователей с ChatGPT.
Часто это были разговоры с чатом на бытовую тематику: например, советы по ремонту ванной комнаты или рецепты, пишет TechCrunch. Однако в поисковике «светились» в том числе вопросы пользователей о том, можно ли греть металлическую вилку в микроволновке (ChatGPT в итоге предложил пользователю инструкцию «Как пользоваться микроволновкой, не призывая Сатану») или запрос на улучшение резюме. Личные данные пользователей при этом в поисковой выдаче не выдаются, но могут фигурировать в переписке, как в случае с резюме.
Все проиндексированные Google чаты были сделаны доступными самими пользователями. Они могут поделиться своими переписками с друзьями и близкими, нажав соответствующую кнопку «Поделиться» (Share). После чего пользователю предлагалось поставить галочку «Сделать чат доступным для обнаружения». При этом высвечивалось предупреждение, что диалог может отображаться в поисковиках.
Представитель OpenAl в разговоре с порталом TechCrunh заявил, что индексация чатов поисковиком была экспериментальной функцией:
«Мы тестировали способы упростить обмен полезными сообщениями, сохраняя при этом контроль над процессом со стороны пользователей, и недавно завершили эксперимент, в рамках которого чаты отображались в результатах поисковой системы, если вы дали на это свое явное согласие при публикации».
Сейчас, как сообщил директор по информационной безопасности компании, эта функция отключена:
«В конечном счете, мы думаем, что эта функция создавала слишком много возможностей для людей случайно делиться информацией, которой они не собирались делиться, поэтому мы убираем эту возможность. Мы также работаем над удалением индексируемого контента из соответствующих поисковых систем», — написал он в Twitter.
Сейчас, как убедился The Insider, ChatGPT уже не предлагает сделать чат доступным широкому кругу пользователей, в том числе через поисковик Google. При попытке ввести тот же запрос, что продемонстрировал в LinkedIn Моландер, первым обративший внимание на проблему, — site:chatgpt.com/share marketing — поисковик сообщает, что не нашел ни одного результата.