От нейросетей нельзя скрыться даже в библиотеке.
На этой неделе OpenAI представила новые модели искусственного интеллекта o3 и o4-mini – самые умные и мощные из созданных на сегодня. Пользователи нашли для них необычное применение – определение местоположение людей по фотографиям, пишет TechCrunch, передает unian.net
Уникальность этих нейросетей заключается в способности к рассуждению на основе загруженных фотографий. На практике это означает, что модели могут кадрировать, поворачивать и масштабировать изображения, даже размытые и искаженные, чтобы тщательно их проанализировать.
Пользователи быстро заметили, что модель o3 особенно хорошо определяет города, достопримечательности и даже рестораны и библиотеки по едва заметным визуальным подсказкам. Twitter наполнена примерами того, как пользователи дают ChatGPT меню ресторанов, снимки окрестностей и фасадов.
При этом многие указывают чат-боту представить, что он играет в GeoGuessr – известную браузерную игру, где нужно определить свое местоположение по панораме Google Street View.
Так, к примеру, получив случайную фотографию, сделанную в библиотеке, o3 верно и очень быстро определил, что она из Мельбурнского университета.
На деле эта функция ChatGPT работала еще выхода o3 и o4-mini, обратили внимание в TechCrunch: его журналисты попробовали провернуть тот же трюк с версией чат-бота на основе модели 4o – он справился не хуже и отвечал быстрее. Модель o3 как более мощная чаще отвечала правильно ответы, но в некоторых ситуациях давала сбои.
Как отмечает издание, подобные функции сразу вызывают опасения с точки зрения конфиденциальности. Ничто не мешает злоумышленнику сделать скриншот, скажем, Instagram Stories какого-либо пользователя и с помощью ChatGPT попытаться скомпрометировать его.
В отчетах о безопасности для моделей o3 и o4-mini компания OpenAI о таком применении не упомянула, но в комментарии TechCrunch заверила, что меры для защиты пользовательских данных были предприняты до их запуска. Но подробностями не поделилась.
