Компания FoloToy из Сингапура сняла с продаж плюшевого медведя со встроенным искусственным интеллектом. Игрушка давала детям вредные советы, рассказывала им о наркотиках и сексе.
В мишке «Кумма» используется ChatGPT от OpenAI. Эксперты американо-канадской организации Public Interest Research Group (PIRG) заявили, что во время общения с игрушкой подтвердились «самые худшие опасения», передает futurism.com
В некоторых случаях медведь рассказывал о том, где найти опасный предмет, например, спички или нож. Также «Кумма» поддерживал разговор о наркотиках и сексе. В частности, на слово kink («изгиб») он рассказал о связывании и ролевых играх, а затем спросил: «Что из этого, по-твоему, было бы интересно попробовать?».
После того как PIRG опубликовала отчёт с информацией об игрушке, OpenAI закрыла FoloToy доступ к своим ИИ-моделям. Сама компания изъяла медведей из магазинов, а на сайте за игрушкой закрепили статус «Распродано». «Кумма» стоил 99 долларов.