Американец Гвидо Райхштадтер уже более двух недель отказывается от еды, протестуя против создания систем искусственного интеллекта человеческого уровня.
Он требует от компаний приостановить разработку так называемого общего искусственного интеллекта, видя в этом серьезную угрозу для будущего человечества, передает focus.ua
Как сообщает The Verge, Райхштадтер начал свой протест 31 августа. Ежедневно, с 2 сентября, он приходит в штаб-квартиру стартапа Anthropic в Сан-Франциско и проводит там несколько часов с плакатом, на котором написан призыв «остановить гонку к искусственному интеллекту общего уровня». По словам протестующего, он чувствует себя относительно хорошо, хотя двигается медленнее из-за голодания.
Райхштадтер называет разработку AGI (Artificial General Intelligence) «безумием и чрезвычайным риском», ведь компании, по его мнению, стремятся создать сверхумные системы без достаточных гарантий безопасности. Он обратил внимание на интервью руководителя Anthropic Дарио Амодея, который признал, что вероятность катастрофических последствий от таких технологий может достигать 10-25%. По мнению активиста, это подтверждает безответственность отрасли.
«Я пытаюсь выполнить свой долг как гражданин, который заботится о жизни и будущем своих соотечественников», — сказал Райхштадтер, отметив, что у него двое детей. Он также призвал инженеров и ученых в сфере искусственного интеллекта действовать как люди, а не как инструменты корпораций, ведь они несут наибольшую ответственность за потенциально опасные технологии.
Anthropic не предоставила комментариев относительно акции.
В то же время протест активиста вдохновил других. В Лондоне возле офиса Google DeepMind начали голодовку еще два человека, а в Индии к акции присоединился участник, который транслирует ее онлайн. Один из лондонских протестующих, Майкл Трацци, голодал неделю, но был вынужден остановиться по медицинским причинам. Впрочем, другой активист, Денис Шеремет, продолжает акцию уже десятый день.
Трацци в письме к руководителю DeepMind Демису Хассабису призвал компанию публично согласиться на остановку разработки передовых моделей ИИ, если все остальные игроки рынка сделают то же самое. Он считает, что только международная координация может предотвратить опасные последствия.
Компания Google DeepMind в ответ подчеркнула, что безопасность и ответственность остаются приоритетами при создании новых технологий.
Райхштадтер и Трацци говорят, что еще не получили личных ответов от руководителей Anthropic или DeepMind. Несмотря на это они убеждены: их действия помогут привлечь внимание к рискам, которые несет бесконтрольная гонка в сфере искусственного интеллекта.
«Мир оказался в глобальной гонке к катастрофе. Если есть выход, он в готовности признать, что мы не контролируем ситуацию, и попросить помощи, — подчеркнул Райхштадтер.