Теперь разработчики нейросетей не смогут игнорировать риски, которые несут их продукты.
Губернатор Калифорнии Гэвин Ньюсом подписал новый закон, который вводит обязательные правила безопасности для компаний, разрабатывающих чат-ботов с искусственным интеллектом (ИИ), передает mentoday.ru
Как сообщает портал Digital Trends, законодательный акт стал первым на территории Соединенных Штатов, который официально регулирует сегмент стремительно растущей индустрии ИИ.
Закон, который вступит в силу в 2026 году, напрямую затронет такие крупные компании, как Meta (деятельность компании признана экстремистской и запрещена в РФ), Character AI и Replika.
Согласно новым требованиям, разработчики будут обязаны внедрить строгие меры безопасности, направленные в первую очередь на защиту несовершеннолетних и других уязвимых категорий пользователей от потенциально вредоносного контента и манипулятивного взаимодействия.
Ключевые положения закона включают три основных требования:
- Компании должны будут внедрить надежные системы верификации возраста, чтобы ограничить доступ детей к контенту, не соответствующему их возрасту.
- Они обязаны разработать и применять четкие протоколы на случай, если в диалоге с чат-ботом пользователь упоминает самоповреждение или суицидальные намерения.
- 3акон требует, чтобы компании прозрачно и недвусмысленно информировали пользователей о том, что они ведут диалог с искусственным интеллектом, а не с реальным человеком.
Принятию данного закона предшествовали общественные дискуссии и ряд инцидентов, вызвавших широкий резонанс, включая случаи суицида среди подростков, которые, как сообщается, произошли после тревожных и деструктивных разговоров с ИИ-ботами.
Основное беспокойство у законодателей вызывает растущая способность современных чат-ботов имитировать человеческое общение и дружбу, что делает их особенно привлекательными для одиноких или эмоционально уязвимых людей. По мнению экспертов, такое взаимодействие может приводить к распространению дезинформации, финансовой эксплуатации и нанесению психологического вреда.
Принятый калифорнийский закон должен оказать существенное влияние на всю отрасль. По замыслу, он должен установить важные «ограждения» и повысить уровень прозрачности и безопасности при взаимодействии с ИИ, особенно для детей.
Для технологических компаний это означает необходимость пересмотра своих продуктов и внедрения новых механизмов ответственности.
Предполагается, что другие штаты будут внимательно следить за опытом Калифорнии, и данный закон может стать моделью для разработки аналогичного законодательства на национальном уровне, что в конечном итоге полностью изменит правила создания и контроля за нейросетями.