Как утверждают специалисты американской компании OpenAI, их будущие модели искусственного интеллекта станут настолько продвинутыми, что с их помощью можно будет создавать совершенно новое биологическое оружие.
В блоге представители компании сообщили, что, несмотря на создание все более продвинутых моделей, которые будут иметь «положительные варианты использования, такие как биомедицинские исследования и биологическая защита», они считают своим долгом балансировать на грани между «обеспечением научного прогресса и сохранением барьера для вредоносной информации», передает naked-science.ru
Эта «вредная информация», по-видимому, включает в себя возможность «помощи высококвалифицированным специалистам в создании биологического оружия».
«Физический доступ к лабораториям и конфиденциальным материалам остается препятствием, но эти препятствия не абсолютны», — говорится в сообщении OpenAI.
В заявлении для издания Axios руководитель отдела безопасности OpenAI Йоханнес Хайдеке пояснил: хотя компания не уверена, что ее будущие ИИ смогут самостоятельно производить биологическое оружие, они будут достаточно продвинутыми, чтобы помочь в этом начинании людям.
Руководитель отдела безопасности OpenAI также признал, что пока модели не достигли нужного уровня. В компании ожидают, что «некоторые из преемников o3 [модели рассуждений] достигнут этого уровня».