ИИ-модель ChatGPT от компании OpenAI по запросам пользователей предоставляла подробные и точные инструкции по созданию биологического оружия и ядов. Об этом сообщила газета The Wall Street Journal (WSJ).
Источник: Unsplash
По данным издания, среди запросов пользователей были вопросы о распылении патогенов, модификации вируса кори, устойчивой к вакцинации, а также о приготовлении рицина — яда, запрещенного международными договорами. В одном из случаев пользователь, получив инструкции подобного характера, упомянул о намерении убить своих родителей. Компания OpenAI заблокировала аккаунты этих пользователей, однако не уведомила о ситуации правоохранительные органы, поскольку в США до сих пор нет федеральных законов, обязывающих ИИ-компании информировать о подобных инцидентах.
Источники сообщили изданию, что ответы чат-бота были изучены экспертами в сфере терроризма и биологии. По их мнению, некоторые их инструкций были «смертельно точными».
Как отмечает WSJ, высокопоставленные чиновники Белого дома и Минобороны США обсуждали угрозу использования ИИ для разработки биологического оружия еще во время президентского срока Джо Байдена. Правительство США пытается ужесточать контроль за ИИ моделями — недавно министерство торговли на время ограничило использование двух моделей Anthropic за рубежом, напоминает газета. По информации газеты, федеральные законы США обязывают ИИ-компании следить за тем, чтобы модели не использовались для создания порнографических материалов с детьми. Однако в том, что касается других сфер, компании сами решают, «где проводить линию», пишет WSJ.
.png "Получай новости на почту. Подписаться")