США: Anthropic продвигает в Конгрессе норму о судебной блокировке опасных ИИ-моделей.

Как сообщает Politico со ссылкой на источники, инициатива позволит через суд запрещать выпуск и использование систем искусственного интеллекта при риске ущерба минимум на $1 млрд либо гибели или тяжёлого травмирования более 50 человек.
Под судебный запрет могут попасть модели, угроза от которых связана с биологическим оружием, кибератаками или выходом из-под контроля разработчика. Законопроект также обязывает разработчиков внедрять внутренние системы контроля безопасности, публиковать отчёты и докладывать Минторгу США о масштабных сбоях.