Anthropic неофициально предлагает Конгрессу свой законопроект о безопасности ИИ

что произошло

Anthropic неофициально предложила законодателям в Конгрессе США проект закона о безопасности и защищённости передовых ИИ-моделей, сообщило Politico со ссылкой на трёх осведомлённых людей. По тексту правительство сможет заблокировать выпуск или использование модели только при предсказуемом и неизбежном риске ущерба свыше 1 млрд долларов либо гибели или тяжёлых травм более чем 50 человек. Такой риск должен быть связан с биологическим оружием, выходом модели из-под контроля разработчика или кибератакой.

Независимые оценщики, зарегистрированные в Минторге США, будут регулярно проверять лаборатории и их передовые модели. Лаборатории смогут платить им, если оплата не зависит от результата проверки. Обнаружив неизбежный риск, оценщики обязаны сообщить об этом в Минторг в течение 72 часов. Приостановить модель через суд сможет только Минторг, а остальным ведомствам это запрещено. Решение может вынести федеральный судья в округе Колумбия. Anthropic и Минторг на запросы комментариев сразу не ответили.

почему это важно

Для рынков это регуляторная новость с косвенным эффектом: правила для передовых ИИ-моделей могут влиять на темпы выпуска новых систем, а значит и на акции компаний ИИ и расходы на облачные сервисы. Пока это закрытое предложение, и его дальнейшая судьба неясна.

теги

инструменты