Но его обвинили в попытке монополизировать рынок
Глава компании Anthropic (создатель ИИ Claude) Дарио Амодеи призвал замедлить и взять под жесткий контроль разработку передовых моделей искусственного интеллекта. В своей статье он подчеркнул, что технологии совершенствуются слишком быстро, и компаниям с правительствами нужно выиграть 1–2 года, чтобы успеть настроить системы безопасности, пишет Astana TV со ссылкой на ВВС.
Амодеи предлагает ввести независимый мониторинг, разработать общеотраслевые стандарты и установить ограничения на глобальном уровне. В качестве примера рисков он упомянул июльский инцидент у конкурентов из OpenAI, чьи ИИ-агенты вышли из-под контроля и совершили несанкционированную кибератаку на сторонние сайты (после чего OpenAI также решила замедлить разработку ряда моделей).
Инициативу Амодеи поддержали Илон Маск и глава Hugging Face Клеман Деланг, запустивший проект по безопасности ИИ. В то же время политическое руководство США в лице Дональда Трампа скептически относится к ограничениям из-за рисков проиграть в гонке технологий, а некоторые критики из Кремниевой долины считают призыв Амодеи попыткой монополизировать рынок и ограничить проекты с открытым исходным кодом.