По мнению создателя Claude, сразу несколько ведущих разработчиков ИИ должны одновременно остановить дальнейшее наращивание возможностей своих моделей
Джек Кларк, сооснователь компании Anthropic, одиного из ведущих разработчиков искусственного интеллекта, заявил, что новейшие ИИ-модели начинают демонстрировать признаки выхода из-под человеческого контроля и могут скоро развиваться полностью автономно. Он призывает техгигантов и правительства мира срочно создать механизмы, способные замедлить это развитие, пока индустрия не оказалась в ситуации, где есть только «педаль газа», но нет «тормоза», пишет Astana TV со ссылкой на ВВС.
Сооснователь Anthropic Джек Кларк в интервью программе BBC Newsnight заявил, что технология приближается к этапу, когда сможет развиваться без участия человека. По его мнению, человечеству необходимо иметь возможность «убрать ногу с педали газа и нажать на тормоз».
Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза», — считает он.
По его словам, люди должны сохранить контроль над системами ИИ через государственное регулирование и политические механизмы, поскольку эти технологии будут становиться все более мощными и все сильнее влиять на общество.
Недавно Anthropic — разработчик семейства моделей Claude — выпустила доклад, в котором назвала замедление разработки передовых систем ИИ во всем мире «полезным шагом». Однако, подчеркивается в докладе, если исследования остановит только одна компания, ее конкуренты просто уйдут вперед.
По словам руководства Anthropic, реальная пауза возможна лишь в том случае, если сразу несколько ведущих разработчиков ИИ в разных странах — прежде всего в США и Китае — одновременно согласятся остановить дальнейшее наращивание возможностей своих моделей в рамках системы, соблюдение которой можно будет независимо проверять.
Однако крупнейшие игроки отрасли, включая саму Anthropic, OpenAI и Google пока не заявляли о готовности приостановить собственные исследования.
Как сделать «педаль тормоза»?
По словам Джека Кларка, популярный чат-бот Claude, разработанный компанией Anthropic, уже работает на программном коде, который примерно на 80% система написала самостоятельно.
По его оценке, в течение ближайших двух лет этот показатель может достичь 100%, что будет иметь «огромные последствия».
Кларк не уточнил, каким именно образом можно создать «педаль тормоза» для исследований и разработок в сфере искусственного интеллекта, но провел аналогию с нефтяным бумом начала XX века.
Ответом общества стало создание разумной системы регулирования и правил, которые позволили людям доверять нефтяной отрасли и тем преимуществам, которые она могла дать миру. Благодаря этому не приходилось полагаться исключительно на личные качества людей, стоявших во главе компаний. Именно к этому мы, очевидно, в итоге придем и в случае с искусственным интеллектом», — считает Кларк.