Джек Кларк, сооснователь компании Anthropic, одиного из ведущих разработчиков искусственного интеллекта, заявил, что новейшие ИИ-модели начинают демонстрировать признаки выхода из-под человеческого контроля и могут скоро развиваться полностью автономно. Он призывает техгигантов и правительства мира срочно создать механизмы, способные замедлить это развитие, пока индустрия не оказалась в ситуации, где есть только «педаль газа», но нет «тормоза», пишет Astana TV со ссылкой на ВВС.
Сооснователь Anthropic Джек Кларк в интервью программе BBC Newsnight заявил, что технология приближается к этапу, когда сможет развиваться без участия человека. По его мнению, человечеству необходимо иметь возможность «убрать ногу с педали газа и нажать на тормоз».
Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза», — считает он.
По его словам, люди должны сохранить контроль над системами ИИ через государственное регулирование и политические механизмы, поскольку эти технологии будут становиться все более мощными и все сильнее влиять на общество.
Недавно Anthropic — разработчик семейства моделей Claude — выпустила доклад, в котором назвала замедление разработки передовых систем ИИ во всем мире «полезным шагом». Однако, подчеркивается в докладе, если исследования остановит только одна компания, ее конкуренты просто уйдут вперед.
По словам руководства Anthropic, реальная пауза возможна лишь в том случае, если сразу несколько ведущих разработчиков ИИ в разных странах — прежде всего в США и Китае — одновременно согласятся остановить дальнейшее наращивание возможностей своих моделей в рамках системы, соблюдение которой можно будет независимо проверять.
Однако крупнейшие игроки отрасли, включая саму Anthropic, OpenAI и Google пока не заявляли о готовности приостановить собственные исследования.
По словам Джека Кларка, популярный чат-бот Claude, разработанный компанией Anthropic, уже работает на программном коде, который примерно на 80% система написала самостоятельно.
По его оценке, в течение ближайших двух лет этот показатель может достичь 100%, что будет иметь «огромные последствия».
Кларк не уточнил, каким именно образом можно создать «педаль тормоза» для исследований и разработок в сфере искусственного интеллекта, но провел аналогию с нефтяным бумом начала XX века.
Ответом общества стало создание разумной системы регулирования и правил, которые позволили людям доверять нефтяной отрасли и тем преимуществам, которые она могла дать миру. Благодаря этому не приходилось полагаться исключительно на личные качества людей, стоявших во главе компаний. Именно к этому мы, очевидно, в итоге придем и в случае с искусственным интеллектом», — считает Кларк.
