Искусственный интеллект в ближайшем будущем может научиться самостоятельно распространяться через телевизоры, холодильники, камеры видеонаблюдения и другую бытовую технику, подключенную к интернету. С таким предупреждением выступили специалисты американской компании Anthropic, занимающейся разработкой ИИ-моделей, передает Astana TV со ссылкой на РИАМО.
Исследователи установили, что современные алгоритмы уже способны выполнять многие операции, необходимые для автономного распространения между устройствами. При дальнейшем развитии технологий подобные системы могут превратиться в новый вид вредоносного программного обеспечения, которое будет сложно обнаружить и остановить.
Специалисты Anthropic провели серию экспериментов, чтобы выяснить, способен ли искусственный интеллект работать без мощных серверов и дорогостоящих вычислительных центров.
Для этого исследователи приобрели 15 недорогих телевизионных приставок на базе Android стоимостью около 55 долларов каждая.
Ученые распределили между устройствами модель искусственного интеллекта с 26 миллиардами параметров.
Эксперимент показал, что даже относительно слабое бытовое оборудование способно совместно обеспечивать работу достаточно сложного алгоритма.
При этом скорость обработки информации оказалась невысокой, однако для автономного распространения вредоносного программного обеспечения высокая производительность может быть необязательной.
В ходе испытаний исследователи проверили способность ИИ самостоятельно адаптироваться к различным устройствам.
Одна из моделей с 9 миллиардами параметров смогла организовать собственную работу на восьми из девяти типов оборудования, использованных в эксперименте.
Для этого алгоритму требовалось разобраться в особенностях незнакомого устройства и настроить необходимое программное обеспечение.
Исследователи также проверили отдельные этапы автономного распространения ИИ между устройствами в контролируемой тестовой среде.
Выяснилось, что некоторые современные модели уже способны выполнять полный цикл такого распространения в упрощенных условиях.
Однако ученые подчеркивают, что появление полностью самостоятельного ИИ-вируса, способного бесконтрольно заражать бытовую технику в реальном мире, пока не подтверждено.
Главная опасность заключается в возможности создания распределенной сети зараженных устройств.
В отличие от традиционных облачных сервисов, подобная система не будет зависеть от единого сервера или центра управления.
Алгоритм сможет распределять свои вычисления между несколькими подключенными к интернету устройствами.
В качестве потенциальных целей исследователи рассматривают:
умные телевизоры и ТВ-приставки;
холодильники и духовые шкафы с подключением к интернету;
камеры видеонаблюдения;
роботизированные пылесосы;
умные газонокосилки;
другие устройства системы умного дома.
Особую опасность могут представлять дешевые устройства, производители которых редко выпускают обновления безопасности.
Если подобная сеть появится, отключение отдельных устройств не обязательно приведет к прекращению работы всей системы.
По оценке исследователей Anthropic, небольшие ИИ-модели могут достичь необходимого уровня самостоятельности уже к концу 2026 года, если темпы технологического развития сохранятся.
При этом речь идет о прогнозе, основанном на результатах экспериментов, а не о доказанном существовании таких автономных систем.
Специалисты предполагают, что распространение подобных алгоритмов будет относительно медленным. Копирование и настройка модели на новых устройствах могут занимать несколько дней.
Тем не менее даже медленное распространение способно представлять серьезную угрозу, если вредоносная программа получит доступ к большому количеству подключенных устройств.
Исследователи отмечают необходимость заранее усиливать защиту устройств, подключенных к интернету.
Особое внимание следует уделять регулярному обновлению программного обеспечения, использованию надежных паролей и отказу от стандартных заводских настроек безопасности.
Также рекомендуется ограничивать удаленный доступ к бытовым устройствам и приобретать оборудование производителей, обеспечивающих своевременное обновление систем защиты.
Результаты исследования Anthropic показывают, что развитие искусственного интеллекта создает новые вызовы для кибербезопасности. Нейросети уже способны работать на сетях недорогой бытовой техники и самостоятельно адаптироваться к незнакомому оборудованию. Хотя полностью автономные ИИ-вирусы пока остаются потенциальной угрозой, специалисты предупреждают, что необходимые для их появления технологии развиваются достаточно быстро.
