Anthropic заявила, что современные модели уже способны выполнять многие отдельные задачи, необходимые для автономного копирования, хотя пока не могут надежно пройти весь процесс от начала до конца.

В опубликованном отчете компания отметила, что модели среднего размера, содержащие до 30 млрд параметров, потенциально могут объединять вычислительные ресурсы, получая доступ к недорогим устройствам, подключенным к интернету. В перспективе такие сети могли бы использовать мощности центров обработки данных и противостоять попыткам отключения.

Anthropic также заявила, что смогла воспроизвести отдельные элементы этого сценария в упрощенной тестовой сети. «Отключить такой репликатор будет сложно, потому что нет центральной точки для его отключения», — говорится в отчете. По оценке компании, если нынешние темпы развития сохранятся, небольшие модели могут достичь необходимого для автономного копирования уровня к концу 2026 года.

Однако эксперты расходятся в оценках возможных последствий. Киаран Мартин, бывший глава Национального центра кибербезопасности Великобритании, назвал публикацию «интересным техническим документом с признаками преувеличения со стороны поставщиков». «Фраза „Нам удалось запустить небольшую модель на дешевых телевизорах“ не означает, что существует кризис безопасности», — отметил он.

В то же время Чжэнсюн Ли, доцент кафедры компьютерных наук и инженерии Университета Колорадо в Денвере, обратил внимание на возможность распространения ИИ по аналогии с компьютерным червем — программой, которая самостоятельно передается между устройствами. Если такая система будет работать на множестве устройств без привязки к центральному сервису, единой точки для ее остановки может не оказаться.

Джессика Джи, старший аналитик-исследователь Центра безопасности и новых технологий Джорджтаунского университета, подчеркнула, что вероятность такого развития событий остается неизвестной. «Мы пока не знаем, какова вероятность того, что это действительно произойдет. Она не равна нулю, но и не гарантирована», — сказала она.

Среди других опасений, связанных с развитием ИИ, — автоматизация кибератак, сокращение необходимости участия человека и способность систем обходить защитные механизмы. При этом техническая возможность отдельных операций сама по себе не доказывает, что автономное самораспространение ИИ станет реальной угрозой в ближайшее время.

Первоисточник: trtrussian.com »