Искусственный интеллект развивается быстрее, чем способны реагировать на этот процесс государственные институты. Всего несколько лет назад ИИ мог лишь отвечать на вопросы пользователей или генерировать текст, сегодня же он способен писать компьютерный код, анализировать огромные объемы данных, создавать реалистичные изображения и видеоконтент, помогать ученым разрабатывать новые лекарства – и все чаще он действует самостоятельно, при минимальном человеческом контроле.

Безопасное использование ИИ возможно только при условии неукоснительного соблюдения определенных правил. Таков основной вывод авторов предварительного доклада Независимой международной научной группы ООН по искусственному интеллекту, который был опубликован в среду.

Научная группа предупреждает, что окно для организации эффективного глобального управления ИИ остается открытым, но такое положение вещей может продлиться недолго.

ИИ способен стать одной из самых революционных технологий человечества. При ответственном использовании он может ускорить продвижение к Целям устойчивого развития, улучшая сферы здравоохранения и образования, ускоряя научные исследования, развивая сельское хозяйство и облегчая жизнь людей с ограниченными возможностями.

С другой стороны, без контроля эта технология может углублять неравенство, распространять дезинформацию, угрожать правам человека и разрушать рынки труда. Есть также опасность того, что мощные системы ИИ окажутся сконцентрированы в руках ограниченного числа правительств и компаний.

Согласно докладу, основная задача на данном этапе заключается в том, чтобы найти способ раскрыть огромные преимущества ИИ, одновременно предотвращая его растущие риски.

Врач в лабораторном халате и защитной маске взаимодействует с футуристическим голографическим интерфейсом, отображающим человеческий скелет и внутренние органы.

В последние несколько лет возможности ИИ развивались с невероятной скоростью. Следующая волна уже на подходе. Вместо простого реагирования на запросы, ИИ-агенты все чаще планируют многоплановые задачи, самостоятельно используют новые цифровые инструменты, пишут программное обеспечение и выполняют сложные поручения практически без человеческого контроля.

Согласно докладу, сложность задач, которые могут выполнять системы ИИ, удваивается каждые несколько месяцев.

Доклад научной группы содержит длинный список реальных успехов, достигнутых в последнее время благодаря ИИ.

Медицинские прорывы: ИИ предсказал структуру около 200 миллионов белков, ускорил открытие новых лекарств, разработку вакцин и проведение исследований устойчивости к антибиотикам. 

Улучшения в системах здравоохранения: врачи используют ИИ для раннего выявления опасных заболеваний, таких как рак молочной железы. Медицинские работники развивающихся стран используют инструменты ИИ на местных языках для улучшения ухода за пациентами. 

Продовольственная безопасность: системы раннего предупреждения на базе искусственного интеллекта помогают выявлять признаки дефицита продовольствия до того, как начнется продовольственный кризис.

Улучшение жизни: ИИ делает технологии более доступными для людей с инвалидностью и расширяет возможности для персонализированного образования и поддержки психического здоровья

Международная научная группа подчеркивает в своем докладе, что речь идет не о будущем – технологическая революция происходит уже сейчас.

Эксперты отмечают, что искусственный интеллект создает и принципиально новые опасности.

Онлайн-насилие: ИИ может способствовать распространению материалов, связанных с сексуальным насилием, а также откровенных дипфейков. При этом наибольшая опасность угрожает женщинам и детям. 

Дезинформация: ИИ может создавать убедительно звучащую ложную информацию, подрывать доверие к общественным дебатам и демократии. 

Преступность: преступники все чаще используют ИИ для проведения кибератак и в мошеннических целях. 

Психическое здоровье: Некоторые системы ИИ могут укреплять вредные убеждения, что приводит к кризисам психического здоровья, включая попытки суицида. 

Потеря контроля: По мере того как ИИ становится более автономным, его все сложнее контролировать.

Воздействие на окружающую среду: Поглощающие огромные объемы электроэнергии дата-центры способствуют выбросам парниковых газов.

Одни вырвались вперед, другие плетутся позади

Хотя искусственный интеллект используется по всему миру, широкий доступ к ИИ в основном сосредоточен в развитых странах. США обладают примерно тремя четвертями глобального объема вычислительных мощностей ведущих суперкомпьютеров на базе искусственного интеллекта; Китай располагает примерно 15 процентами – таким образом всего двум странам принадлежит примерно 90 процентов мощности всего ИИ на Земле. Большинство продвинутых моделей искусственного интеллекта разрабатываются компаниями, также базирующимися в США и КНР.

В то же самое время многих развивающихся странах не хватает вычислительной инфраструктуры, технических возможностей и данных, а также инвестиций и ресурсов на местных языках, необходимых для полноценного использования ИИ. В результате такие государства часто зависят от технологий, которые сами не способны создать, проверить на предмет безопасности или адаптировать к своим сообществам.

Международная научная группа предупреждает, что, если эти пробелы не будут устранены, ИИ может усилить существующее глобальное неравенство, а не уменьшить его.

По мнению экспертов, современные системы технического управления не были разработаны для технологий, развивающихся столь быстро. Правительства сталкиваются с тем, что часто называют «дилеммой доказательств»: политикам нужны надежные научные данные для введения мер контроля, но к тому времени, когда эти данные будут получены, технологии могут продвинуться еще дальше.

Хотя в разных частях мира уже существует более 40 ограничений и этических рекомендаций по управлению ИИ, они остаются фрагментированными и непоследовательными, а также редко проходят проверку на предмет эффективности.

В докладе говорится, что для обеспечения безопасности, прозрачности и подотчетности систем ИИ необходима более квалифицированная независимая экспертиза, международное сотрудничество и введение общих стандартов. Кроме того, странам требуются значительные инвестиции в цифровую инфраструктуру, образование и техническую базу.

Организация Объединенных Наций поддерживает идею создания новой международной архитектуры для оказания помощи странам в принятии обоснованных решений в сфере ИИ.

В 2025 году Генеральная Ассамблея ООН создала Независимую международную научную группу по искусственному интеллекту, состоящую из 40 экспертов из всех регионов мира, работающих на общественных началах.

Роль этой комиссии – научная, а не регуляторная. Она отслеживает последние данные, связанные с возможностями и рисками ИИ, а также готовит независимые отчеты, которые правительства могут использовать при разработке национальной политики.

Выводы научной группы будут представлены на глобальном форуме ООН по управлению ИИ, который откроется в Женеве 6 июля.

Первоисточник: news.un.org »