Спустя несколько недель после своего запуска приложение Chat GPT* уже угрожает перевернуть многие формы нашего повседневного общения, например, то, как мы пишем электронные письма, университетские работы и бесчисленное множество других форм письма пишет NYT.

Разработанное компанией Open AI приложение представляет собой робота, предназначенного для общения - он может автоматически отвечать на вопросы, заданные в письменной форме, в манере, часто приближенной к человеческой, до такой степени, что невозможно отличить, что он был использован. Но помимо удивления по поводу того, что машины могут заменить человека в таких дискурсивных формах, как поэзия и сценарии, видна гораздо большая угроза: замена человека искусственным интеллектом в демократических процессах - не через голосование, а через лоббирование.

Чат GPT может автоматически компилировать комментарии, представленные в ходе законодательного процесса. Он может писать письма для публикации главным редакторам местных газет. Он может комментировать новостные статьи, сообщения в блогах и социальных сетях миллионы раз за день. Она может имитировать работу российского Агентства интернет-разведки в его попытке повлиять на американские выборы 2016 года, но без многомиллионного бюджета и сотен работников, нанятых для этой цели.

Автоматически создаваемые комментарии - не новая проблема. В течение некоторого времени мы сталкивались с угрозой ботов - машин, автоматически размещающих контент. Считается, что пять лет назад в Федеральную комиссию по связи было подано не менее миллиона автоматически сгенерированных комментариев в связи с предложенным законодательством нейтралитете в интернете. В 2019 году студент Гарвардского университета опробовал программу автоматического создания текста для отправки 1001 комментария в рамках общественной консультации по вопросу здравоохранения. В то время отправка комментариев была просто арифметической игрой.

С тех пор платформы стали лучше удалять "искусственное, неаутентичное поведение". Facebook, например, ежегодно удаляет более миллиарда фальшивых аккаунтов. Но такие сообщения - это только начало. Вместо того, чтобы заваливать почтовые ящики законодателей сообщениями о поддержке или проверять коммутатор Капитолия звонками роботов, система искусственного интеллекта - столь же продвинутая, как приложение Chat GPT, и обученная на данных, связанных с этими процессами - могла бы нацелиться на членов законодательного органа и влиятельных лиц, занимающих критические позиции, чтобы определить самые слабые места законодательного процесса и безжалостно манипулировать ими с помощью прямого общения.

Когда мы, народ, участвуем в таких действиях, это называется лоббированием. Успешные представители этого жанра, то есть ведущие лоббисты, сочетают точность в написании сообщений и умную тактику таргетинга. В настоящее время единственное, что мешает лоббисту, оснащенному Chat GPT, совершить нечто такое, что можно было бы сравнить по дискурсу с боевыми действиями беспилотников, - это отсутствие точного целеуказания. Однако ИИ потенциально может предоставить технологии и для этой цели.

Система, способная интерпретировать политические сети, в сочетании с возможностями приложения по созданию текста, может определить члена конгресса, имеющего наибольший вес в конкретной политике - например, в корпоративном налогообложении или военных расходах. Действуя подобно лоббистам, такая система могла бы нацеливаться на неопределившихся представителей страны, входящих в комитеты, которые принимают решения о политике, отвечающей чьим-то интересам, а затем направлять свои усилия на членов правящей партии, когда законопроект выносится на голосование.

После определения людей и стратегий дискуссионный робот подобный Chat GPT может генерировать текстовые сообщения для использования в письмах, комментариях и везде, где текст будет полезен. Лоббисты также могут нацелиться на этих лиц напрямую, и здесь важна комбинация: комментарии в статьях и социальных сетях имеют конечный потенциал, а знание того, на каких членов законодательного органа нацелиться, само по себе не является достаточным условием для манипулирования.

Такая способность понимать и нацеливаться на отдельных людей, действующих в сети, создаст хакерский инструмент ИИ, который будет использовать уязвимости в социальных, экономических и политических системах с невероятной скоростью и охватом. Законодательные системы могут стать особой мишенью, поскольку стимул для атаки на системы принятия политических решений очень велик. Данные для обучения таких систем широко доступны, а использование ИИ очень трудно обнаружить - особенно при стратегическом использовании для манипулирования действиями людей.

Получение данных, необходимых для формулирования таких систем стратегического нацеливания, является лишь вопросом времени. Открытые общества обычно полагаются на прозрачность, и большинство законодателей готовы - по крайней мере, формально - получать и отвечать на сообщения, которые, как представляется, посылаются их собственным народом.

Вполне возможно, что система искусственного интеллекта сможет выявить, какие члены конгресса оказывают решающее влияние на руководство, но их публичная известность достаточно низка, поэтому их внимание не часто привлекается. Затем она может определить группу общественных интересов, оказывающую наибольшее влияние на общественные позиции данного члена законодательного органа. Возможно, она даже сможет рассчитать размер пожертвования, необходимого для влияния на организацию или нацелить рекламу, содержащую стратегическое послание ее членам. Для каждой цели, для которой необходимо принять политическое решение, нужная аудитория, нужное сообщение в нужное время. Что делает угрозу, исходящую от лоббистов с ИИ-оружием, большей, чем угроза, исходящая от дорогих лоббистских фирм, базирующихся на вашингтонской улице. Лоббисты опираются на десятилетия опыта, чтобы найти стратегические решения для успешного формирования результата политического решения. Этот опыт ограничен и поэтому точен.

Однако в теории искусственный интеллект может достичь того же результата гораздо быстрее и дешевле. Преимущество скорости на начальном этапе огромно в экосистеме, где общественное мнение и нарративы СМИ могут быть быстро консолидированы, в той же степени, в какой они подвержены быстрым изменениям в ответ на хаотические события, происходящие в глобальном масштабе.

Кроме того гибкость ИИ может помочь добиться влияния одновременно в нескольких процессах формирования политики и в разных юрисдикциях. Представьте себе лоббистскую фирму, оснащенную искусственным интеллектом, которая может попытаться внести поправки в каждый законопроект, представленный на рассмотрение Конгресса США или даже законодательных органов всех штатов. Лоббистские фирмы, как правило, работают только в одном штате, поскольку там существуют сложные различия в законах, процедурах и политической структуре. ИИ может облегчить оказание влияния за пределами обычных политических границ.

Как преподавателям придется изменить порядок проведения экзаменов и выполнения заданий студентами в свете изменений, вызванных Chat GPT, так и правительствам придется изменить свои отношения с лоббистами.

Несомненно, эта технология может принести пользу демократической среде, главная из которых - доступность. Опытный лоббист не может оплачиваться каждым, но программное обеспечение для доступа к системе искусственного интеллекта может быть доступно каждому. Если нам повезет, возможно, такой ИИ для генерации стратегий сможет оживить демократизацию самой демократии, предоставляя подобное влияние самым слабым гражданам.

Однако более крупные и влиятельные учреждения, скорее всего, будут использовать любые методы искусственного интеллекта для наиболее успешного оказания влияния. В конце концов, для получения наилучшей стратегии влияния все равно нужны люди внутри системы, которые могут ориентироваться в коридорах законодательной власти, и деньги. Влияние - это не просто передача правильного сообщения нужному человеку в нужное время. И хотя робот, способный генерировать речь, может определить, кто должен стать получателем этих кампаний влияния, в обозримом будущем платить за это придется людям. Поэтому, хотя невозможно предсказать, как будет выглядеть будущее, полное лоббистов с оружием ИИ, оно, скорее всего, еще больше усилит влияние и власть тех, кто уже обладает ими.

Автор Натан Э. Сандерс и Брюс Шнайер

Первоисточник: rua.gr »