Нейросеть уже может написать диплом или сочинить стихотворение, но вряд ли она скажет новое слово в науке или искусстве. Попытки поставить передовые технологии на службу человеку предпринимаются постоянно, но искусственный разум следует все-таки ограничить в принятии решений, чтобы не допустить цифровой дискриминации людей. Об этом шла речь на круглом столе в «Парламентской газете» 13 февраля.

Студент одного из московских вузов Александр Жадан написал диплом за 23 часа с помощью нейросети и успешно его защитил. Речь в работе шла об улучшении организации работы компании. Искусственный разум, по словам парня, быстро и точно подбирал информацию по его запросу, а он лишь располагал найденные куски текста в нужном порядке, чтобы получилась стройная работа.

Когда Александр рассказал в интернете, как он писал диплом, возникла большая дискуссия, зачем четыре года учиться в вузе, если выпускную квалификационную работу можно сделать меньше чем за сутки. Дошло до главы Минобрнауки, который предложил не наказывать парня, но подумать над изменением подхода к проверке знаний студентов. К слову, за диплом Александр Жадан, и искусственный интеллект вместе с ним, получил тройку: в комиссии посчитали, что он недостаточно изучил российский опыт, сделав упор на европейские практики.

Шпаргалки в школах и институтах существовали во все времена — менялись их технологии, и нейросеть — одна из современных, считает первый зампред Комитета Госдумы по науке и высшему образованию Олег Смолин: «Революции не произошло — студент лишь использовал современные возможности». Оценивать, по словам парламентария, нужно не написанный диплом, а знания студента, то есть сделав главной на защите часть вопросов-ответов.

С таким подходом согласилась коллега Смолина по комитету Ольга Пилипенко, добавив, что по-настоящему оценит компетенции выпускника его будущий работодатель. Бороться с нейросетями, по мнению депутата, бессмысленно — любую систему антиплагиата можно легко обойти.

Использованная в работе Александра Жадана технология — не больше чем очередной бредогенератор, пусть и весьма продвинутый, уверен специалист по искусственному интеллекту, член президентского Совета по правам человека Игорь Ашманов. Такие «изобретения» хакеры всех мастей использовали с девяностых годов прошлого века, а цель у них всегда была одна — фальсификация чего бы то ни было. Сегодня ИИ пишет оригинальные стихи и музыку, но всегда на основе ранее созданных произведений, то есть сказать новое слово в искусстве технология не может. Как и в науке.

Искусственный интеллект при использовании на бытовом уровне воспитывает в людях невзыскательность и понижает качество почти всего, чего он касается, считает Ашманов. Взять хотя бы контакт-центры банков или мобильных операторов — там с абонентом, как правило, общаются роботы, пробиться к «живому» специалисту очень трудно, хотя машина часто не в состоянии решить проблему звонящего.

Более эффективен ИИ в военном деле: технология позволяет быстро и точно распознавать и намечать цели на стороне противника. Распознаванием лиц преступников по камерам наблюдения тоже занимаются нейросети, и это едва ли не единственная польза от них, добавил Игорь Ашманов.

Притом что нейросети уже вовсю вошли в нашу жизнь, такого понятия нет в российском законодательстве, а механизмы работы ИИ описаны весьма приблизительно или не описаны вовсе. Цифровые законы, считает Ольга Пилипенко, нужно писать с оглядкой на общечеловеческие ценности, чтобы не позволить даже самым высоким технологиям на них посягнуть. Например, нельзя позволить машине решать судьбу человека в суде. А в образовании следует сохранить его базовые принципы — доступность, качество и безопасность. С последним, с точки зрения депутата, при использовании ИИ возникают большие трудности.

Кодекс этики ИИ в России принят больше года назад, его подписали несколько сотен компаний, их список постоянно пополняется. Но документ представляет собой лишь общественный договор и не предусматривает ответственности за неисполнение его норм. Поэтому в СПЧ продолжают работу над Цифровым кодексом России — сводом законодательных принципов защиты прав граждан в цифровой среде.

Попытки подступиться к решению вопроса предпринимаются. Например, уже принят закон о защите биометрических персональных данных. Но проблем еще много, признал Игорь Ашманов. Урегулирования ждет работа рекомендательных сервисов, которые сейчас в основном навязывают потребителю то или иное мнение или товар. Или на основе данных о человеке присваивают ему некий рейтинг и предлагают более обеспеченному клиенту те же товары, но по более высокой цене.

«Принципиально важно, чтобы в любом случае, когда человек сталкивается с искусственным разумом, он знал что перед ним именно он — будь то звонок в контакт-центр, покупка в интернет-магазине или дипфейк», — заключил Ашманов.

Цифровой кодекс, по его словам, нужно принимать как можно скорее — киберугроз в мире становится все больше.

Автор: Дмитрий Литвинов

Первоисточник: pnp.ru »