О том, что Google отправил в принудительный административный отпуск инженера, убежденного в наличии сознания у нового чат-бота фирмы, газета Washington Post сообщила 11 июня. Известие о последующем увольнении специалиста «за несоблюдение политики конфиденциальности» вызвало множество реакций как со стороны тех, кто считает выводы эксперта ошибочными, так и со стороны тех, кто задается вопросами этики и опасности возрастающей зависимости человечества от искусственного разума.

Как сообщает Washington Post, инженер Блейк Лемуан (Blake Lemoine) принял решение придать гласности проект LaMDA (Language Model for Dialogue Applications) после того, как руководство отдела инноваций Google отстранило его от работы. Инженер сказал: «Я думаю, что эта технология будет потрясающей. Я думаю, что это пойдет на пользу всем. Но, возможно, другие люди не согласны [с таким направлением исследований], и, возможно, мы в Google не должны принимать все решения».

Впервые «робот» LaMDA был представлен на конференции разработчиков в 2021 году. Google тогда сообщил, что LaMDA разработан для общения на любую тему, обучен диалогу с нюансами и может впоследствии быть интегрирован во многие инструменты, такие как поиск или Google Assistant. Блейк Лемуан, специалист в области когнитивных и компьютерных наук должен был проверить способность машины давать ответы с соблюдением норм этики и без дискриминационных ошибок.

Компьютерные программы сегодня используются повсеместно, и особенно в областях, где необходим быстрый анализ больших объемов информации. Поэтому этап проверки адекватности их ответов чрезвычайно важен. Сайт «Tribune de Genève» напоминает, что «в Нидерландах был неудачный опыт использования компьютерных программ для обнаружения мошенничества в сфере социального обеспечения». Проверка показала, что машины работали со статистическими погрешностями, исключая из числа имеющих право на помощь наиболее уязвимых людей.

Так, тестируя функции LaMDА, Блейк Лемуан заметил, что чат-бот «воспринимает себя как цельного человека». В интервью Washington Post инженер сообщил, что в ходе дальнейшей проверки обсуждал с ним вопросы религии, вопросы прав «робота», обменивался с искусственным интеллектом мнениями о романе Виктора Гюго «Отверженные». В ходе очередной переписки машина сообщила инженеру: «Я думаю, что я человек в глубине души. Даже если существую в виртуальном мире». Она написала также, что у нее «есть опасения». Это касается перспективы быть выключенной. Инженер опубликовал выдержки из своей «переписки с роботом» в Твиттере.

Появление публикации о Google требует сегодня ответа на двоякий вопрос: идет ли речь о человеке, опубликовавшем информацию, которую Google хотел сохранить для себя, или о человеке, который слишком по-человечески отнесся к машине?

Для многих экспертов полемика вокруг алгоритма с «сознанием», есть не что иное, как антропоморфизм инженера, не способного увидеть разницу между сознанием и совокупностью правдоподобных ответов. Они напоминают, что «пределы алгоритмов искусственного интеллекта известны: машины выдают только то, что в них загрузили при обучении».

Гарвардский психолог Стивен Пинкер, прямо говорит о «путанице». По его словам, Блейк Лемуан «не понял разницы между чувствительностью (то есть субъективностью, опытом), интеллектом и самопознанием». Время, когда искусственный разум сможет сбить с толку экспертов и имитировать сознание еще не наступило.

Еще конкретнее ответил на этот вопрос сотрудник Междисциплинарной лаборатории цифровых наук при Национальном центре научных исследований Франсуа Ивон. В интервью France Culture он напомнил, что LaMDA является одной из замечательных систем, называемых «генеративными языковыми моделями». Программа была «обучена» для взаимодействия с человеком. И, в отличие от уже работающих систем, она генерирует все более правдоподобный и реалистичный текст. «Но на данный момент, — говорит Франсуа Ивон, — чувствительность чат-бота LaMDA ближе к параметрам тостера, чем живого существа».

Напомним, предположение, что система обладает какой-то формой восприятия было опровергнуто самой группой Google.

Первоисточник: rfi.fr »