Восстание машин: алармизм или обоснованные сомнения

Создали при правительстве научную группу. Поставили вопрос ребром: «Как поднять эффективность экономики?» Подключили искусственный интеллект. Тот выдал: «Воровать надо меньше». Бездушная тупая сущность... (скопировано в сетевом паблике)

Расслабляемся, дышим глубоко, пьем пустырник: это случится не так скоро. Иксам и зумерам можно не беспокоиться, а вот их отпрыски и внуки – под вопросом. Вернее, не они сами, а их ценность для Его Величества Искусственного Интеллекта (ИИ).

Не без удовольствия наблюдая, как нечеловеческий разум создает удивительный и гарантированно уникальный контент, пишет достаточно «крепкие» тексты, за секунды справляется с задачами, на которые у титулованного профессора могут уйти недели, понимаешь: мир уже никогда не будет прежним. Эпоха сменилась. За столом сильнейший игрок, перед которым невозможно блефовать, да и карты он просчитал еще до их появления из колоды. ИИ «помогает», а по сути – решает за вас, какие книги читать, фильмы смотреть и даже (упс) с кем вам встречаться – в личном плане или в деловом – не важно. Это именно ИИ делает ваш смартфон, да и весь умный дом с «Алисой» умным, а вскоре начнет управлять вашим автомобилем. Это уже ИИ заключает большинство биржевых сделок и контролирует критические объекты энергетической, водной и транспортной сетей. Вам это может нравиться, или нет – никто не спросит. Теперь это объективная реальность. Вопрос лишь в том, какое место в этой реальности уготовано людям?

И здесь на сцену выходит немалое количество морально-этических дилемм. Одна из главных – как ИИ повлияет на человеческое сознание, ведь каждый по себе знает: развиваться мы способны только перед лицом трудностей и вызовов. А если ИИ берет на себя наши траблы в работе, учебе и любом созидании, напрягаться будет незачем – деградация, здравствуй! Из-за ее плеча уже выглядывают неизбежные социальные последствия – колоссальный разрыв между богатыми и бедными (да-да, гораздо хуже, чем сейчас) и все из этого вытекающее. Кто не в курсе, что именно – учите матчасть, но стоит задуматься, каковы последствия автоматизации труда для трудового рынка и социальной структуры в целом? Как обеспечить равный доступ к технологиям ИИ и избежать углубления цифрового неравенства?

Да и как вообще человеку сохранить достоинство и хоть какие-то свои права на фоне внедрения все новых всемогущих инноваций. Сохранение приватности частной жизни? О чем вы, ей богу! Только перебросились с коллегой парой фраз о проблемах, и все ресурсы, на которые вы «ходите» в своих гаджетах, бросились заваливать вас четко таргетированным контентом. Слезайте, наконец, с розового облака: при наличии любого (!) смартфона про вас все знают. Абсолютно все. Ну, кому надо, естественно. А в адрес наивняков, которые реально убеждены, что телега неприкасаема, скажу: при большой необходимости еще как прикасаема. Особенно, если соответствующие организации поручат соответствующее задание соответствующему ИИ.

Вернемся к нему, собственно.

Каких-то 10 лет назад режиссер-документалист Джеймс Баррат прямо заявил, что технологии ИИ однажды нас уничтожат. Сделал он это в своей книге «Последнее изобретение человечества: искусственный интеллект и конец эры Homo sapiens». Выводы Баррат брал далеко не с потолка, а из бесед с лучшими мировыми учеными, которые «собаку съели» на изучении и развитии ИИ технологий. С момента выхода книги мы уже колоссально шагнули вперед и еще ближе подошли к созданию интеллекта человеческого уровня (УЧИ). В прошлом году ИИ победил чемпиона мира в китайской игре го, которая тысячелетиями считалась вершиной интеллектуального стремления (го покруче шахмат). «Он разрушил все существующие порядки этой игры, – сказал Цзюхэн Хэ, заядлый игрок в го, исследователь ИИ в Корнельском университете, – он превосходит всех мастеров вместе взятых». А еще раньше ИИ прошел тест Тьюринга и обманул часть судей, которые поверили, что переписываются с реально существующим мальчиком Женей. Кстати, некоторые системы ИИ уже способны обманывать человека – это серьезный повод для беспокойства. В последние годы технологические гиганты, включая Google, запрещенный в России Facebook и OpenAI, разработали новый класс компьютерных программ, так называемые «большие языковые модели». Их способности к общению – это вам не корявые чат-боты Сбера или Ростелекома. Одна из таких моделей была настолько реалистична, что на белом глазу убедила даже инженера Google Блейка Лемуана в своем разуме и способностях осознавать и чувствовать. Это демонстрирует, насколько могуч потенциал алгоритма для обмана и манипулирования в грязных руках.

Мы с вами – не дети, понимаем, что глобальные цели развития ИИ гораздо масштабнее красивых рисовалок или победы над человеком в различных играх. Почему вышедшая десяток лет назад книга Баррата мастхэв к прочтению? Вооружившись здоровым скепсисом и не впадая в средневековое мракобесие, он трезво рассказывает об опасностях, о которых молчат СМИ, преподнося ИИ «манной небесной». Однако эта книга – только старт для пытливых умов. Далее в помощь – труды «Искусственный интеллект» Ника Бострума, «Эволюция разума» Рэя Курцвейла или «Искусственный интеллект: перезагрузка» Гэри Маркуса.

На смену интеллекту человеческого уровня (УЧИ) придет искусственный суперинтеллект (ИСИ) – самосознающий и самообучающийся. В этот момент наша судьба будет предопределена, потому что он будет решать, насколько мы ему нужны в принципе. Кхм, то есть став достаточно умным, ИИ легко выйдет из-под контроля (если этот контроль еще есть). И ведь совершенно непонятно, как он посмотрит на своих создателей. Вряд ли с обожанием и пиететом, как подрастающий ребенок смотрит на любящих родителей. Возможно, как на препятствие к достижению своих целей (он будет умнее нас и сам их сформирует). Но, что еще вероятнее, ИИ воспримет человечество и его судьбу совершенно равнодушно – в этом и печаль.

Согласитесь, мы иногда любим «посюсюкаться» с техникой, приписывая ей человеческие чувства, мотивации и реакции – мораль, страх, вину, месть, злость, старание, требовательность и т.д. Мы искренне хвалим «Жорика» за хорошую уборку и грамотное движение по дому, а Жора – всего лишь робот-пылесос. Дальше – больше. Только саморазвивающемуся ИИ не нужно быть злым или агрессивным, чтобы нас прищучить. Ему вполне хватит просто того, что мы вдруг помешаем его планам. «Ничего личного, Фрэнки! Итс онли бизнес!».

Кстати, отдельным сомнительным этическим аспектом станет замена живого человеческого общения в личных отношениях. Зачем искать «своего» человека? Вводишь нужные тебе промпты (кстати, вовсю работают умные промпт-переводчики для не ахти умных людей), и твой идеальный партнер готов к труду и обороне. Что уж там, ко всему остальному он тоже всегда готов, причем, именно с учетом индивидуальных «потребностей». И никаких тебе «нравится – не нравится», «напишет – не напишет» и прочего, ну, вы поняли. Идеальный вариант, считаю. Только к чему мы придем с этой идеальностью, когда и без нее сегодня никто никому особо и не нужен…

Остановить прогресс невозможно, как и процесс совершенствования ИИ-технологий. Да и не нужно, от слова «совсем». Мы же не хотим уподобиться воинствующим противникам стандарта 5G, которые и понять-то не в силах, что это вообще, но вышки валят и узлы связи жгут. Торжественное уничтожение всех гаджетов, вкупе с ТВ, микроволновкой и ноутбуком – тоже так себе вариант. Для чего я сегодня об этом? Чтобы как можно больше нас с вами разумных задумались о необходимости контроля процессов разработки, анализа каждого этапа создания и внедрения так необходимых «моральных и этических тормозов» в сфере использования искусственного интеллекта.

Это действительно важно, равно как и все, что связано с информационной безопасностью. Подтверждает это пристальное внимание к теме, казалось бы, неповоротливой государственной машины. Спорим, мало кто в курсе, что Указом Президента РФ от 10 октября 2019 года утверждена целая Национальная стратегия развития искусственного интеллекта до 2030 года. А это, на секунду, самый серьезный программный документ. До текущего 2024 года действует федеральный проект «Искусственный интеллект» и, скорее всего, его продлят. Кроме того, активно развивает отрасль ИИ-технологий специально сформированный бизнесом Альянс искусственного интеллекта. Угадайте, кто «в теме»? Конечно же, ПАО «Сбербанк», «Яндекс», VK, «Газпромнефть» и Российский фонд прямых инвестиций (РФПИ), «Самолет», «Уралхим», «Сибур», «Северсталь» и т.д.

Собственно, этим же альянсом в 2021 году был утвержден Кодекс этики в сфере ИИ. Что в нем важно: человек-ориентированный и риск-ориентированный подходы к пониманию, куда нас может привести искусственный разум. В кодексе четко обозначена сугубо человеческая ответственность за моральные риски внедрения ИИ и прописана необходимость учета гуманистической направленности таких разработок. Создатели кодекса считают, что ИИ призван способствовать совершенствованию личности человека, его когнитивных способностей и сохранности человеческой цивилизации и культуры.

По мне, так все это весьма наивно. Особенно в контексте написанного выше. Но то, что это определяется письменно, – уже хорошо. Хотя… Перед текстом кодекса на сайте альянса есть приписка из трех пунктов – в них все самое-самое и сидит: это рекомендательный характер документа, присоединение к нему только на добровольной основе, и вишенка на торт – этические нормы кодекса распространяются только на гражданские разработки.

Занавес, дамы и господа!

Prospect-sk № 55/2024