Искусственный интеллект развивается с невероятной скоростью, проникая в самые разные сферы жизни и деятельности человека. Он не только кардинально меняет технологии, делая их более совершенными, но и одновременно ставит вопрос, а найдётся ли в них место каждому из нас. Специалисты уже говорят: на пороге новый мир, где человеку придётся жить рядом с могучим ИИ, с его фантастическими возможностями и рисками, о которых ещё недавно никто даже не задумывался.

Как не попасть в подчинение искусственному интеллекту? Как мирно с ним сосуществовать, чтобы он работал исключительно в интересах человека? Об этом корреспондент «РГ» беседует с директором Института психологии РАН академиком Дмитрием Ушаковым.

Дмитрий Викторович, на заседании в Академии наук вы сказали, что в ближайшем будущем каждому из нас понадобится «цифровой ангел-хранитель». Понимаю, что «цифра» сегодня почти наше всё, но «ангел»... То ли из области фантастики, то ли религии. О чём речь? От чего и как он нас будет охранять?

Дмитрий Ушаков: Чтобы понять, зачем нам «цифровые ангелы», давайте попробуем взглянуть на проблему нашего будущего. Что оно нам готовит. Мы понимаем, что человек — это венец творения. Но вопрос в том, человек — это венец творения вообще, на веки вечные или венец творения сегодня?

В какой-то момент люди предположили, что, возможно, человеческий разум — это не конечный пункт в эволюции. И стали обсуждаться перспективы, куда разум дальше может развиваться. Наметились две основные линии. Первая — это естественный, то есть биологический сверхразум, вторая — искусственный сверхразум. В принципе, нет твёрдых оснований считать, что человек — это максимум, что можно выжать из биологии в смысле когнитивных способностей. Возможно, могут существовать биологические существа, обладающие более мощным интеллектом, чем человек.

То есть в ходе эволюции появится следующий гомо сапиенс?

Дмитрий Ушаков: Да. Гомо метасапиенс, то есть человек сверхразумный, но создаваемый не природной эволюцией, а с помощью технологического усовершенствования. Для этого уже есть предпосылки. Уже расшифрован геном человека и работают методы его редактирования, скажем, CRISPR. И, безусловно, мы будем всё больше узнавать о роли генов, о том, как они связаны с интеллектом, а методы редактирования генома будут совершенствоваться.

Словом, пути к технологическому усовершенствованию интеллекта человека уже просматриваются. Однако сегодня внесение изменений в наш геном находится под строгим этическим запретом. Китайский учёный, который вмешался в геном человеческого эмбриона, получил тюремный срок, хотя и действовал вроде бы в целях сохранения здоровья. Поэтому перспективы биологического изменения человека и увеличения его интеллекта весьма туманны, хотя полностью отрицать такую возможность нельзя. А вот в сфере искусственного интеллекта в последнее время наблюдается колоссальный прогресс, что заставило всерьёз задуматься о появлении так называемого сильного искусственного интеллекта.

Такие авторитеты, как Илон Маск и Билл Гейтс, призывают приостановить работы в области искусственного интеллекта (ИИ), потому что связанные с ним опасности перевешивают его достоинства.

Дмитрий Ушаков: Сегодня перспектива сильного искусственного интеллекта стала обретать практические очертания, и встал вопрос: как с этим жить? Не означает ли наступление его эры окончание эры человека и человечества? Думаю даже, что это ключевой вопрос нашего времени.

Например, можно вспомнить, что говорит Маск в своих беседах на эти темы с Ларри Пейджем — одним из основателей Google, который занимается сильным искусственным интеллектом. По словам Маска, Пейджу всё равно, что будет с человеком. Логика примерно такая. Эволюция разума проходит определённые этапы. Этап человека закончится, затем эволюция перейдёт на этап сверхразума и пойдёт дальше. Французский философ Мишель Фуко говорил: человек исчезнет, как исчезает лицо, начертанное на прибрежном песке. А вот ответ Маска, к которому, думаю, мы можем присоединиться: почему, собственно, человечеству надо спешить уступать своё место? Ведь человек придаёт смысл всему тому, что происходит! И какой смысл будет иметь сильный искусственный интеллект при отсутствии человека?

И тогда для человека видится такая перспектива. Люди, придающие смыслы, сосуществуют одновременно и наравне с сильным искусственным интеллектом, который превосходит их в вычислительных возможностях. Но возникает вопрос, как мы будем управляться со всем этим? Как человеку быть субъектом, то есть активным по отношению к этому искусственному интеллекту? Как ставить ему цели, задавать мотивацию, куда его двигать? При том что он разбирается в проблемах лучше, чем мы.

Ведь мотивацией обладают живые, телесные существа. Наша мотивация идёт от тела. Мы хотим есть, нам холодно, или нам жарко, или ещё чего-то хотим. Мотивация всегда связана с телом, и обладающий им человек должен задавать, куда идти искусственному интеллекту.

Но если он такой умный, то не выйдет ли ровно наоборот? Мы будем выполнять его команды?

Дмитрий Ушаков: Это именно та опасность, из-за которой мы должны подумать о «цифровых ангелах». И есть вторая опасность: искусственный интеллект даёт ещё и колоссальные средства для манипуляции людьми. Японский футуролог Фрэнсис Фукуяма опасался, не приведут ли технологические новшества к тому, что мы выведем две породы людей, одну с сёдлами на спинах, а другую — со шпорами на ногах.

Итак, если мы видим наше будущее в сосуществовании людей и сильного искусственного интеллекта, то должны отдавать себе отчёт в двух опасностях. Первая — попасть в подчинение ИИ. Вторая — подчинение другим людям, которые будут с его помощью нами манипулировать. Так вот, чтобы могло существовать общество свободных индивидов наравне с искусственным интеллектом, необходимо создать технологию, которую мы с профессором Сергеем Юрьевичем Степановым назвали «цифровым ангелом». Это система технологий ИИ, которая работает в интересах конкретного индивида. Каждого человека.

Словом, в будущем цифровом мире человек сам по себе слишком слаб, чтобы самостоятельно противостоять всем угрожающим ему опасностям. И на помощь должен прийти все тот же ИИ, но в виде «ангела»?

Дмитрий Ушаков: Да, всё так: в эпоху сильного искусственного интеллекта у каждого человека должен быть работающий исключительно на него ИИ, который будет обеспечивать его интересы, свободу и независимость. Это и есть то, что мы называем «цифровым ангелом». Могу привести такую аналогию. Представьте флагманский корабль, окружённый своей эскадрой, самолётами, кораблями, подводными лодками. Эта эскадра многократно увеличивает мощь флагмана. Так и человек в мире сильного искусственного интеллекта должен обладать своей эскадрой ИИ, позволяющей взаимодействовать с этим новым миром с его колоссальными вычислительными возможностями.

Человек за свою историю всё время себя чем-то дополнял — сначала одеждой, обувью, хижиной, потом более совершенными устройствами, техникой. Теперь пришёл черёд технологий ИИ. 

Как же такая "интеллектуальная эскадра" будет нас охранять?

Дмитрий Ушаков: Эти технологии уже начали быстро развиваться. Складывается рынок технологий, которые позволяют нам следить за здоровьем и психологическим состоянием, организовывать быт, составлять планы путешествий, помогают в вопросах образования, профориентации и так далее. Эти технологии получили название электронных ассистентов. Их развитие призвано вывести на совершенно новый уровень комфорт и организацию нашей жизни.

Может мой «ангел» в сложной ситуации договориться с «ангелом» другого человека? Помочь нам найти компромиссы?

Дмитрий Ушаков: Конечно! И это другая важнейшая ипостась «цифрового ангела», его работа в качестве электронного координатора или медиатора. Причём речь идёт не только о взаимодействии в круге общения. Сегодня технологическое развитие привело к таким феноменам, как дипфейки, и новым видам мошенничества. «Цифровые ангелы» — по сути, электронные координаторы — должны защищать нас от недостоверной информации, анализировать рекламу и так далее.

То есть вся наша жизнь, начиная с детства, будет проходить под крылом «цифрового хранителя», делая наши действия более правильными. Но чтобы он эффективно помогал, ему надо досконально знать всю нашу подноготную. Что мы есть на самом деле? Но даже отдел кадров и рентген всего не знают...

Дмитрий Ушаков: Конечно, «ангел» должен иметь о своём подопечном максимум информации. Искусственный интеллект уже сейчас способен решать подобные задачи. Скажем, есть технологии, которые распознают состояние человека по его разговору, мимике, жестам, интонациям, некоторые черты его характера, прогнозируют его поведение в той или иной ситуации, оценивают, как ему лучше обучаться и так далее. Например, у нас в институте разрабатывается автоматический интент-анализ, который позволяет ИИ оценивать намерения людей, стоящие за их репликами в разговоре. По сути, «цифровой ангел» должен моделировать поведение, создавать своего рода «цифрового двойника» опекаемого им человека.

И всё же... Человек, мозг — самое сложное творение природы. Нейрофизиологи утверждают, что наука пока не знает, как он работает, что такое память, как он принимает решения. Как же в такой ситуации можно создать для человека его «цифрового двойника»?

Дмитрий Ушаков: Вы правы, пока наука не знает, как наш мозг рождает интеллектуальное поведение. Поэтому надо чётко определиться, что мы имеем в виду под цифровым двойником. Он копирует или предсказывает поведение человека, но только в какой-то узкой области. Например, вы хотите лучше играть в шахматы. Для этого ваш «цифровой ангел» должен с учётом вашего нынешнего уровня игры создать цифрового двойника — шахматиста. Подобрать вам такие упражнения, которые позволят в наибольшей степени развивать силу игры при наименьших затратах сил.

Хочу особо подчеркнуть, что «цифровой ангел» — это не просто электронный ассистент и электронный координатор, но и конфидент. Он позволяет создать вокруг человека поле интеллектуальной защиты, которое может обеспечить ему комфорт и свободу в мире сильного искусственного интеллекта.

Но если такие «помощники» всегда работают на общее благо, то, следуя их советам, можно разруливать серьёзные противоречия. А если фантазировать, то с помощью технических средств создать почти рай на Земле.

Дмитрий Ушаков: Но «ангелы» могут только советовать, а последнее слово — за человеком. Он решает, воспользоваться помощью или нет. Так что каким бы суперумным ни был искусственный интеллект, как бы ни превосходил человека, выбор всегда за гомо сапиенс. Но надо понимать, что мы вступили в новую эпоху, когда создаваемые нами технологии всё больше начинают определять, кто мы есть и что такое наше общество. А это означает, что человеку необходимо самому проектировать себя и своё будущее.

Текст: Юрий Медведев.
Источник: RG.RU.