Время, в котором мы живём, открыло возможности искусственного интеллекта (ИИ) для широкой публики за счёт эффективных методов обработки больших массивов информации. Но 2025 год начался обрушением рынка акций мировых высокотехнологичных гигантов, вызванным стремительным появлением китайской языковой модели Deep Seek ­R1, за один день ставшей одним из самых популярных приложений в мире, успешным конкурентом Chat GPT от всемирно известной компании Open AI.

«Изюминкой на торте» стал тот факт, что разработка небольшой китайской стартап-­компании обошлась, как уверяют разработчики, на порядки дешевле американских, она задействует существенно меньшие компьютерные мощности, используя не самые производительные чипы Nvidia, которые Китай смог приобрести в рамках действующих санкций со стороны США.

С просьбой прокомментировать ситуацию в этой быстро развивающейся сфере деятельности редакция газеты «Дальневосточный учёный» обратилась к вице­-президенту Российской ассоциации искусственного интеллекта (РАИИ), заместителю директора Института автоматики и процессов управления ДВО РАН члену-­корреспонденту РАН Валерии Викторовне Грибовой.

— Валерия Викторовна, мы живём в эпоху глобальных перемен, каждый день не похож на предыдущий, а что происходит в сфере ИИ? Там, по ощущениям, ещё зима или уже весна?

— Если говорить об ощущениях, то нынешняя ситуация в ИИ скорее напоминает лето с его активным ростом и обещанием полезных плодов. Конечно, так было не всегда. Мы работаем в этой сфере достаточно давно и прекрасно помним время, когда нам говорили, что не стоит тратить время на бесперспективные исследования и что занятия ИИ — это лженаука. Но время расставило всё по своим местам и теперь очевидно, что наши силы и время были потрачены не впустую.

— Прошлой осенью специалистами ИАПУ ДВО РАН, Владивостокского государственного университета и других организаций была проведена ориентированная на молодёжь и студентов Неделя искусственного интеллекта и высокопроизводительных вычислений AI & HPC WEEK 2024. Расскажите о ней подробнее.

— Мероприятие, о котором вы упомянули, уже второе. В рамках первой недели искусственного интеллекта два года тому назад мы собрали заинтересованных студентов, аспирантов, молодых специалистов.

В силу географической удалённости от центра страны, им затруднительно активно участвовать во всех организуемых там интересных мероприятиях, поэтому при содействии РАИИ мы пригласили экспертов, ведущих специалистов выступить с циклом лекций перед нашей аудиторией. Первый день мы посвятили рассмотрению общих вопросов, а  остальные — приложениям ИИ в разных предметных областях.

Второе мероприятие, прошедшее в октябре прошлого года, мы немного трансформировали в сравнении с первым, посвятив его как ИИ, так и высокопроизводительным вычислениям. Плодотворность такой связи хорошо видна на примере языковой модели DeepSeek­R1. Китайцы смогли найти свой вариант архитектуры, наиболее совершенный, экономичный в сравнении с реализованными ранее.

Неделя пролетела незаметно, мы получили отличную обратную связь от слушателей, множество подключений из разных мест, нас просто засыпали вопросами и комментариями. Это неудивительно, потому что лекторами выступили ведущие эксперты, профессионалы в своей области, осветившие тренды, сделавшие обзорные доклады по основным направлениям развития ИИ.

ИИ продолжает неуклонно развиваться. Архитектурные решения разработчиков DeepSeek­R1 позволили «положить на лопатки» всех конкурентов. Но если посмотреть на ситуацию глазами конечного потребителя этого продукта, использующего данную языковую модель, то обнаружится, что конечный результат вполне сопоставим с решениями от других разработчиков.

— Революции не произошло?

— Революции не произошло с точки зрения удовлетворения запросов потребителя, но можно сказать, что китайцами найдено революционное архитектурное решение языковой модели.

Конечно, ИИ развивается, но у исследователей меньше задач не становится и нет ощущения, что новые достижения закрывают старые проблемы.

— В каком направлении стоит ожидать новых результатов?

— Огромный набор накопленных знаний включает в себя опыт людей, заключённый в книгах, учебниках, статьях. В каждой отрасли имеется множество документов, регламентирующих технологические и другие процессы. Ориентироваться в массивах нормативной, регламентирующей и прочей знаниевой информа­­ции стало чрезвычайно затруднительно, тем более что отчасти она противоречива. Сегодня одной из актуальных задач в области ИИ стало управление знаниями (смарт­-стандарты). При этом модели должны научиться понимать тексты стандартов, оперировать ими. Вот здесь стали особенно востребованы большие языковые модели, благодаря которым широкий круг специалистов приступил к анализу текстов документов.

— Теперь я могу попросить Chat GPT проанализировать конфликты нормативных документов?

— Попросить можно. Но не факт, что результат вас устроит, хотя на первый взгляд ответ выглядит правдоподобно. На самом деле довольно часто встречаются ошибки, называемые галлюцинациями.

— Это происходит из­-за неправильного обучения моделей?

— Модель обучается на множестве текстов, взятых из сети Интернет, среди которых встречается недостоверная информация, которая при неточном наборе команд пользователя нейросети может привести к неверному конечному результату.

— Получается, что мы научили модель «плохому»?

— Поиск результата имеет вероятностный характер, поэтому можно и «плохому» научить. Не допустить подобного развития событий — отдельная непростая задача.

Нелегко «приручить» большую языковую модель настолько, чтобы она выдавала достоверный результат и умела анализировать сложную семантическую информацию в предметной области. В этом случае не обойтись без специального дообучения модели.

Дополнительные сложности, рис­ки возникают при работе механизмов, устройств под управлением ИИ. Надо понимать, что представляет собой ИИ в данном конкретном случае. Если в вашем распоряжении «натасканный» методами машинного обучения «чёрный ящик», то может возникнуть проблема доверия к результату, поскольку вы не понимаете, как ИИ пришёл к данному решению. Если в данном случае цена ошибки слишком велика, то нельзя полностью доверяться ИИ, работающему в концепции «чёрного ящика». Для критически важной задачи нужна полная прозрачность поиска решения.

Поэтому так высок интерес к созданию объясняемого ИИ, когда модель решает математические и логические задачи, «рассуждая» пошагово под вашим наблюдением. Речь идёт, например, о моделях, основанных на знаниях, онтологиях. Разные задачи предъявляют неодинаковые требования к системам ИИ, но общим трендом стало построение объясняемых систем искусственного интеллекта.

— Получается, что нужно «вскрыть» все «чёрные ящики»?

— Нет, конечно! Рутинные задачи, например — деятельность кредитного эксперта в банке по одобрению кредита, можно передать «чёрному ящику». В результате заказчик получает ощутимый выигрыш при умеренных рисках.

Важно помнить, что столь мощный аппарат, как ИИ, может нести угрозы. Например, в результате намеренного искажения входных данных или их недостаточной полноты модель, обученная на этих данных, может выдать неверный ответ. При этом результат внешне выглядит достоверным. Ошибки, искажения, неточности не всегда бросаются в глаза.

— Значит, нельзя относиться к ответу ИИ на запрос как к истине в последней инстанции?

— Нельзя. ИИ как хороший помощник быстро находит и сортирует нужную информацию, структурирует знания, помогает создать базу, опираясь на которую пользователь сможет решить стоящую перед ним задачу (создать новое знание). Однако было бы ошибочно использовать ИИ как «решебник» в ситуациях, когда требуется творческий подход.

ИИ делает некритичного, чуждого творчества человека потребителем готовых решений, в некотором смысле попавшим под власть ИИ. Печально, что число таких людей растёт, и, к сожалению, они не понимают, что как работники, выполняющие рутинные операции, они в первую очередь подпадут под сокращение, вызванное растущим внедрением ИИ в производственные процессы.

В своё время низко квалифицированный физический труд был замещён автоматическими системами. Так же в сфере интеллектуальной деятельности рутинная работа служащих со временем будет замещена ИИ. Понимание этой закономерности даёт хороший стимул работникам, занятым в данной сфере, к повышению своей квалификации, росту профессионализма, творческому подходу к труду. Ну а многим из тех, кто бездумно пользовался плодами ИИ, придётся, возможно, перейти в сферу обслуживания не только людей, но даже искусственного интеллекта.

Хочется надеяться, что молодое поколение правильно поймёт этот вызов и не попадёт в ловушку облегчения интеллектуальной деятельности с помощью ИИ. Сейчас, например, я вижу у некоторых студентов обзорные главы квалификационных работ, написанные «невидимой рукой» ИИ. У многих людей мозг устроен так, чтобы при возможности избегать упорной напряжённой работы. ИИ поможет решить эту проблему, только цена этому может стоить социального статуса «среднему работнику», который не стремится стать супер специалистом.

— В прошлом году при посещении ИАПУ ДВО РАН президентом РАН академиком РАН Г.Я. Красниковым  интерес у него вызвали работы по применению ИИ в медицине. Нейросеть в этой сфере — реальный помощник или модное увлечение?

— Применение ИИ в медицине стало уже традиционным направлением в нашей исследовательской деятельности. Среди сотрудников лаборатории интеллектуальных систем — два кандидата медицинских наук.

Расскажу немного о последнем проекте, который мы выполняем совместно с Тихоокеанским государственным медицинским университетом в рамках программы «Приоритет 2030», направленной на достижение национальных целей развития России и её технологического лидерства. Проект ставит целью создание системы поддержки принятия решений «Реабилитационный консилиум», которая существенно повысит точность и оперативность диагнозов, необходимых для реабилитации перенёсших инсульты пациентов.

Дело в том, что реабилитация больных после острых нарушений мозгового кровообращения или острых инсультов — нетривиальная задача. Поиском её решения занимается команда разных специалистов, каждый из которых ставит диагноз на основе опросников, тестов, результатов лабораторных исследований, жалоб согласно международному классификатору функций, содержащему более полутора тысяч различных значений. Каждое из значений содержит несколько определителей. В огромном объёме информации найти единственное безошибочное решение врачи не могут и вынуждены уменьшать количество этих возможных кодов. Проблема усугубляется тем, что в команде работают несколько специалистов, и их рекомендации должны быть согласованы.

От точности диагноза зависит эффективность восстановительных ме­роприятий. Поэтому мы обучаем нейросеть на определённом массиве данных и по заданным параметрам отбора находим лучший результат. То, что было недоступно в рамках привычных подходов, сейчас становится возможным благодаря нашему умению работать с большими массивами информации.

Подчеркну, что система мотивирует своё решение, объясняет пользователю, почему она поставила данный диагноз. При этом врач может не согласиться в полной мере с рекомендациями ИИ, а скорректировать их. Это один из примеров того, как ИИ помогает врачам найти правильные решения. На сегодня аналогов нашей разработки нет, а мы уже задумываемся над продолжением дальнейших совместных исследований с ТГМУ.

— Валерия Викторовна, большое спасибо за интересную беседу!

— Обращайтесь. В нашем институте ещё много интересных и полезных исследований.

Текст: Александр Куликов.
Источник: «Дальневосточный учёный».