По мнению заместителя президента РАН академика Арутюна Аветисяна, существующие системы искусственного интеллекта (ИИ) далеки от настоящего разума, и быстрого прорыва к «сильному ИИ» не предвидится. Но уже сегодня угрозы носят принципиально новый, комплексный характер, сочетая кибербезопасность и социогуманитарный аспект. Решением, по его словам, должно стать сочетание научных исследований и регуляторных мер для обеспечения доверия к технологии.

Если считать, что слабый искусственный интеллект — это то, что опирается на опыт, а сильный — на разум, то современные системы, основанные на анализе данных, далеки от сильного ИИ, рассказал математик. Тем не менее, исследования в этой области, включая разработку отдельных элементов сильного ИИ, необходимо продолжать, не ожидая, однако, прорыва в ближайшее десятилетие. «Если посмотреть наши направления форсайта в этой области, одно из них — элементы сильного искусственного интеллекта. Их нужно развивать, но не надеясь, что ближайшие пять-десять лет мы получим соответствующие технологии и какой-то невероятный прорыв с прикладной точки зрения», — заверил Арутюн Аветисян.

Что касается угроз — они имеют два аспекта. Первый традиционно связан с кибербезопасностью: необдуманное использование ИИ для защиты систем, анализа данных или, например, для управления автомобилем, может создать уязвимости для критической инфраструктуры.

Второй, социогуманитарный аспект, несёт ещё большие опасности, уверен академик. Известны случаи, зафиксированные ВОЗ, когда люди под влиянием ИИ совершали суицид или убивали членов семьи. Также возможны политические сценарии, когда технология используется для манипуляции и дестабилизации общественной обстановки.

Ответить на эти вызовы можно только опираясь на науку. Одни лишь организационные меры, по сути, сводятся к запрету технологии. «Комбинации научных и организационных подходов могут, не ограничивая внедрение, достаточно успешно обеспечивать высокий уровень доверия», — заключил учёный.

Ранее Арутюн Аветисян рассказал о доверенном искусственном интеллекте в критической инфраструктуре на пленарном заседании форума «Микроэлектроника 2025». Главные тезисы доклада можно почитать на сайте РАН.