Провели заседание сопредседатели Совета академики РАН Гарегин Тосунян и Абдусалам Гусейнов.

С докладами выступили Владислав Лекторский, академик РАН, декан философского факультета Государственного академического университета гуманитарных наук, председатель Научного совета РАН по методологии искусственного интеллекта и когнитивных исследований, Дмитрий Ушаков, академик РАН, директор Института психологии РАН, научный руководитель кафедры общей психологии МГУ им. М.В. Ломоносова, и Арутюн Аветисян, академик РАН, директор Института системного программирования РАН им. В.П. Иванникова, заведующий кафедрами системного программирования в МГУ им. М.В. Ломоносова, МФТИ, НИУ ВШЭ.

Владислав Лекторский в докладе «Человек и системы искусственного интеллекта» проанализировал возможности искусственного интеллекта (ИИ), указав на то, что хотя ИИ может воспроизвести некоторые из функций сознания и превосходит интеллектуальные возможности человека во многих отношениях, он может ошибаться, а его творческие возможности ограничены комбинированием уже созданного человеческой культурой. Выводы и предсказания, сгенерированные ИИ, указывают на корреляции, а не на причинно-следственные связи, они не могут считаться научным знанием, так как не опираются на процедуры обоснования. Докладчик подчеркнул, что, учитывая возможность конфликта познавательной и нравственной деятельности, все более актуальной становится задача философско-гуманитарной экспертизы новых технологий.

В своем докладе «Человек и искусственный интеллект: подходы к взаимодействию» Дмитрий Ушаков указал на образы "цифрового ангела" и Франкенштейна как на возможные сценарии развития искусственного интеллекта (ИИ). Использование ИИ позволяет проводить автоматизированную диагностику психологических состояний людей, повышая эффективность человеческой деятельности в сложных условиях, персонализацию образования, помогая прогнозировать социальные процессы и облегчая взаимодействие человека с интеллектуальными системами. Индивидуальные цифровые ангелы могут помочь человеку организовывать себя и взаимодействовать с другими людьми, могут оказывать профессиональную поддержку, а также защищать от обмана, оценивая информацию в СМИ и добросовестность собеседника. Вместе с тем развитие ИИ сопряжено с рядом рисков. В частности, сегодня ответственность за будущее человечества смещается на уровень корпораций и групп людей, способных разрабатывать и воплощать технологии ИИ. Еще одним риском является потенциальное вмешательство ИИ в формирование мотивов и ценностей людей.

Арутюн Аветисян в докладе «Технологии доверенного искусственного интеллекта. Вызовы и перспективы» проанализировал уязвимости искусственного интеллекта, которые делают необходимым создание сообществ, стандартов и инструментов, позволяющих обеспечить жизненный цикл разработки доверенных технологий. Примерами таких уязвимостей являются атаки на системы компьютерного зрения, атаки с извлечением конфиденциальных данных из обученных моделей, применение дискриминирующих алгоритмов и безответственное использование генеративных сетей. Докладчик рассказал о подходах, используемых в России и за рубежом для разработки доверенного программного обеспечения, особое внимание уделив созданной ИСП РАН облачной платформе для анализа и разработки доверенных систем ИИ, которая является прообразом экосистемы доверенного искусственного интеллекта, обеспечивающей технологическую независимость для всех при полном контроле над кодовой базой.

С презентациями Д. Ушакова и А. Аветисяна можно ознакомиться по ссылке.