XAI - Семинар

Доверие к искусственному интеллекту обсудили учёные из разных стран мира На полях Глобального диалога по управлению искусственным интеллектом под эгидой ООН состоялась панельная сессия «Доверие и управление в эпоху генеративного ИИ: интеллектуальная собственность, качество, надежность и подотчетность». Одним из организаторов встречи стал Институт системного программирования им. В.П. Иванникова РАН. 🔐 О доверии к искусственному интеллекту в разных сферах жизни рассказал директор ИСП РАН академик Арутюн Аветисян. Он обозначил сразу несколько направлений для обсуждения, сделав акцент на особой важности научного, доказательного подхода в вопросах обеспечения доверенности ИИ-систем. Особое внимание в своём докладе он уделил реализованным решениям, имеющим потенциал глобального применения. «Технологии доверенного ИИ — от верификации моделей до цифровых водяных знаков – слишком масштабны для создания силами одной страны или компании. Базовые решения должны развиваться через открытые репозитории в международной кооперации при сохранении суверенного права каждой страны на их применение»,— сказал академик Аветисян. Учёный также отметил, что имеющийся многолетний опыт ИСП РАН по доверенной разработке программных решений формирует рациональный базис и для создания доверенных ИИ-решений. 🔗 Российская академия наук в MAX

ENIGMA.ist — научно-издательская платформа Постоянные идентификаторы. Международная регистрация. Рецензирование. Коллеги! У нас хорошая новость - 27 статьям с конференций MathAI2025 и MathAI2026 присвоены официальные DOI! Всем статьям, опубликованным на платформе enigma.ist, присвоены постоянные цифровые идентификаторы DOI, зарегистрированные в международной системе Crossref: ▪️ 23 статьи — журнал Mathematics & AI ▪️ 4 статьи — журнал Finance & AI Каждый DOI — постоянная, международно признанная ссылка на вашу работу, пригодная для цитирования в любой научной базе мира. Идентификатор присваивается однократно и сохраняется навсегда. В ближайшие дни все соавторы получат на почту официальное уведомление о присвоении DOI с полными данными для цитирования. Открыты два новых журнала ◆ Bioinformatics & AI ◆ Autonomous AI Agents Число журналов будет расти по мере запроса научного сообщества. Издания выходят под международной юрисдикцией (издатель — IAIC AI Research & Trading FZCO, ОАЭ) и не являются российскими — это даёт авторам полноценную международную видимость без ограничений. Окно для авторов из России и СНГ До 31 июля 2026 г. приём статей во все текущие выпуски — бесплатный для авторов из России и стран СНГ. Возможность войти в число статей-основателей молодых международных изданий на старте. 📩 editorial@enigma.ist Приглашаем к участию в редакционном процессе ▪️ Редакторы новых журналов ▪️ Рецензенты — в новые и действующие журналы ▪️ Предложения по созданию новых журналов под ваше направление Все предложения — на editorial@enigma.ist с кратким CV и областью экспертизы. ━━━━━━━━━━━━━━━━━━━━ 🔗 enigma.ist · 📩 editorial@enigma.ist

💬ИСП РАН представил подход к развитию доверенного искусственного интеллекта на первом Глобальном диалоге ООН 6-7 июля 2026 года директор Института системного программирования им. В.П. Иванникова РАН, академик РАН Арутюн Аветисян принял участие в первом Global Dialogue on AI Governance, организованном Организацией Объединенных Наций в Женеве. Диалог стал первой международной площадкой, созданной Генеральной Ассамблеей ООН, где представители науки, бизнеса, технического сообщества и гражданского общества совместно обсуждают подходы к глобальному управлению искусственным интеллектом. В центре внимания форума — выработка практических рекомендаций по развитию безопасного и надежного ИИ для формирования международной повестки в этой сфере. 6 июля директор ИСП РАН выступил в рамках тематического трека «Safe, Secure and Trustworthy AI: Interoperability and Compatibility of Approaches», посвященном вопросам безопасности, доверенности и совместимости различных подходов к управлению искусственным интеллектом. В ходе сессии участники обсудили, как обеспечить сопоставимость национальных подходов к регулированию технологий ИИ. ⏺В своем выступлении Арутюн Аветисян отметил, что сегодня главный вопрос заключается уже не в том, насколько мощными стали системы искусственного интеллекта, а в том, можем ли мы им доверять. По его словам, доверие должно обеспечиваться на протяжении всего жизненного цикла ИИ. Для этого необходим сложный технологический стек, включающий безопасную разработку, верификацию моделей, бенчмаркинг, цифровые водяные знаки, фильтрацию контента и непрерывный мониторинг. По словам академика, ни одна компания и ни одна страна сегодня уже не способны самостоятельно обеспечить разработку всей экосистемы доверенного искусственного интеллекта. Развитие этой области требует совместной работы над базовыми технологиями, международными стандартами, бенчмарками и лучшими практиками при сохранении возможности национального применения этих решений. ✔️В качестве одного из практических шагов директор ИСП РАН предложил создание Международного репозитория технологий доверенного искусственного интеллекта, который позволит исследователям, университетам, компаниям и государствам совместно развивать технологии доверенного ИИ и обеспечит равный доступ к ним. 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС

📐 СПЕЦИАЛЬНЫЙ МАТЕМАТИЧЕСКИЙ ВЫПУСК MATHAI 2026 Journal of Mathematical Sciences (Springer Nature Switzerland AG) Уважаемые коллеги, участники конференции MathAI 2026! Формируется специальный выпуск международного математического журнала Journal of Mathematical Sciences (издательство Springer Nature Switzerland AG; индексируется в Scopus и Web of Science) по результатам конференции MathAI 2026 (Научно-технологический университет «Сириус», Сочи). Тематика выпуска Математические основания искусственного интеллекта: теория моделей и вычислимость; формальная и вероятностная верификация; логики программ; языки программирования для верифицируемых систем; вычислимая семантика; теоретико-модельные методы в машинном обучении; смежные разделы математической логики и теоретической информатики. Отбор В выпуск войдут 5–6 лучших математических работ участников MathAI 2026. Отбор осуществляется программным комитетом. Критерии — новизна математического результата, строгость изложения, значимость для области. Требования к рукописям Каждая работа должна быть существенно переработана относительно версии, представленной на конференции: ▸ новое название; ▸ новый абстракт; ▸ расширенное введение с современным обзором литературы; ▸ новые математические результаты — теоремы, доказательства, конструкции, — не входившие в конференционный текст. Оригинальность содержания — обязательное требование Springer. Работы без содержательного расширения к отбору не допускаются. Подача заявок Заявку направлять по e-mail: mathai.club@yandex.ru Заявка включает: 1. Предварительное название и абстракт (до 1 страницы); 2. Перечень новых результатов, отличающих рукопись от конференционного варианта; 3. Список авторов с аффилиациями. ⏰ Дедлайн подачи заявок: 31 июля 2026 г. После отбора авторы получат подробные требования Springer к оформлению рукописи и график подготовки полной версии для рецензирования. С уважением, Нечесов Андрей Витальевич чл.-корр. РИА организационный комитет MathAI 2026

«Нам важен не только искусственный интеллект, а доверенный искусственный интеллект» Президент Российской академии наук Геннадий Красников в интервью программе «Чёрные дыры. Белые пятна» отметил, что развитие нейросетей невозможно без контроля их безопасности и надёжности. По его словам, перед внедрением ИИ-систем необходимо тщательно проверять их на наличие уязвимостей, которыми могут воспользоваться злоумышленники. В качестве примера учёный привёл сферу беспилотного транспорта. Он отметил, что большое количество различных программных решений, создаваемых компаниями даже на базе открытого кода, усложняет проверку таких систем на «доверенность» и безопасность. Полную версию беседы смотрите в выпуске. 🔗 Российская академия наук в MAX

К вопросу о доверии к применяемым в сверточных нейронных сетях реализациям умножения матриц: только что была опубликована статья о ведущемся в Лаборатории YADRO НГУ проекте по дедуктивной верификации оптимизированного умножения матриц. Библиографическая ссылка на данную статью: Агибалов М.С., Кондратьев Д.А. На пути к дедуктивной верификации реализаций умножения матриц с направленными на повышение эффективности использования кэш-памяти оптимизациями // Системная информатика. 2026. № 30. С. 71-116. DOI: https://doi.org/10.31144/si.2307-6410.2026.n30.p71-116 Данную статью можно скачать по следующей ссылке: https://system-informatics.ru/files/article/matrix_multiplication_verification.pdf Проект пока что находится только на первоначальном этапе, ведется работа над дальнейшим развитием проекта.

🤍ИСП РАН на Форуме ДИИ: фундаментальные вопросы доверенного искусственного интеллекта 13 мая 2026 года в рамках Форума «Технологии доверенного искусственного интеллекта» состоялась секция «Фундаментальные вопросы доверенного ИИ» — одно из ключевых научных мероприятий форума. В течение всего дня участники обсуждали фундаментальные и прикладные аспекты безопасности и доверия к современным ИИ-системам — от защиты больших языковых моделей и оценки достоверности контента до устойчивости нейросетей к состязательным атакам и применения ИИ в анализе кода. Модераторами секции выступили Денис Турдаков, руководитель исследовательского центра доверенного ИИ ИСП РАН, и Андрей Коваленко, председатель комитета по проблемам ИБ НЭС Совета безопасности РФ. Денис Турдаков для ИСП РАН: Секция наглядно показала, что доверие к ИИ — это не маркетинговый лозунг, а строгая инженерная и математическая задача. В ИСП РАН мы исходим из того, что надёжные системы должны строиться на верифицируемых методах оценки, прозрачных бенчмарках и архитектурных ограничениях, которые проверяются на уровне фундаментальных принципов, а не исключительно эмпирически. Уверен, что только объединяя академическую глубину, экспертизу в машинном обучении и кибербезопасности, а также реальные индустриальные вызовы, мы сможем создать ИИ, который будет не просто „умным“, но и предсказуемым, устойчивым к состязательным воздействиям и готовым к ответственному применению в критически важных сферах. Значительная часть докладов была представлена сотрудниками Исследовательского центра доверенного искусственного интеллекта ИСП РАН. На секции выступили Борис Добров, Максим Рындин, Михаил Паутов, Дмитрий Ковалев, Кирилл Лукьянов, Шамиль Курмангалеев, Валерий Игнатьев, Сергей Боловцов и Егор Аничков. Также среди докладчиков — сотрудники AIRI, МГУ, ННГУ, МФТИ, РАНХиГС; представители индустрии и экспертного сообщества в области информационной безопасности. В ходе секции обсуждались: ▪️Подходы к оценке достоверности сгенерированного контента; ▪️Разработка guardrails для больших языковых моделей; ▪️Генерация бенчмарков LLM на основе достоверных источников; ▪️Методы обнаружения галлюцинаций и тестирования устойчивости нейросетей; ..и другие вопросы доверенного ИИ. 👉Материалы секции доступны на сайте форума. 🔘Фото предоставлены организаторами Форума 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС

🤍На форуме «Технологии доверенного ИИ» обсудили безопасность и будущее интеллектуальных систем Директор ИСП РАН, академик РАН, Арутюн Ишханович Аветисян принял участие в ключевой дискуссии «Доверенный безопасный ИИ: от теории к практике» в рамках IV Форума «Технологии доверенного искусственного интеллекта». Форум прошёл в Конгресс-центре МГТУ им. Н. Э. Баумана и собрал более 600 участников — представителей органов власти, науки, индустрии и экспертного сообщества. В дискуссии также приняли участие начальник Управления Президента РФ по развитию ИКТ и инфраструктуры связи Татьяна Матвеева, заместитель министра цифрового развития РФ Александр Шойтов, первый заместитель директора ФСТЭК России Виталий Лютиков, Специальный представитель Президента РФ по вопросам международного сотрудничества в области информационной безопасности Артур Люкманов, заместитель директора по информационной инфраструктуре Госкорпорация «Росатом» Андрей Королев, управляющий директор Центра человекоцентричного AI Сбер Андрей Незнамов и другие эксперты. Модератором выступил генеральный директор АНО «НТЦ ЦК» Игорь Качалин. 👉Участники обсудили вопросы внедрения доверенного искусственного интеллекта в ключевые отрасли экономики, обеспечение технологического суверенитета, безопасность больших языковых моделей, развитие нормативной базы и подготовку специалистов на стыке ИИ и кибербезопасности. Отдельное внимание было уделено вопросам противодействия новым угрозам, связанным с генеративным ИИ и дипфейками. ✔️В рамках форума ИСП РАН также принял участие в научных и экспертных секциях, посвящённых фундаментальным вопросам доверенного ИИ и практическим аспектам обеспечения безопасности интеллектуальных систем. ➡️Фото предоставлены организаторами форума 💬ИСП РАН в Telegram 💬ИСП РАН в МАКС