ИИиКБ

ИИ-помощник для ИБ: где он снижает нагрузку и расходы, а где создает новый класс рисков? Дефицит ИБ-специалистов в России к 2027 г. может составить до 65 тыс. человек. При этом поток расследований, регуляторных требований и внутренних запросов постоянно растет и ускоряется. Инфраструктура и атакующая поверхность продолжают увеличиваться, а специалистам приходится закрывать все больше фронтов. Возникает вполне понятное желание поставить ИИ-помощника и получить передышку. #Искусственныйинтеллект https://www.itsec.ru/articles/ii-pomoshchnik-snizhaet-nagruzku-i-sozdaet-riski Мы есть в MAX

🏛️ ИТ-компании просят упростить работу с персональными данными для обучения ИИ 🔸Российские бигтех-компании попросили Минцифры доработать закон о персональных данных, следует из обращения Ассоциации больших данных (АБД, включает «Авито», «Сбер», «Ростелеком», «Яндекс», HH, VK и др.) в министерство от 3 августа. АБД просит разрешить обрабатывать данные с использованием технологий повышения приватности без согласий граждан для разработки, обучения и использования ИИ, при соблюдении нескольких условий. 🔸Технологии повышения приватности (Privacy Enhancing Technologies — PETs) — набор математических и программных методов защиты личных данных, позволяющих обрабатывать, передавать и хранить информацию без риска ее утечки или раскрытия. 🔸При корректном применении такой подход абсолютно исключает возможность идентификации конкретного человека, считают в АБД: «Проблема в том, что в действующей нормативной базе эти технологии как отдельная категория не поименованы — любое математическое или алгоритмическое преобразование персональных данных сегодня одинаково относится к "методам обезличивания". В результате зрелые решения, обеспечивающие реальную защиту человека, юридически не отличаются от промежуточных». 🔸Условиями использования PETs АБД предлагает считать то, что риск раскрытия личности равен нулю или не превышает малые доли процента, данные используются только для разработки, обучения и использования ИИ, их обработка происходит на территории РФ и российскими компаниями. Также ассоциация предлагает ввести понятие «доверенного посредника», который аккредитован госорганами и эксплуатирует информсистему для хранения и доступа к обезличенным персональным данным для ИИ. Еще предлагается разделить данные на платные и бесплатные — для исполнения требований законодательства и для коммерческого использования. 👁 PA | 💬 Max | ❤️ ЯМ | 🗣️ ВК

ИИ не заменит аналитиков, но изменит их работу 👨‍💻🤖 В кибербезопасности сейчас два лагеря: одни ждут полностью автономные системы, другие считают ИИ маркетингом. Практика — посередине. Максимальный эффект дают прикладные сценарии автоматизации. Что уже работает: • Обработка данных — LLM суммаризируют документы, структурируют информацию, находят связи между событиями. • Автоматизация рутины — ИИ-агенты собирают контекст по инцидентам, готовят рекомендации, запускают сценарии реагирования. На платформе DRP анализируют тонны сообщений в СМИ, соцсетях и даркнете, выявляя репутационные риски. • Упрощение работы с инструментами — ИИ становится единым слоем между пользователем и десятками продуктов. Формулируй запросы на естественном языке, получай готовые SQL-запросы или объяснения сложных терминов. Сложные системы становятся доступнее даже для специалистов без глубокого опыта. Риски, о которых нельзя забывать: Модели иногда ошибаются — неверные рекомендации могут иметь серьезные последствия. ИИ привлекает злоумышленников, расширяя поверхность атаки. Плюс «теневые ИИ» — сотрудники используют сторонние сервисы в обход политик, рискуя утечками. Запрет не выход, нужна управляемая среда. Будущее: В ближайшие 5 лет полностью автономной защиты не будет. Финальное решение остается за человеком. Тренд — контролируемая автономность: ИИ берет на себя рутину, а специалисты фокусируются на поиске угроз, проверке гипотез и сложных решениях. ИИ — не замена, а инструмент, который меняет работу аналитиков к лучшему 🚀 Подробнее читайте по по ссылке https://www.itsec.ru/articles/ii-ne-vytesnit-analitikov-no-izmenit-ih-rabotu Альтернативный канал в МАХ #SamatovLAB #ИИвИБ #автоматизацияИБ #Samatov_CISO #инфобез

👮‍♂️ Глава СК предложил считать использование ИИ, VPN и прокси отягчающим обстоятельством при совершении преступлений 🔸Следственный комитет России подготовил законопроект об ужесточении уголовной ответственности за использование в совершении преступлений информационно‑коммуникационных технологий (ИКТ), искусственного интеллекта, VPN‑сервисов и прокси‑серверов. Об этом заявил глава ведомства Александр Бастрыкин. 🔸По его словам, законодательство уже регламентирует использование программных средств, под которыми подразумевают VPN‑сервисы и прокси‑серверы, для доступа к заблокированным ресурсам, если с их помощью совершают преступления. При этом в российском законодательстве нет универсальной нормы, обеспечивающей как усиление уголовной ответственности за любое использование ИКТ, в том числе искусственного интеллекта, в преступных целях, так и эффективное превентивное воздействие. 👁 PA | 💬 Max | ❤️ ЯМ | 🗣️ ВК

🏛️ Дипфейки при совершении преступлений могут признать отягчающим обстоятельством 🔸В Госдуму внесен проект поправок в Уголовный кодекс РФ: закрытый перечень обстоятельств, отягчающих наказание, предложено дополнить пунктом "х" об использовании при совершении преступления видеозаписи, аудиозаписи, изображения (в том числе электронного) или иных аудиовизуальных материалов, которые: - созданы с применением технологий искусственного интеллекта или иных технических средств обработки информации, - такие материалы воспроизводят или имитируют высказывания или действия лица, фактически им не совершенные, - либо такие материалы демонстрируют человека, личность которого сгенерирована технологиями. 🔸Авторы проекта указывают, что высокая степень реалистичности, присущая дипфейкам, позволяет злоумышленникам использовать их, чтобы ввести в заблуждение, совершить мошенничество, распространить клевету или совершить иные преступления, в т.ч. против общественной безопасности. Предположительно, поправка может заработать уже с сентября. 🔸Законопроект внесла большая группа депутатов ГД и сенаторов РФ, однако Правительство РФ и Верховный Суд РФ отнеслись к инициативе сдержанно. 👁 PA | 💬 Max | ❤️ ЯМ | 🗣️ ВК

ИИ меняет расследование криптопреступлений Если раньше криптоатаки строились вокруг уязвимостей и фишинга, то теперь ИИ превращает мошенничество в масштабируемый сервис. Аналитики называют это ИИ-криптофродом. ИИ помогает искать жертв, создавать дипфейки, генерировать фишинговые кампании, анализировать код и скрывать маршруты вывода средств между разными блокчейнами и DeFi-сервисами. #блокчейн #криптовалюты https://www.itsec.ru/articles/ii-menyaet-rassledovanie-kriptoprestuplenij Мы есть в MAX

🏛️ Законопроект об ИИ внесён в Госдуму: что в нём важно для инфоприватности 📄 25.06.2026 Правительство внесло в Госдуму законопроект № 1271570-8 "О поддержке развития технологий искусственного интеллекта в РФ" - доработанную и заметно смягчённую редакцию прежнего проекта Минцифры. Из неё убрали запрет трансграничного ИИ, понятие "доверенных моделей" и жёсткие обязанности операторов и пользователей. По природе это рамочный, преимущественно стимулирующий акт. 📌 Что закрепляется законопроектом: 🔸 впервые - базовые определения (искусственный интеллект, большая фундаментальная модель, набор данных, обучение, разработчик); 🔸 действует только для больших фундаментальных моделей от 1 млрд параметров, а узкоспециализированные решения и компьютерное зрение остаются за скобками; 🔸 категории суверенных и национальных моделей: российское юрлицо-разработчик, локализация данных в ЦОД на территории РФ, подтверждение соответствия законодательству и традиционным ценностям; 🔸 Правительство вправе устанавливать случаи обязательного применения только таких моделей (в банковской сфере - по согласованию с ЦБ); 🔸 переходный период для действующих ИИ-систем предусмотрен до 01.09.2032. ⚠️Значительная часть содержательных требований делегирована подзаконным актам, поэтому оценивать закон в отрыве от них преждевременно. ⚖️ Три сюжета, наиболее значимых для юристов: 1️⃣ Авторские права на обучение (ст. 10). Использование объектов авторских и смежных прав для обучения перестаёт быть нарушением - но только для суверенных и национальных моделей и лишь при правомерно полученном экземпляре либо открытом доступе к произведению без технических ограничений. Вопрос о компенсациях правообладателям оставлен открытым. 2️⃣ Маркировка ИИ-контента стала из обязательной добровольной. Обязанности разработчиков (ст. 8) и ответственность (ст. 11) сформулированы мягко и отсылочно, т.е. немедленной жёсткой нагрузки на рынок закон не создаёт. 3️⃣ Данные из ГИС для обучения - и вот это, пожалуй, самый недооценённый аспект. Предусмотренный доступ к наборам данных из государственных информационных систем для обучения моделей в тексте не соотнесён с требованиями 152-ФЗ и режимом ИСПД. Это оставляет открытым вопрос о законности обработки ПД в обучающих выборках. 👁 PA | 💬 Max | ❤️ ЯМ | 🗣️ ВК

А вот инфографика к этому отчету Альтернативный канал в МАХ #SamatovLAB #ИИвИБ #автоматизацияИБ #Samatov_CISO #инфобез Источник: Positive Technologies, 2026. «ИИ в 2026: угроза снаружи и внутри»

🎙 С помощью ИИ сделал аудиопересказ исследования "ИИ в 2026 Угроза снаружи и внутри" в формате дискуссии. Получилось интересно Альтернативный канал в МАХ #SamatovLAB #ИИвИБ #автоматизацияИБ #Samatov_CISO #инфобез Источник: Positive Technologies, 2026. «ИИ в 2026: угроза снаружи и внутри»

DeepSeek, Qwen и нейро-слайды: Как ИБ-специалисту ускорить рутину без утечек? Если вы устали от рутины, бесконечного написания регламентов, сбора отчетов для руководства и отрисовки слайдов — этот материал для вас. Мы разобрали, как запрячь ИИ в работу так, чтобы экономить время и свои ресурсы. Что внутри: 🔥 Джентельменский набор: обзор сервисов ИИ для специалиста по ИБ 🎨 Магия слайдов: проектируем структуру доклада и собираем интерактивные презентации прямо в чате GLM. + Метод метапромтинга - для тех, кто вообще не умеет рисовать. 🤖 Уровень «Про»: как устроены ИИ-помощники. Собрали на базе Google Gems двух полезных ботов: Переводчик ИБ-аббревиатур и Кибер-Художник для генерации сочных ИБ-иллюстраций. Смотрим, забираем готовые шаблоны промптов и автоматизируем рутину без рисков 👇 https://rutube.ru/video/8aac0267ff71caaa55dc57a4bbf03051 📌 Альтернативный канал в МАХ #SamatovLAB #ИИвИБ #автоматизацияИБ #Samatov_CISO #инфобез

🔥 Перспективы развития и защиты систем с применением ИИ-агентов По данным отчётов с ЦИПР-2026, финансовый эффект от внедрения генеративного искусственного интеллекта в России за 2025 год составил 50 миллиардов рублей. ➡️ Следующий шаг — переход к использованию ИИ-агентов, способных отвечать на запросы, ставить цели, планировать действия и адаптироваться в процессе. Однако интеграция таких агентов в уже сложившиеся инфраструктуры порождает новые киберугрозы. ⚡️ Некоторые компании пытаются изолировать агента, например, отключив ему доступ в интернет. Но и это не панацея. Если злоумышленник уже проник во внутренний контур, он получает возможность влиять на работу агента изнутри. 🔍 Какие меры позволят выстроить безопасную комплексную систему разработки и внедрения мультиагентных архитектур? Независимый эксперт Денис Панков изучил кейсы и предложил конкретный набор шагов. ⛓️ Подробнее — в материале на сайте. #эксперт_BISA

Архитектура нейросети, устойчивая к постепенному отравлению Обычно корректность ML-модели оценивают по метрикам на тестовых данных: если точность высокая, значит все работает как надо. Проблема в том, что эту корректность можно незаметно разрушить через сами данные. В выборку добавляются специально искаженные, но правдоподобные примеры, и модель начинает усваивать неправильные закономерности. Такой сценарий называют Temporally Orchestrated Poisoning – постепенное отравление данных. #Искусственныйинтеллект https://www.itsec.ru/articles/arhitektura-nejroseti-ustojchivaya-k-postepennomu-otravleniyu Мы есть в MAX

MLSecOps. Обеспечение безопасности и отказоустойчивости систем Интересный промо вебинар. Обзорно рассмотрены вопросы: - Тренды в ИИ - Что такое MLSecOps? - Атаки на LLM - PI&JB - Обзор Owasp top 10 for LLM https://vkvideo.ru/video-18875334_456239310

В свежем номере журнала "Информационная безопасность" вышла моя статья посвященная применению генеративного ИИ в комплаенсе. Постарался показать, как с минимальными издержками автоматизировать процессы связанные с разработкой организационно-распорядительной документации по ИБ. 📌 Альтернативный канал в МАХ #SamatovLAB #ИИвИБ #автоматизацияИБ #Samatov_CISO #инфобез Читайте по ссылке https://cs.groteck.ru/IB_2_2026/74/index.html

Детерминированные и объяснимые модели ИИ для задач ИБ За последние три года генеративный искусственный интеллект прошел путь от лабораторного эксперимента до одного из ключевых элементов корпоративной автоматизации. Для многих отраслей оказалось достаточным, чтобы результат был “достаточно хорошим". Если при повторном запуске модели, к примеру, маркетинговый текст получится немного иным, это не создаст серьезных проблем. Однако в ИБ такой подход уже не работает. #искусственныйинтеллект https://www.itsec.ru/articles/determinirovannye-i-obyasnimye-modeli-ii-dlya-ib Мы есть в MAX

https://cs.groteck.ru/IB_2_2026/10/index.html

🔐 ИИ в ИБ: хайп или реальная помощь? 3 кейса, которые работают «ИИ заменит аналитиков», «ИИ сам напишет политики», «ИИ найдёт все уязвимости»... Стоп. Давайте без магии. Я тестирую ИИ-инструменты в реальных ИБ-процессах. Вот 3 задачи, где они действительно экономят время и деньги: ✅ Кейс 1: Подготовка внутренних регламентов и политик Вместо того чтобы с нуля писать документ на 20+ страниц: → Загружаю в ИИ требования регулятора + специфику компании → Прошу: «Составь структуру политики управления доступом с учётом 152-ФЗ и практики ИТ-ландшафта» → Получаю каркас, который остаётся только адаптировать под реальные процессы Экономия: 8-10 часов → 1-2 часа на редактуру ✅ Кейс 2: Создание плейбуков реагирования на инциденты (IR Playbooks) Вместо долгой разработки сценариев для ЦПК: → Описываю тип угрозы (например, ransomware / утечка ПДн) → Прошу ИИ: «Распиши пошаговый плейбук: первые 30 мин, 2 часа, 24 часа. Кто что делает, какие артефакты собирать, как изолировать» → Получаю чёткий алгоритм Экономия: готовый черновик за вечер ✅ Кейс 3: Обучение и кибергигиена Нужно быстро сделать памятку или сценарий фишинг-тестирования: → Прошу ИИ адаптировать материал под конкретный отдел (бухгалтерия, склад, топ-менеджмент) → Получаю язык, который они понимают. Экономия: 1-2 дня → 30 минут на финальную правку ⚠️ Но есть «но»: ИИ не заменяет экспертизу — он ускоряет рутину. Всегда нужно проверять выводы. Конфиденциальные данные — только в защищённые/локальные среды 💡 Вывод: ИИ — не волшебная палочка. Это «второй пилот», который освобождает время для стратегии и управления рисками. 📌 Разбор безопасных инструментов, готовые промпты и инструкция по внедрению без рисков — в моей книге про промпт-инжиниринг 📌 Альтернативный канал в МАХ #SamatovLAB #ИИвИБ #автоматизацияИБ #Samatov_CISO #инфобез

Искусственный интеллект скоро начнет скрывать инциденты Событий в SOC становится все больше, а аналитиков больше не становится. Поэтому системы на базе ИИ уже сегодня помогают сортировать инциденты, расставлять приоритеты и отсеивать часть шума. Следующий логичный шаг – разрешить искусственному интеллекту самостоятельно закрывать часть инцидентов без участия человека. Но это значит, что система начнет решать не только на что обратить внимание аналитика, но и выбирать, что он вообще никогда не увидит. #искуссивенныйинтеллект #SOC https://www.itsec.ru/articles/ii-skoro-nachnet-skryvat-incidenty Мы есть в MAX

ИИиКБ pinned «🔐 Новый проект: Samatov-LAB Привет, друзья! Вы знаете меня по темам ИИ и корпоративной безопасности. За время ведения этого канала я получил много вопросов: «А как применить это на практике?», «С чего начать, если я не технарь?», «Как объяснить это руководству?»…»

Анатомия защиты LLM: одного слоя недостаточно Когда речь заходит о безопасности больших языковых моделей, первое, что приходит на ум – гардрейлы. Гардрейлы работают на входе и выходе, отсекая все запрещенное. Инструментов уже довольно много, но проблема гардрейлов в том, что они смотрят только на текущий диалог. У них нет памяти на предыдущие шаги, нет контроля над тем, что модель делает вне диалога, и уж точно нет понимания, что происходит с моделью между сессиями. #искусственныйинтеллект https://www.itsec.ru/articles/anatomiya-zashchity-llm Мы есть в MAX