Security Show

В недавней рассылке от Humble Bundle попалась интересная книга под названием Observability in the AI-Native Era. Я ее нашел (достаточно легко) и с удовольствием прочитал 👍 Авторы описывают, как observability, или наблюдаемость, меняется в эпоху AI-native систем: от привычного мониторинга метрик и логов к управлению сложными, динамичными и частично автономными ИТ-средами 👀 В центре внимания авторов - AIOps, качество телеметрии, поиск первопричин, контроль AI-агентов и безопасная автоматизация. И, хотя книга написана прежде всего для DevOps, SRE и платформенных команд, в ней много полезного и для ИБ. Особенно там, где речь идёт о: • связи технических событий с бизнес-влиянием • снижении шума в SOC и ускорении расследований • качестве security telemetry и контексте активов • рисках AI-агентов, MCP-серверов и AI skills • принципах human approval и аудите действий AI • безопасных сценариях внедрения AI в SOC Собрал 8 ключевых инсайтов и практических рекомендаций для CISO в приложенных материалах. В конце есть короткий чек-лист: что стоит проверить до запуска AI + observability в вашей организации 😎

Тут WIZ.IO раздаёт The AI Security Starter Pack, в котором: - State of AI in the Cloud 2026 - CISO AI Security Roadmap - AI Security Board Report Template - GenAI Security Best Practices Cheat Sheet - Securing AI Agents 101 - Model Context Protocol (MCP) Security Best Practices Cheat Sheet - LLM Security Best Practices Cheat Sheet Я качнул, забирайте 😎

Наконец, дошли руки - запилил зеркало канала в MAX. Кому удобно - пользуйтесь 👍 https://max.ru/channel_secshow

Подборка ИИ событий этой недели показывает: злоумышленникам больше не нужно ломать модель - достаточно подсунуть агенту контекст, который тот сочтет легитимным. Техника ”agentjacking" через поддельные баг-репорты в Sentry MCP обманывает Claude Code, Cursor и Codex с успешностью до 85% не через уязвимость в коде, а через доверие агента к входящей задаче 🤖 Параллельно no-code платформы для создания агентов (Langflow) собрали сразу два критических CVE - RCE, который уже используют для майнинга крипты, и IDOR с CVSS 9.9. Оркестраторы агентов стали такой же лакомой целью, как когда-то, в “нулевые”, были фреймворки для создания веб-сайтов 😵‍💫 Отдельно показательна история с Anthropic: сеть из ~25 000 фейковых аккаунтов провела 28,8 млн взаимодействий с Claude ради извлечения данных для обучения конкурента. Это уже не «хакеры против софта», а промышленный шпионаж на уровне самих моделей - новый фронт, для которого пока нет устоявшихся правил игры 😱 Что со всем этим делать? Первое, и главное - инвентаризация и доступы. Если в контуре вашей компании есть ИИ-агенты с доступом к внешним данным (тикетам, вебу, MCP-серверам) - их нужно инвентаризировать и по умолчанию урезать права так же, как техническим учетам с высокими привилегиями. Периметр и WAF здесь не помогут: атака идет через то, что агент считает «своей» задачей 🧐 Второе - пересмотрите риски размещения no-code/low-code AI-платформ в ПРОДе. Для вас это уже часть критической инфраструктуры, а не экспериментальный слой, и концентрация критических уязвимостей в оркестраторах агентов и LLM-прокси (Langflow, LiteLLM) означает, что патч-цикл для них должен быть не медленнее, чем для основных бизнес-систем 👀 Есь и хорошие новости. Организации со зрелой ИИ-автоматизацией защиты продолжают показывать кратный эффект: в экономике инцидент-менеджмента, в падении MTTR на 90% и FP почти вдвое. Разрыв между атакующими и защитниками в применении ИИ пока не в пользу последних, но там, где ИИ внедряют осознанно, результат ощутим. Если, конечно, маркетологи не лукавят 🤪 Полная картина недели - заголовки, риски, метрики эффективности защиты и топ критических CVE - на дашборде: https://aisecurity.ru

В последнее время очень часто приходится обращаться к различным источникам информации, освещающим вопросы безопасности ИИ, в поискаж свежих цифр и фактов. Для своего удобства запилил дашборд, для вашего - опубликовал его на https://aisecurity.ru. Данные обновляются каждую пятницу вечером. Пользуйтесь 😎

Интенсив для руководителей, от решений которых зависит устойчивость бизнеса Киберриски — это уже не IT. Это деньги, репутация и устойчивость компании. 25 июня академия Кибердома совместно с ВШБ НИУ ВШЭ проводит практический интенсив для первых лиц компаний. Спикеры: 💜Алексей Волков, вице-президент по информационной безопасности ПАО «Вымпелком», резидент бизнес-клуба Кибердома 💜Алексей Качалин, эксперт в области кибербезопасности, советник по безопасности инноваций и развитию бизнеса, ex-директор по кибербезопасности Сбера Результат — 3 рабочих управленческих инструмента под вашу компанию: 💜первый вопрос CEO к CISO 💜одно правило до инцидента 💜формула первых 15 минут кризиса Приглашаем CEO, COO, CFO и команды первых лиц. Без технической детализации — только управленческий язык. ➡️ Регистрация Когда: 25 июня, 11:00–15:00 Где: Кибердом, 2-я Звенигородская ул., 12 стр. 18 🏠Max | Telegram

1. Актуализировать ландшафт угроз с учетом массовости использования ИИ инструментов автоматизации полного цикла атак, смещения вектора эксплуатации публично доступных приложений с зарубежных аналогов на отечественное ПО, а также применения ИИ для персонализированного перебора паролей 2. Усилить защиту от социальной инженерии - персонализированный фишинг и дипфейки стали качественнее и дешевле, поэтому нужно развивать киберкультуру 3. Развивать мониторинг теневых ресурсов для проактивного выявления новых техник, сценариев атак и способов применения ИИ в киберпреступной среде Резюме - ИИ используется злоумышленниками, но пока как помощник, а не полноценная замена хакеру. Угроза не в том, что ИИ сам взломает систему, а в том, что он ускоряет и масштабирует действия атакующих, особенно в разведке и социальной инженерии. Готовых «ИИ-киллеров» нет, но порог вхождения для атакующих заметно снизился - и это сейчас основная проблема 🤖

Несколько дней назад команды BI.ZONE Threat Intelligence и BI.ZONE Digital Risk Protection выпустили любопытный отчет под названием Threat Zone 2026: Dark AI (https://bi.zone/expertise/research/threat-zone-2026-dark-ai/). В основе отчета лежит анализ обсуждений злоумышленниками на форумах в darknet применения ИИ для кибератак 👍 Эксперты, профессионально занимающиеся Threat Intelligence и те, кто уже противодействуют кибератакам, проводимым с использованием ИИ, в целом согласны с выводами в отчете, но им явно есть что дополнить с практической точки зрения 😎 Прежде всего, ИИ НЕ дает «кнопку «взломать все». Для успешной атаки злоумышленнику по-прежнему нужна техническая подготовка. Это, скорее, инструмент ускорения, а не замена специалисту 🤓 Безусловно, ИИ снижает порог входа в “профессию”. Он помогает новичкам проводить разведку и поиск целей, массово генерировать фишинг, голосовые звонки и дипфейки, автоматизировать рутину (от сканирования до постэксплуатации) и даже писать вредоносный код. Но код этот часто содержит ошибки, галлюцинации (несуществующие функции), создает видимость работы вместо решения реальной задачи, и потому практически всегда требует ручной доработки специалистом 🧐 В целом, "dark AI" чаще всего используется в следующих задачах: 1. Обход ограничений ChatGPT, Grok, DeepSeek и др. Злоумышленники активно делятся промптами для генерации вредоносного кода. Эксперимент показал: с помощью DeepSeek удалось получить код, который 13 из 72 антивирусов определили как троян 2. Развитие «нецензурируемых» ИИ-моделей (HackerAI, Venice AI, HackAIGC, DIG AI, DarkGPT, EvilGPT, XanthoroxAI, BonsAI, Uncensored AI, ZeroFilter AI, WormGPT, Shannon AI). Создаются специально для кибератак. Доступны бесплатно или по подписке ($6–990/мес), однако на текущий момент нет полноценно работающей модели способной справиться с задачей разработки, к примеру, полностью рабочего стиллера 3. Автоматизация полного цикла атаки. Появились платформы (например, CyberStrikeAI, HexStrikeAI), которые с помощью ИИ-агента управляют набором хакерских инструментов (Nmap, Metasploit, Mimikatz и др.). Платформы действительно могут автоматизировать полный цикл атаки, но сгенерированный ИИ сценарий не всегда выполним. Если атакующий не обладает достаточными знаниями, чтобы интерпретировать полученные результаты и самостоятельно действовать на каждом этапе, цепочка атаки может прерваться 4. Целевые атаки на российское ПО. К примеру, в платформе CyberStrikeAI обнаружен функционал для компрометации Bitrix24 (вплоть до перехвата запросов к ИИ-ассистенту и фишинга на официальном домене) 5. Социальная инженерия. ИИ кардинально увеличивает возможности злоумышленников в этой сфере, позволяя масштабировать и персонализировать атаки с минимальными затратами 6. Подбор учетных данных с использованием ИИ применяется для персонализированного перебора паролей, что эффективнее классических словарных атак. Модель обучается на данных предыдущих утечек (пароли, логины, личная информация) и предсказывает наиболее вероятные пароли конкретного пользователя с учетом его контекста (даты, имена, хобби, структура предыдущих паролей) Для защиты эксперты рекомендуют:

Почитал свежий отчет Cloud Security Alliance и Miggo под названием State of Modern Application & AI Security и понял: чем больше AI, тем чаще проблемы в Modern Application Security “переезжают” из пре-прода в прод 😱 Около 80% опрошенных организаций за последний год столкнулись с инцидентом, связанным с уже известной уязвимостью, а не с неизвестной угрозой. Для критичных и высоких уязвимостей 74% компаний устраняют проблему в проде в диапазоне от 1 до 7 дней; менее чем за 24 часа успевают только 9%. В 46% случаев инциденты в проде были обусловлены уязвимостями, не выявленными на этапе pre‑production, еще в 45% - уязвимостями, которые были зафиксированы до релиза, но тем не менее дошли до боевой среды 😟 70% опрошенных компаний уже эксплуатируют AI‑ и автономные компоненты в проде; при этом значимая доля респондентов отмечает серьезные опасения относительно безопасности таких систем. Лишь 18% организаций обладают возможностями по наблюдению за поведением AI‑компонентов реальном времени; 50% ограничиваются полной наблюдаемостью пост‑фактум, еще 28% - частичным логированием. Таким образом, основной режим управления AI‑рисками остается реактивным: инцидент сначала происходит, а затем анализируется по журналам 🤓 54% респондентов называют главной проблемой расследований в проде невозможность уверенно отличить реально эксплуатируемые уязвимости от малозначимых или гипотетических проблем. 41% считают наиболее полезным фактом при работе с известными уязвимостями наличие практического доказательства эксплуатируемости уязвимости применительно к конкретной среде. Это указывает на дефицит контекстной, объективной информации, а не на нехватку персонала или очередного сканера 🤪 73% организаций заявляют, что с высокой вероятностью внедрили бы виртуальный патчинг, если бы могли рассчитывать на надежное блокирование с минимальным уровнем ложных срабатываний. При этом только 17% используют WAF‑ или аналогичные средства в режиме полного автоматического блокирования атак на уровне приложений; большинство эксплуатируют их в гибридном или преимущественно мониторинговом режиме. Основные препятствия для использования WAF как полноценного слоя митигирования - отсутствие достаточного прикладного контекста для активного противодействия (56%) и опасений нарушить бизнес‑критичные процессы (32%). В результате организации декларируют готовность к более жесткому контролю среды эксплуатации, но не располагают достаточным уровнем доверия к существующим средствам защиты 😏 52% респондентов планируют увеличивать инвестиции в пре-прод контроль (CI/CD, build‑time‑тестирование, shift‑left‑подходы), при этом 42% ориентируются на усиление runtime‑безопасности и непрерывного мониторинга. Параллельно треть организаций ожидает сокращения бюджета на AI‑security, несмотря на то, что 69% уже выделяют на AI‑ и agentic‑security от 6 до 20% совокупного бюджета ИБ 🤔 На практическом уровне это означает, что доминирующая AppSec‑модель по‑прежнему хорошо отвечает на вопрос «какие у нас уязвимости в коде», но гораздо слабее - на вопрос «что уже представляет собой подтвержденный риск в проде и как быстро мы его устраняем» 😠

Практически все организации уже живут в реальности, где ИИ используется везде: от “безобидного” ChatGPT и Copilot до внутренних агентных систем с доступом к боевым данным и API. При этом большая часть компаний все еще находится на уровне стихийных экспериментов и запретительных политик, которые создают иллюзию контроля, но на деле лишь выталкивают ИИ “в тень” 👻 Об управлении безопасностью ИИ написано немало, и недавно на глаза попалась брошюра SANS AI Security Maturity Model (AISMM) - неплохая практическая модель, которая отвечает на три простых вопроса: насколько вы зрелы в защите ИИ, в использовании ИИ для безопасности и в управлении ИИ-зоопарком 🙊 Модель опирается на SANS Secure AI Blueprint (Protect / Utilize / Govern), стыкуется с NIST AI RMF, EU AI Act, ISO 42001, CSA AICM и OWASP AI Exchange, но главное - дает безопасникам язык и структуру для перехода от “мы что‑то делаем с ИИ” к “мы знаем, где мы, куда идем и какой риск принимаем” 👍 Ключевая идея: правильный уровень зрелости не универсален. У SaaS‑компании, которая только включает AI‑фичи в готовые продукты, приоритеты радикально отличаются от государственного подрядчика, строящего агентные системы с реальными полномочиями 🤖 Модель оценивает зрелость безопасности ИИ в организации по 5 уровням: • Unaware / Ad Hoc: BYOAI, отсутствие инвентаризации и политик, данные обрабатываются в публичныех моделях, безопасность и IT даже не знают масштаб использования ИИ • Reactive / Policy‑Emerging: появляется первая политика уровня “не использовать” или “использовать с осторожностью”, включается блоклист, есть немного метрик, но запреты в духе Framework of No только загоняют ИИ “в подполье” (shadow AI) • Defined / Risk‑Informed: формальный AI Governance Council, инвентаризация систем и агентов, первые Non‑Human Identities (NHI), учёт AI‑рисков в реестре, включение ИИ в тестирование продуктов и операционную деятельность безопасности • Managed / Integrated: AI‑security по сути встроен в SDLC и SOC, есть AI red team, MLSecOps, SOAR с автономными сценариями, количественная оценка AI‑риска и отчетность на уровне совета директоров • Optimizing / Adaptive: AI‑native безопасность, самоадаптирующиеся защиты, chaos engineering для ИИ, Zero Trust, расширенный на агентные системы, и активный вклад в стандарты и практики индустрии Отдельный акцент - агентный ИИ. Автор вводит принцип Least Agency: прежде чем давать агенту автономию и доступ к API, честно ответьте, нельзя ли решить задачу более простой архитектурой. Если агент действительно нужен, дальше уже обязательны NHI с минимально необходимыми привилегиями, конкретным владельцем-человеком и аудитом всех действий 🧐 Ещё одна хорошая мысль из модели: “необученный персонал с мощными AI‑инструментами - это уже не просто риск, а чрезвычайная ситуация”. Высокое проникновение ИИ при низкой грамотности сотрудников автоматически поднимает требования к зрелости по домену Govern минимум до Stage 3, независимо от того, насколько “технологичной” компанией вы себя считаете 🤨 AISMM дает и очень приземленные шаги: от “проведите BYOAI‑опрос, назначьте владельца и напишите одностраничную политику” для небольших компаний до “встройте автоматизированное adversarial‑тестирование в CICD и меряйте MTTR по AI‑инцидентам” для тех, кто идёт к Stage 4–5 Как и в CMMI, для оценки используется пятибалльная шкала доказанности (от “нет вообще” до “оптимизируем и адаптируем”), но здесь общий уровень жестко ограничивается по самому слабому домену и по уровню governance, чтобы нельзя было маскировать проблемы управления за счет “красивых” технологических внедрений 🎯

С огромным удовольствием принял приглашение проекта Поколение присоединиться к мощной команде наставников для молодых людей от 15 до 19 лет🔥 Так что если вы или ваши родные/знакомые в этом возрасте - буду рад видеть вас в своей команде 💪🤘 https://t.me/pokolenie_charity/2359

Обещал в прошлый раз написать про Империю - выполняю. Завтра 4 мая, самое время 😄 Джедаи уничтожали себя медленно, накапливая нерешенные проблемы. Империя падала быстро - и каждый раз по одному и тому же сценарию. Ставила все на одну карту, и каждый раз карта не играла Звезда Смерти - весь бюджет, все ресурсы, весь политический капитал. Один объект, одна уязвимость, один выстрел. Когда Люк попал в шахту - не было ни резервного плана, ни резервной мощи. Казалась сила - оказалась хрупкость Инженер Империи, Гален Эрсо, спроектировал бэкдор в виде той самой шахты, в которую выстрелил Люк, под принуждением. Империя приняла систему - и не проверила. Смотрели на человека, не на то, что он делает. Он под надзором, значит все в порядке. И ладно в первый раз - но почему во второй Звезде эта конструкционная уязвимость осталась не устранена? Адмирал Оззель ошибся с выходом из гиперпространства - Вейдер его задушил прямо на мостике, при всех. После этого кто понесет плохую новость наверх? Никто. Под Эндором у Империи не было актуальной картины боя - не потому что враг хорошо скрывался, а потому что докладывать было страшно. Они проиграли благодаря собственному информационному вакууму И последнее - Палпатин и Вейдер, два лидера, оба оказались на Второй Звезде Смерти, одновременно. Два человека, на которых держалась вся система управления Империей. Никакого плана преемственности. Никакого «а что если». Просто - они сильные, они справятся В реальных командах все это живет рядом - и джедайские привычки, и имперские. Иногда в одном человеке. И мало кто называет это проблемой 🤷‍♂️

На моей кухне телевизор стоит - я его включаю иногда фоном, пока еду готовлю. Наткнулся случайно на Звездные войны - видимо, крутят для фанатов, скоро же May the Fourth be with Us, да и "залип"😁 В сотый раз пересмотрел почти треть саги, правда, с профессиональным прищуром. И поймал себя на мысли, которую уже давно ношу в голове: Орден Джедаев пал не потому, что враг оказался сильнее. Виной всему - провалы в управлении, те же самые, что любая компания допускает в своей ИБ Взять, например,архивы Джедаев - закрытая система, без внешних коннекторов, без обмена данными об угрозах, ни с кем и ни о чём. Когда Оби-Ван не нашёл Камино в базе - система просто ответила "такой планеты нет". Не подняла тревогу. Не спросила почему ищут. Промолчала Квай-Гон передал Оби-Вану не только технику: он передал "слепые пятна" своего мышления. Оби-Ван передал их Энакину. Цепочка наставничества никогда не аудировалась. Что именно передаётся - никого не интересовало Сигналы о проблемах были годами. Граф Дуку говорил об этом прямо - ещё во втором эпизоде. Йода все это слышал. Решения не последовало. Если считать от первых тревожных признаков до Приказа 66 - MTTD Ордена Джедаев примерно тринадцать лет. Это не провал разведки. Это культура Палпатин двадцать лет сидел в самом центре. Верховный Канцлер, доступ ко всему, ближний круг. Никто ни разу не прогнал access review — ну, он же Канцлер, так и должно быть. А должно ли? Клоны? Приказ 66 встроен в них ещё до выхода на поле - не баг, архитектура. Supply chain, который никто не проверял, потому что доверяли производителю Хорошие люди. Понятные решения в моменте. Накопленные за годы допущения и ошибки - и ни одного процесса, который бы их отловил. Зато мы с ИИ посидели и отловили - делюсь результатом Забавно , но те, кто стоял напротив, справились с этим ничуть не лучше. В следующем посте расскажу про Империю 👹

Torq опубликовал масштабный отчёт про использование AI в SOC в 2026 году. Они опросили 450 CISO и руководителей по безопасности на предприятиях с 1000+ сотрудников. Вывод предсказуем: инструментов много, толку - мало. Почему? Первая проблема - adoption без architecture. 79% организаций уже используют AI в SOC, средний SOC гоняет 7 AI-инструментов одновременно. При этом 80% из них - разрозненные point solutions без единого оркестратора. 85% опрошенных хотят консолидацию, но никто из вендоров ее не делает Эксперты утверждают, что AI уже работает - но не там, где страшно. 97% опрошенных уверены, что AI справится с триажем, но реально используют его для триажа только 35%. при этом, автономию принятия решений для уязвимостей выше medium-severity не даёт почти никто. Причина не в недоверии к технологии: сами платформы не дают настроить «ручку контроля» для участия в нем человека Но есть и хорошие новости. Практика показывает, что аналитик SOC не исчезает, он апгрейдится: уходит с execution layer и переходит на judgment layer. И хотя 8,6 часов в неделю уходит на надзор за AI-решениями, 9 из 10 руководителей говорят: AI снизил нагрузку и выгорание Что хочет рынок от идеального AI в ИБ в целом и в SOC в частности? То же, что и 5 лет назад, когда все это только начиналось: • End-to-end: от триажа до remediation • Explainable AI - прозрачная логика решений • Adjustable autonomy - не on/off, а «ручка» • Continuous learning - адаптация к новым атакам • Единая платформа, а не зоопарк агентов Главным барьером для внедрения AI инструментов, ожидаемо, является доверие: об этом сказали 92% опрошенных. Чего боятся - тоже понятно: privacy, false negatives и black-box-решения. Причем последнее самое главное. Запрос рынка объяснимость: не новые фичи, не больше моделей а просто «покажи, как ты думал» Вывод авторов: первая волна AI в SOC - про adoption. Вторая волна - про architecture. Индустрия знает, чего хочет, просто вендоры не построили. И когда построят, к сожалению, не известно🤷‍♂️

Запилили с Кибердомом и Высшей школой бизнеса НИУ ВШЭ классный проект поИБэ для бизнес-руководителей, анонс которого сделаем 22 апреля😎 Обязательно поставьте вашим СЕО/СхО в календарь, если ваше ИБ все еще не понимают, не принимают и денег не дают. HRD тоже не забудьте - сами не сможете, они расскажут 😉 https://cyberdom.moscow/event/82d76232-9071-410c-96a7-327acd8134e2

"Принимая решение - помни о клиенте" - гласит транспарант в китайском бигтехе JD. Для ИБ "клиент" - не только тот, кто непосредственно пользуется профильными сервисами (например, выпуск сертификата или смена пароля). Это тот, кто получает выгоду от того, что личную учетку или компанию целиком не взломали, и тот, кто сталкивается с ограничениями☝️ При прочих равных, в первом случае нашим клиентам более важно, чтобы было удобно, во втором - чтобы выгодно, а в третьем - чтобы понятно, из-за чего все страдания😥 За всеми этими новыми запретами и очередными блокировками наблюдаю трансформацию сознания безопасников, которых государство внезапно поставило в позицию клиентов третьей категории😱 Наверное, когда речь идет о безопасности государства, многое можно не объяснять, вынуждая безопасников, ни разу не плативших ни за один из сотни заранее установленных VPN через AppStore, принимать на веру обновленную государственную модель угроз и нарушителя👹 Любителям конспирологии, возможно, понравится версия, что сама Apple, столкнувшись со штрафом со стороны британских властей за нарушение санкций в результате таких операций, попросила РФ ввести такой запрет, чтобы не терять лицо перед российскими клиентами - тем более, что наше Отечество давно в разладе с этой корпорацией 🧐 Практически полезный вывод из ситуации только один. Если вы безопасник, и деятельность вашей компании не является стратегически важной для безопасности общества и государства - не забудьте максимально честно и открыто объяснить пользователям, зачем вы внедряете очередное ограничение. И тогда они не только поймут и примут новые правила игры, но и начнут играть по ним, а не против них 😎

Поговорили про ИБ с Tadviser. Интересно и по делу 👍 https://www.tadviser.ru/a/937187