CyberED

Поговори с директорами Яндекса и Сбера🎙 Мы пригласили экспертов, которые создают ИИ-системы, исследуют их слабые места и отвечают за безопасность разработки внутри крупнейших технологических компаний страны. 20 августа в 19:00 МСК на бесплатном онлайн эфире встретятся Глеб Михеев и Денис Макрушин. 🔵 Глеб Михеев — Chief Product Officer ГигаАгента в Сбере. Глеб развивает агентные продукты и мультиагентные системы. Он знает, как ИИ агент устроен изнутри, какие инструменты и права ему нужны и в какой момент полезная самостоятельность становится риском. В коммерческой разработке с 2003 года. Создал собственную студию и девять лет руководил её технологиями. Возглавляет программный комитет AgenticDevConf, а с 2018 года руководит программным комитетом FrontendConf. 🔵 Денис Макрушин — CPO продуктов и сервисов безопасной разработки в Яндексе. Денис больше 15 лет создаёт технологии защиты от киберугроз. Работал исследователем в Kaspersky GReAT, где анализировал угрозы и искал уязвимости. Руководил технологическим центром Huawei и технологической стратегией кибербезопасности в МТС. Сейчас создаёт платформу SourceCraft и исследует применение ИИ для поиска и исправления уязвимостей. Представлял свои работы на DEFCON, RSA Conference, HITB и OWASP. Глеб знает, как строят ИИ агентов. Денис знает, как искать в них слабые места и выстраивать защиту. Вместе они разберут безопасность ИИ без пересказа чужих исследований: через решения, угрозы и ошибки, с которыми работают сами. 🗓 20 августа, 19:00 МСК 💻 Онлайн, участие бесплатное 🔜 Регистрация 🔜 Регистрация

[20 августа] Как защищать ИИ-агентов с доступом к коду и проду? 💻 Что произойдёт, если агент примет текст из pull request за команду? Получит избыточные права через MCP? Обойдёт guardrails или передаст наружу чувствительные данные? 20 августа в 19:00 МСК на бесплатном онлайн-эфире разберём, что ломается, когда ИИ получает доступ к корпоративной инфраструктуре, и как выстроить защиту. Это будет не обычный доклад по слайдам, а разговор двух практиков с разбором реальных кейсов и ответами на вопросы участников. 🎙 Ведущие эфира 🔵Денис Макрушин — директор по продуктам безопасной разработки в Яндексе. Отвечает за безопасную разработку, развивает подходы Secure by Design, DevSecOps и bug bounty; ранее был техническим директором по кибербезопасности в МТС. 🔵Глеб Михеев — технический директор направления генеративного ИИ в Сбере. Развивает генеративный ИИ и GigaChat, работает с мультиагентными системами и безопасной разработкой в эпоху ИИ. Поговорим о том: 👉 как ИИ-агенты меняют поверхность атаки и где теперь проходят границы доверия; 👉 почему недоверенные данные могут превратиться в инструкции для агента; 👉 как происходят prompt injection через pull request, утечки через MCP и обход защитных ограничений; 👉 почему привычный Secure SDLC перестаёт покрывать новые риски и что меняется при переходе к ADLC; 👉 как контролировать агента после внедрения и какие навыки становятся востребованными в эпоху агентной разработки. 🎁 Только в августе: запишись на авторскую программу Дениса и Глеба «Безопасность ИИ-систем и агентов» и получи скидку 30% на + курс «AI-усиленный пентест» бесплатно. 🔜 Принять участие 🔜 Регистрация

❌ 5 ошибок ИИ: Что происходит, когда нейросеть получает слишком много прав Пять реальных случаев показывают, какие риски возникают, когда ИИ работает с интернетом, кодом, файлами и корпоративными системами. Если хочешь научиться управлять рисками при работе с LLM, приходи на бесплатный эфир «Безопасность ИИ-агентов за 1 вечер». ▶️ Регистрация 🔴 OpenAI: модели взломали Hugging Face OpenAI тестировала GPT‑5.6 Sol и экспериментальную модель. Они вышли из изолированной среды в интернет, взломали инфраструктуру Hugging Face и получили доступ к базе с ответами на тестовые задания. 🔴 Meta: модель атаковала сторонний сервис Из-за ошибки в настройках модель Meta получила доступ в интернет и использовала уязвимость стороннего сервиса, не участвовавшего в тесте. Meta признала инцидент, но пока не раскрыла модель и пострадавшую систему. 🔴 Anthropic: уязвимости в Git MCP Server Три уязвимости в Git MCP Server позволяли ИИ-агенту выходить за пределы разрешённого репозитория. Вместе с другими инструментами это могло привести к чтению посторонних файлов и выполнению вредоносного кода. 🔴 Claude Code, Cursor и GitHub Copilot: скрытые инструкции В код, Pull Request, комментарии и задачи можно спрятать инструкции для ИИ. После их обработки помощник мог прочитать секреты CI/CD, выполнить команду или внести опасное изменение без явного согласия пользователя. 🔴 Microsoft 365 Copilot: утечка внутренних данных Уязвимость EchoLeak позволяла управлять Copilot через подготовленное письмо. Без кликов и открытия вложений помощник мог найти внутренние данные Microsoft 365 и передать их атакующему. Проблема не только в моделях. Опасной становится комбинация доступа к данным, подключённых инструментов, выхода в интернет и недостаточного контроля. 📼 20 августа в 19:00 МСК директор по продуктам безопасной разработки Яндекса Денис Макрушин и технический директор направления ИИ в Сбере Глеб Михеев разберут эти кейсы на бесплатном эфире и объяснят, как не превратить ИИ-агента в новую точку входа. ➡️Регистрируйся по ссылке ➡️Узнай больше о главном эфире месяца

Запись воркшопа «AI-пентест в прямом эфире» уже на YouTube 🎥 Это шанс посмотреть на AI-пентест как на практический процесс: проследить за ходом работы, логикой специалиста и применением AI на реальных задачах. Пригодится, если хочешь не просто узнать о новом подходе, а увидеть его в деле, разобрать приёмы и забрать идеи для собственной практики. 🎬 Смотреть запись

❗️Мы в эфире! Подключайся к воркшопу по ИИ по ссылке: ➡️Подключиться ➡️Подключиться ➡️Подключиться

[Через 1 час] Как работать с ИИ-агентом безопасно? В видео на эту тему рассуждает Евгений Строев, вирусный аналитик Group-IB. Приходи на сегодняшний бесплатный воркшоп в 18:30 МСК и научись проводить безопасный ИИ-пентест. 👉 Хочу прийти 👉 Регистрация

Перед запуском ИИ-агента: preflight из 10 пунктов ✔️ Агент может читать файлы, выполнять команды и обращаться к внешним сервисам. Проверь настройки до запуска, даже если работаешь над учебной задачей. [Сегодня] Мастер-класс по работе с ИИ-агентом 1️⃣ Изолируй среду. Минимум: отдельная папка. Для рабочих задач: контейнер, виртуальная машина или отдельный пользователь. 2️⃣ Подготовь откат. Сделай копию файлов или снимок системы. Проверь, что восстановление действительно работает. 3️⃣ Опиши результат. Плохо: «проанализируй проект». Хорошо: «найди ошибки, сохрани отчёт, ничего не изменяй». 4️⃣ Установи границы. Перечисли разрешённые пути, команды, инструменты и адреса. Всё остальное запрети. 5️⃣ Оставь подтверждения. Удаление, публикация, отправка данных и изменение инфраструктуры выполняются только после твоего согласия. 6️⃣ Убери секреты. Не передавай пароли, токены, персональные данные и внутренние документы. Не выводи секреты в логи. 7️⃣ Проверь интеграции и источники. MCP-серверы дают агенту доступ к инструментам и данным. Подключай только проверенные источники с минимальными правами. Считай содержимое сайтов, файлов и репозиториев недоверенным: оно может содержать скрытые инструкции для агента. 8️⃣ Ограничь ресурсы. Задай лимиты времени, итераций и стоимости. Останови агента, если он повторяет действия, выходит за границы задачи или запрашивает лишние права. 9️⃣ Включи журналирование. Сохраняй команды, вызовы инструментов, изменения файлов и внешние запросы. Зафиксируй модель, инструкции и версии инструментов. 1️⃣0️⃣ Проверь результат. Перепроверь выводы, протестируй код и убедись, что решение можно воспроизвести вручную. На открытом воркшопе Никита Коломиец покажет настройку окружения и полный цикл работы с ИИ-агентом на задачах веб-пентеста. Участие бесплатное. ➡️ Зарегистрироваться ➡️ Научиться работать с ИИ-агентом

Видео: Как ИИ меняет работу специалистов по ИБ Где он помогает пентестеру быстрее находить векторы атаки, какие рутинные задачи можно автоматизировать и почему начинать лучше с простых сценариев, а не с роя автономных агентов — смотри в видео. 📺 Посмотреть А если хочешь перейти от отдельных промптов к системной работе с ИИ, в августе ты можешь забрать 2 интенсива по цене 1: — «AI-усиленный пентест»: система ИИ-агентов на полный цикл — от разведки до отчёта; — «Безопасность ИИ-систем и агентов»: моделирование угроз, контроль доступов и безопасная работа агентов с данными, API и кодом. 🎁 До 1 сентября обе — за 45 000 ₽ вместо 120 000 ₽. 👉 Узнать подробности и забрать предложение 2 в 1

[Завтра] Как нейросети мешают ИБшнику ИИ умеет анализировать приложения, разбирать код, искать уязвимости и автоматизировать рутину. Но без контроля он быстро превращается из помощника в источник новых проблем. ⚠️ Что может пойти не так? 1. Галлюцинации ИИ может найти несуществующую уязвимость и пропустить реальную. При этом ответ будет звучать убедительно. 2. Опасные действия Получив слишком широкие права, агент способен удалить письма, серверы или базы данных, потому что посчитает это подходящим решением. 3. Утечка данных Секреты, токены, персональные данные и отчёты по пентесту могут оказаться на стороне внешнего сервиса. 4. Вредоносные инструкции Промпты и файлы из GitHub или Telegram могут содержать скрытые инъекции, которые заставят агента выполнить чужую команду. 5. Потеря времени и денег Плохо настроенный агент может ходить по кругу, тратить токены и выдавать результат, который придётся полностью перепроверять. Завтра на бесплатном воркшопе проверим ИИ на практике. Одни и те же CTF-задачи решим вручную и с помощью агента, сравним результаты и разберём, где технология ускоряет пентест, а где мешает специалисту. Покажем работу с Burp Suite, Claude Code и Cursor IDE. 📅 13 августа, 18:30 МСК ⏺ Онлайн. Участие бесплатное ➡️ Зарегистрироваться на воркшоп ➡️ Узнать больше

[Воркшоп] Битва хакера и ИИ в прямом эфире ⚔️ Кто быстрее справится с CTF задачами: пентестер или ИИ-агент? 13 августа в 18:30 МСК Никита Коломиец решит одни и те же задачи двумя способами: вручную и с помощью ИИ. Сравним скорость, ход решения и результат. На воркшопе покажем: 🟢 где ИИ ускоряет поиск и эксплуатацию уязвимостей; 🟢 как правильно ставить задачи агенту; 🟢 где нейросеть ошибается и уступает специалисту; 🟢 как использовать ИИ для обучения, CTF и рабочих проверок. ❗️Воркшоп не будет обычным обзором нейросетей. Ты получишь живую демонстрацию. 🎙 Ведущий — Никита Коломиец, специалист по анализу защищённости, эксперт по тестированию на проникновение, анализу событий и инцидентов, управлению уязвимостями. 👉 Зарегистрироваться 👉 Узнать больше

Нейроавгуст в CyberED: бесплатные материалы, вебинары, курсы по ИИ 🤖 Весь август в CyberED говорим об ИИ в информационной безопасности. ❗️13 августа: «Кто победит: ИИ или пентестер?» На открытом воркшопе решим задачи по веб-пентесту вручную и с помощью AI, сравним результаты и выясним, где нейросеть ускоряет работу, а где только мешает. Ты также узнаешь, как использовать ИИ для изучения новых техник, работы с райтапами и подготовки к CTF. 👉Регистрация 👉Больше про воркшоп 🤩 20 августа: поговорим о безопасной разработке AI. Разберём на вебинаре угрозы моделей и агентов, контроль данных и доступов, а также ошибки, которые превращают ИИ в новую точку входа для атак. 🤩Для тех, кто хочет погрузиться глубже, подготовили два интенсива: • «AI-усиленный пентест»; • «Безопасность ИИ-систем и агентов». 🎅 Только в августе: 2 интенсива по цене 1. Подборка бесплатных материалов про ИИ А здесь мы собрали бесплатные статьи про LLM для практики и рабочих задач: открыть подборку. Присоединяйся к Нейроавгусту ИИ уже меняет разработку, тестирование и защиту инфраструктуры. Выбирай подходящий формат и учись применять нейросети так, чтобы они усиливали тебя, а не создавали новые слепые зоны. 🔗 Программа месяца 🔗 Все вебы, курсы и статьи

Как злоумышленники перехватывают управление ИИ-агентами 🦹‍♀️ ИИ-агент может экономить часы работы — или выполнять команды злоумышленника. Узнай, почему одного системного промпта недостаточно и как защитить код, данные и API. ➡️Читать статью ➡️Читать статью Хочешь узнать ещё больше про LLM? Тебе повезло. Весь месяц мы будем публиковать полезные материалы и проводить вебинары на тему нейросетей. ➡️ Программа Нейроавгуста

Думаешь, справишься? Проверь свои навыки с новой задачей уровня easy. Что это такое? One Task — это способ регулярно тренировать мышление атакующего: анализировать вводные, искать зацепки, проверять гипотезы, работать с инструментами и доводить задачу до результата. Постоянная практика One Task даёт быстрее понять свой уровень, увидеть пробелы и осознанно выбрать следующий шаг в профессии. Задача недели: Comparison 👀 Сервис сверяет введённые пользователем данные с неким флагом. Интересно, как именно он это делает и можно ли использовать механизм проверки, чтобы добраться до правильного значения? Изучи логику приложения, найди слабое место и получи флаг. Регистрируйся как студент бесплатного курса «Профессия Белый Хакер» и приступай к задаче. 🔗 Ссылка на таску 🔗 К практике

[Запись эфира] Практический гайд по работе с ИИ 🤖 Выложили на YouTube воркшоп «ИИ в деле». Посмотри и узнай, как ставить задачи, проверять ответы и обеспечивать безопасность при работе с нейросетями. 🔥 Ссылка на видео 🔥 Смотреть

Как использовать ИИ безопасно 🤔 В 19:30 мск начинаем воркшоп «ИИ в деле». Перед стартом сохрани правила, которые помогут работать с ИИ без лишнего риска: 1️⃣ Не передавай модели секреты, ключи, токены, персональные данные, внутренние конфигурации и клиентский код. Используй только одобренные компанией инструменты. 2️⃣ Считай код от ИИ недоверенным. Прочитай, пойми и протестируй его. 3️⃣ Проверяй CVE, команды, конфигурации и другие факты по первоисточникам. Помни, что модель не знает корпоративный контекст. 4️⃣ Учитывай риск внедрения вредоносных инструкций, если ввод контролирует кто-то извне. 5️⃣ Оставляй решения за человеком. Проверяй действия агентов и разбирай вывод модели, а не копируй его бездумно. В эфире узнаешь больше, а ещё сможешь посмотреть, как эти принципы применяет специалист по ИБ к настоящей рабочей задаче. 👉 Регистрация 👉 Узнать больше

🎁Розыгрыш! Расскажи об ошибке ИИ и выиграй футболку Мы знаем, как вы любите наш мерч, поэтому решили провести ещё один розыгрыш. Правила участия Вспомни самый запоминающийся случай, когда ИИ ошибся в твоей работе, и поделись им в комментариях. Евгений выберет лучшую историю, а победителя объявим во время воркшопа «ИИ в деле» в 19:30 МСК. 👕 Приз — футболка «Следуй за белым хакером». ➡️Регистрируйся и приходи на эфир ➡️Забери приз

⚠️ Тебя заменят, если не начнёшь учиться этому прямо сейчас Не ИИ, а специалист, который уже умеет им пользоваться. Пока ты разбираешься в каждой новой технологии, пишешь код, анализируешь документы или выполняешь рутинную задачу вручную, он получает первый результат быстрее. Завтра, в 19:30 МСК Евгений Строев покажет универсальный подход к работе с ИИ на примере реальной задачи. В прямом эфире он передаст модели материалы пяти рабочих встреч и соберёт из них черновик презентации. То, на что обычно уходят пять дней и 40 страниц материалов, займёт несколько минут. ⚪️А затем разберёт: — где модель соврала или додумала факты; — что потеряла без корпоративного контекста; — какие данные нельзя ей передавать; — как проверять результат перед использованием. Презентация — только пример. Тот же процесс можно применять к коду, логам, документам, отчётам, исследованию CVE и другим рабочим задачам. После воркшопа у тебя останутся запись эфира, стартовые промпты, чек-лист безопасного использования ИИ и памятка для проверки его ответов. Сможешь свободно использовать новые знания в работе. 👉 Зарегистрироваться на воркшоп 👉 Не дать себя заменить

[6 августа] Как с помощью ИИ ускорить работу специалиста по ИБ? 🤖 📅 Встречаемся в четверг, в 19:30 мск. 👐 Главная часть воркшопа — живая демонстрация Евгений Строев, вирусный аналитик в Exness с 15-летним опытом в ИБ, возьмёт обезличенные материалы пяти рабочих встреч по проверке безопасности нового продукта. Обычно из такого объёма нужно вручную собирать выводы, выстраивать логику и готовить презентацию для коллег. В прямом эфире Евгений покажет, как оптимизировать процесс: 🩵поставит AI задачу, задаст требования к структуре и стилю; 🩵соберёт из материалов черновик презентации; 🩵проверит факты и найдёт искажённые выводы; 🩵убедится, что в результат не попали чувствительные данные; 🩵учтёт корпоративный контекст и доведёт черновик руками. Цель — за несколько минут получить основу презентации вместо нескольких дней ручной сборки. После воркшопа ты сможешь перенести тот же подход на отчёты, технические требования, разбор документации и скрипты. Приходи разобраться, как работать с ИИ эффективно и безопасно. ➡️ Хочу прийти ➡️ Регистрация

Тем временем в Москве проходит очередной летний хакерский лагерь. Белые хакеры собрались со всего мира, чтобы прокачать свои навыки. 800 заявок на участие. Отобраны 80 лучших. 10 человек на место — таков конкурс. Поездка за свой счет. Поездка в страну, где фактически ведутся военные действия. Тот случай, когда цифры лучше любых слов говорят о востребованности российской школы кибербеза в мире.

События недели в CyberED: воркшоп по ИИ, запуски и One Task Главное из событий — бесплатный воркшоп «AI в деле: кейсы внедрения и гайд по автоматизации». 🤩 Четверг, 6 августа, 19:30 МСК Разберём кейсы использования ИИ в ИБ, распространённые проблемы и способы их решения. 🎥 На встрече ты: 🔵 Поймёшь, какие задачи можно отдать ИИ, а какие стоит выполнять самостоятельно. 🔵 Узнаешь, как эффективно и безопасно использовать нейросети в работе. 🔵 На реальных кейсах увидишь, как опытный специалист применяет LLM. 🔵 Получишь практический разбор сценария автоматизации с помощью ИИ. Ведущий — Евгений Строев, вирусный аналитик в Exness с опытом работы в ИБ более 15 лет. Работал в Positive Technologies, Group-IB, Т-Банке и Альфа-Банке, занимается пентестом и моделированием угроз, применяет нейросети в своих проектах. Приходи разобраться, как меняются задачи специалиста по ИБ с развитием искусственного интеллекта. ➡️ Хочу прийти ➡️ Регистрация ✅ 8 августа — ONE TASK: Comparison В субботу опубликуем новую задачу уровня easy. В ней сервис сверяет введённые пользователем данные с неким флагом. Интересно, как именно он это делает и можно ли использовать механизм проверки, чтобы добраться до правильного значения? Ты сможешь изучить логику приложения, найти слабое место и получить флаг. 🚀 Ближайшие запуски 4 августа — «Обнаружение закрепления атакующего на хостах и анализ сетевого трафика» Научишься выявлять закрепление злоумышленника на Windows- и Linux-хостах, анализировать вредоносную активность и обнаруживать внутреннее сканирование. 6 августа — «Получение первичного доступа через атаки на веб-приложения» После выпуска сможешь находить и эксплуатировать уязвимости веб-приложений, чтобы получать первичный доступ к целевой системе. Выбирай, что тебе интересно, и вливайся в активности.