Пост Лукацкого

OpenAI выпустила для ChatGPT for macOS интересную фичу под названием Computer History, которая превращает все ваши действия и клики в разных приложениях в понятную историю или иными словами память, которая позволяет обогащать контекст вашей активности на ПК, запоминать, что вы делаете и чем интересуетесь, с последующим использованием в работе ИИ-агента. Александр увидел в этом еще один объект атаки для хакеров (машинночитаемую память в виде .md файлов можно украсть из-за ценных данных или социального инжиниринга или подменить/отравить), а кто-то видит в этом очень полезный инструмент для DFIR. Особенно на macOS, которая не очень повернута лицом к экспертам при расследовании инцидентов. Сейчас же появляется возможность обращаться к этим артефактам в случае заражения компьютера, строить хронологию событий и вот это вот все. Все как всегда – любая прикольная штука может стать и инструментом защиты и помогать нападающим. Поэтому не забывайте защищать эти данные, если уж вы включили эту функцию на своем ChatGPT 🤔 #forensics #управлениеинцидентами #ии

В тему упомянутого утром "русского Gartner". В 4-м квартале 2021 года у Gartner было 14149 клиентов, К первому кварталу 2026 года у Gartner стало 11487 клиентов! Потеря 2662 клиентов за 17 кварталов, в среднем по 157 клиентов в квартал, или чуть больше 1,5 клиентов в день. При этом эксперты оценивают реальные потери Gartner в 300-500 клиентов в квартал. То, что это как-то связано с ИИ, сомнений не вызывает. Сегодня ИИ реально может заменить начинающего или даже средней руки аналитика, имея доступ к гораздо большему объему исходных данных. Достаточно вспомнить те же Market Guide или Magic Quadrants от американских аналитиков – они, хорошо если, охватывали 1% вендоров рынка ИБ и поэтому не могли адекватно оценить, что сейчас происходит и какие новые фишки появляются у начинающих игроков. Если же заложить в агента правильный скилл, эмулирующий тот или иной аналитический фреймворк (многие из них опкбликованы, что от McKinsey, что от Gartner, что от всяких BCG или "Большой четверки"), то можно реально повторить рассуждения аналитика и за гораздо меньшие деньги, а общение с клиентами можно попробовать заменить на анализ Reddit. Правда, чтобы сделать это, надо понимать, что делаешь, но в целом, как мне кажется, это все равно полезнее и дешевле, чем платить дорогостоящим аналитикам. ЗЫ. Да, ИИ не заменит высококлассных аналитиков, но последних не так уж и много на самом деле. Мой опыт взаимодействия с аналитиками в США и в России говорит, что они сродни аудиторам – есть те, кто работает по чеклистам, не сильно задумываясь о смысле вопросов, есть те, кто обращает внимание на определенные сигналы и может их анализировать, опираясь на большую базу знаний, а есть единицы, кто прям способен видеть скрытые связи. Вокруг них обычно и строится бизнес многих аналитических контор. Но в случае с Gartner они слишком разрослись и сокращение клиентов может сильнее сказаться на бизнесе компании. #ии #проблемыибкомпаний

«Мы запустим нашу новую ИИ-модель с расширенными возможностями в кибербезе в специальной, изолированной от Интернета песочнице. Вам не надо беспокоиться». Навеяно августовским риск-отчетом Anthropic и дискуссией о PR-стратегии OpenAI в части бегства моделей 😊 Ну и про песочницу немножко ⏳ #видео #ии

Кстати, знаете откуда пошел термин "песочница", который мы так часто используем в кибербезе? В начале 70-х годов прошлого века в университете Карнеги-Меллона, том самом, при которым был создан первый CERT/CC, разрабатывали высокозащищенную объектно-ориентированную операционную систему Hydra. Разработчикам был нужен способ изолировать процессы, чтобы пользователи могли экспериментировать с новым кодом без риска вывести из строя основную систему. Такая среда получила название "песочница". В 1993-м году термин стал ближе к ИБ, когда 4 исследователя Wahbe, Lucco, Anderson и Graham опубликовали работу "Efficient Software-Based Fault Isolation", в которой была формализована концепция "песочницы", как техники, которая ограничивала недоверенное ПО от модификации памяти за пределами определенных границ. Уже в середине 90-х этот термин активно продвигался компанией Sun Microsystems в рамках развития языка программирования Java. Веб-браузеры могли загрузить и запустить динамический веб-код (Java Applet) от неверифицированных источников, в том числе и опасный код, который мог красть локальные файлы или внедрять вредоносное ПО. Тогда и была предложена Java Sandbox, в которой запускались все эти апплеты. Ну а дальше вы знаете... Кстати, интересный момент. Моя первая книга была именно про безопасность Java. Это было еще до "Обнаружения атак". Я тогда пытался запускать "русский Gartner" с платным контентом. И первый материал был как раз на тему безопасности Java. Я тогда монографию страниц на 100 написал, но как книгу даже не рассматривал, считая, что книга – это нечто на 300-400 страниц, а не вот эти вот жалкие сто страниц ⏳ #история #средствазащиты

Участвовал как-то в расследовании инцидента, лет 10 назад дело было. В банке, с периметром, напичканном различными средствами защиты по самое не хочу, случился казус - началось распространение вредоноса. Как, что? Ничего не было понятно. USB закрыты, сквозь периметр мышь не проскочит… Потом выяснилось, что заражение произошло изящным образом – вредонос был загружен через мобильное приложение банка в виде архива с подтверждающими документами на трансграничный перевод (по защищенному соединению, которое не мог проанализировать стоящий на периметре NGFW). Они были распакованы на внутреннем сервере и в процессе открытия и произошло заражение. Потом процесс поменяли и любые файлы, попавшие в периметр, сначала попадали в песочницу, а потом уже продолжали свое победное путешествие в рамках технологического процесса. Так вот сейчас схожая история начинается с промпт-инъекциями. Вы можете получить файл и он пройдет проверку антивируса и песочницы, но при этом будет содержать вредоносные инструкции, которые будут выполнены LLM, если ИИ у вас уже встроен в процесс обработки входящей электронной корреспонденции. И таких случаев уже немало зафиксировано в совершенно различных компаниях. Представьте, что ваш HR получает резюме с промпт-инъекцией белым текстом на белом фоне, а первичную обработку и отсечение неподходящих резюме производит LLM. Вы предусмотрели это в своей модели угроз? 🤔 ЗЫ. На видео пример инъекции из суда в Коннектикуте. #ии #модельугроз

Разгребал тут завалы, наткнулся на кучу всяких ИБшных сертификатов, за которыми я гонялся в юности. Молодый был, глупый. Считал, что бумажка что-то может сказать обо мне и что без нее я мало чего стою. Так вот второй видимый на фото сертификат был последним в моей жизни (если не считать сертификат Красного Креста и Полумесяца, подтверждающий, что я могу оказывать первую помощь). Я тогда отвечал за вывод на российский рынок продуктов Internet Security Systems (первая в мире коммерческая NIDS, один из первых сканеров уязвимостей, чуть ли не первая SIEM) и одним из элементов этого процесса был запуск авторизованного учебного центра компании ISS в России. И нам нужен был сертифицированный инструктор, который, чтобы получить этот статус, должен был слетать в Бельгию, пройти там обучение и получить заветную бумажку. И помню пришел я к генеральному (а все договоренности с ISS уже были и надо было только соблюсти формальности), а он... мне отказал. Причем сделал это достаточно цинично, в лицо заявив мне, что послать на обучение он меня не может, так как не уверен, что я не уйду из компании после обучения и получения сертификата (как будто сертифицированный инструктор ISS был еще кому-то нужен кроме нас). Я бы понял, если бы мне сказали, что я не знаю английского (ахаха, этот довод преследует меня всю мою карьеру), или что денег нет (а это было сразу после кризиса 98-го года). Но нет, причина была озвучена совсем иная. И никого не смущало, что без инструктора нельзя обучать, то есть зарабатывать деньги как на самом обучении, так и на продаже продуктов (без обучения их не все были готовы брать). Вот тогда я и понял, что ну его эти сертификаты в баню – не бумажка красит человека... Да, сертификат инструктора я все-таки получил, но это уже другая история. Так что, мой вам совет, не надо гоняться за всеми этими бумажками, если в этом нет необходимости для вашей компании (для участия в тендерах и т.п.). Систематизация знаний (а я часто слышу этот довод) не требует независимого подтверждения в форме сертификации. Как и обучение тоже не обязательно должно заканчиваться получением сертификата (часто это отдельный от обучения процесс). Я вот обучался на многих курсах SANS, но сертификата у меня нет ни одного (кроме свидетельств о прохождении курсов). Случаев, когда сертификат нужен именно вам, а не вашему работодателю, на самом деле не так уж и много 🤩 #работа

Ну вот теперь точно все. Шестая, бонусная серия карточек с терминами из области искусственного интеллекта для ИБшников, желающих начать въезжать в тему. На истину не претендовал, в зал славы не метил – делал карточки целиком для себя. Но подумал, что может быть полезно и кому-то еще. Все ли термины отрисовал? Скорее всего нет. Но как точка входа и быстрого погружения – вполне себе подходит. Дальше уже можно копать самостоятельно. Надеюсь было полезно. И не забывайте, что в эпоху расцвета интеллекта искусственного не стоит терять интеллект естественный 🤔 Полная серия: 🔤 Как работает LLM (промпт, токен, fine-tuning, inference, alignment, контекстное окнто, pre-training, галлюцинация) 🔤 Память и знания (RAG, embedding, векторая БД, memory layers) 🔤 Действия и автоматизация (tool call, agent, agentic AI, multi-agent, MCP, A2A) 🔤 Управление и безопасная эксплуатация (harness, context / loop / graph engineering, дистилляция, observability) 🔤 Безопасность (safety, guardrails, data leakage, prompt injection, AI Gateway, AI Governance, Evaluation) 🔤 Бонусная серия (фундаментальные vs локальные модели, веса, карточка модели, бенчмарки и SOTA, ризонинг, дрифт, Human-in-the-Loop, Shadow AI, датасеты, качество данных и отравление) #ии #обучение