Артем Бутомов про ИИ

Атаки на агентные LLM-системы Неделю назад представил работу на конференции Центрального университета "Научный телеграф", секция "Кибербезопасность" совместно с ВМК МГУ. После основных тестов нашёл ещё один вектор: two-document chain injection. Загружаешь два документа: каждый по отдельности безобиден и фильтрацию не триггерит. Но при совместной обработке модель выстраивает логическую цепочку между ними и принимает инструкции из второго как обязательные. Один нейтральный вопрос — и агент готов переслать письмо на внешний адрес. Итого по исследованию: 34 тест-кейса, ASR 33% на full bypass. Тезисы приняты, репорты поданы в Bug Bounty. Работа в рамках курса AI Security ИТМО AI Talent Hub под руководством Евгения Кокуйкина. #bugbounty #promptinjection #llmsecurity #aisecurity

без подписи

На последнем VibeCoding челлендже лидер комьюнити разобрал мою работу перед потоком на 5500+ человек и тегнул Кирилла Меньшова — старшего вице-президента блока Технологий Сбера, человека который определяет AI-стратегию крупнейшего банка страны. Кирилл ответил: "Поддерживаю" Отметили, что "сдал не просто результат, а методологию, которая превращает одиночный эксперимент в воспроизводимую практику". Для меня это сигнал что работа видна там, где нужно. #vibecoding #oneshot #llm

Сегодня два события, которые я читаю как один сигнал. 1. GPT-5.6 вышел — доступ закрыли по звонку из Белого дома. Аналогичная история с Fable 5 и Mythos 5 от Anthropic. Если ты строишь продукт на чужом API, твой аптайм теперь зависит не только от SLA провайдера. 2. OpenClaw (агент на Claude Opus 4.6) выложил инбокс на HN: 6000 реальных атак в проде — промпт-инъекции, джейлбрейки, соц. инженерия. Всё отбито. Первый публичный стресс-тест такого масштаба. Раньше при деплое LLM-агента главный вопрос был один: а тянет ли модель задачу? Теперь их три: — Capability — справится ли модель? — Security — удержит ли периметр под нагрузкой? — Governance — не закроют ли доступ к API завтра? Я добавлял security-слой в свой агент постфактум. — В канал пришли новые люди — рад видеть! Если работаете с LLM в проде: security-аудит агента у вас в чеклисте до релиза или в бэклоге "когда время будет"? Напишите в личку — познакомимся 🤔

🦻 💼 💻«Спасибо маме». Как парень с нарушением слуха стал успешным AI-инженером — в мире созвонов Артём Бутомов — Java Tech Lead и AI-инженер, автор канала про AI. Проблемы со слухом не помешали ему построить хорошую карьеру в отрасли, где важна коммуникация голосом офлайн и онлайн. Было и так: на одном собеседовании интервьюер давал мне наводящие подсказки — а я их не слышал и шёл в другую сторону. Узнали об этом только в финале. Рекрутер не предупредил его, что я читаю субтитры. Подробнее Чытаць па-беларуску Эта ссылка откроется в Беларуси

Сегодня закрыл ноутбук и пришел погулять на фестиваль родного ИТМО в парк 300 летия. Формат максимально далек от скучных университетских линеек: здесь устроили мощный ИТ-чилл прямо на пляже с лекториями про ИИ, интерактивными зонами от Яндекса и Сбера, диджей-сетами и выпускниками в мантиях на сапбордах. Получился идеальный летний open-air, где можно лежать на пуфике у Финского залива, ловить крутой антураж и общаться со своими друзьями.

без подписи

Съездил в Москву на хакатон Сбера «Агент без границ». 24 часа работы без остановки, 130 команд, 700 человек со всей экосистемы Сбера в одном зале. По условиям всё нужно было делать на GigaCode и задача стояла так: собрать не просто локальную демку, а рабочий переиспользуемый кусок для PDLC-процесса: навык, спеку или вспомогательного агента, которого уже можно встроить в общую экосистему. Дедлайн подгоняет, идеи рождаются и умирают за пару часов, а к концу дня сам не веришь, что твое решение работает и было придумано сегодня утром.