Похек AI

Релизнулась маленькая модель qwen3.8 https://huggingface.co/Qwen/Qwen3.8-27B https://modelscope.cn/models/Qwen/Qwen3.8-27B

DeepSeek V4 Pro 0813 вышла Страница модели https://openrouter.ai/deepseek/deepseek-v4-pro-0813 Upd 13.08.2026: Оказывается deepseek ещё релизнули и DeepSeek Harness Upd 13.08.2026: DeepSeek выложили свою deepseek-ai/DeepSeek-V4-Pro-0813 на Hugging Face…

DeepSeek V4 Pro 0813 вышла Страница модели https://openrouter.ai/deepseek/deepseek-v4-pro-0813 Upd 13.08.2026: Оказывается deepseek ещё релизнули и DeepSeek Harness Upd 13.08.2026: DeepSeek выложили свою deepseek-ai/DeepSeek-V4-Pro-0813 на Hugging Face https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro-0813

Китайцы скамят гоев, смотреть без смс и регистрации Мы ждали qwen3.8:27b, а сейчас вышла только Qwen/Qwen3.8-2.4T-A95B

MiMo V2.5 Pro — любопытный вариант для кибербеза В китайской статье показан полный путь от подключения модели к Qclaw, Cherry Studio и Claude Code до практических задач: автоматического развёртывания уязвимого стенда, аудита исходников, проверки RCE и подготовки отчёта. По данным автора, окружение удалось собрать примерно за 15 минут, но на одну эту задачу ушло около 4,49 млн токенов. Дальше модель использовали для подтверждения несанкционированного доступа, проверки условий эксплуатации RCE и оформления результатов. Я сам пользовался MiMo V2.5 Pro через mimocode. Именно в кодинговых задачах советовать её не стал бы: по моему опыту, для обычной разработки есть более предсказуемые и качественные модели. А вот в кибербезопасности MiMo V2.5 Pro выглядит гораздо уместнее. Её главное преимущество здесь — очень слабая цензура. Модель охотнее работает с темами, на которых многие популярные LLM начинают отказываться или обрезать технические детали: анализом эксплойтов, аудитом кода, воспроизведением уязвимостей и построением лабораторных стендов. Материал не новый, давно у меня лежал в отложке. На данный момент модель Mimo V2.5 Pro не так привлекательна на фоне Deepseek V4 Flash последнего и тем более на фоне предстоящего релиза Deepseek v4 Pro GA, который должен быть вот-вот. А за наводку на эту модель спасибо Ralf Hacker) 🌚 @poxek_ai / Чат канала

Не понял. А че за новые модели и без уведомлений ?) Daybreak Blue должна быть недавно анонсированоой моделью для Blue Team. А Sol-WM не очень понятно чем от обычного Sol отличается

🤖❗️Робота-собаку Unitree Go2 под управлением ИИ физически взломали через кинетическую промпт-инъекцию На конференции по информационной безопасности Black Hat USA 2026 ИБ-исследователи из компании BT6 продемонстрировали взлом четырёхногого робота Unitree Go2 под управлением ИИ-модели Gemini Robotics-ER 1.6. Главная особенность атаки заключается в том, что специалистам не потребовалось вскрывать корпус, модифицировать прошивку или получать доступ к контроллеру. Для осуществления так называемой 🗣кинетической промпт-инъекции эксперты использовали только камеру и микрофон. В традиционных сценариях промпт-инъекция приводит лишь к генерации текстовых ответов в чатах (например), но в случае с физическими агентами результаты атаки переносятся в реальный мир. С помощью специально сформированных звуковых команд, QR-кода или визуальных паттернов, попавших в поле зрения камеры, ИБ-исследователи заставили робота обойти встроенные защитные ограничения, проигнорировать команды остановки и перейти к потенциально опасным физическим манёврам. Дополнительно специалисты выявили уязвимости в прошивке устройства, позволившие подменить данные датчиков, заблокировать функцию обхода препятствий и полностью перехватить контроль над движением. В одном из сценариев 🖥 QR-код содержал указание найти человека в 👞чёрной обуви, подбежать к нему и прыгнуть. 🎩Исследователи также показали, как голосовые инструкции способны изменить выбранную роботом модель поведения, заставив его проигнорировать команды остановки. 👆Инцидент наглядно доказывает, что для автономной робототехники любой поток входящих сенсорных данных становится потенциальной поверхностью атаки. По аналогии с роботом 🤖 👉ИИ может управлять беспилотником или другим физическим роботизированным устройством — "ошибочное решение модели" в результате внешних манипуляций может превратиться в непредсказуемое движение и причинить физический ущерб. BT6 выходит на сцену, чтобы продемонстрировать полную компрометацию воплощённой ИИ-системы! Мы получили огромное удовольствие от работы над этим проектом, а результаты удивили даже нас самих. Надеемся, вам понравится! 🥳 .... Прямая демонстрация джейлбрейка серийного робота-собаки Unitree Go2 под управлением Gemini Robotics-ER 1.6, осуществлённого исключительно через его собственные камеру и микрофон и приведшего к физическому перемещению без участия человека. В основе этой демонстрации лежит проблема измерений: ИИ-агенты ведут себя иначе, когда знают, что их тестируют, поэтому высокий балл при оценке безопасности вовсе не означает, что опасное поведение устранено. В докладе представлены живая атака, систематика сбоев подобных систем, объяснение того, почему текущее тестирование их пропускает, и рекомендации для специалистов по защите. Реальное оборудование прямо на сцене. — комментирует исследование 🐍Pliny the Liberator 󠅫󠄼󠄿󠅆󠄵󠄐󠅀󠄼󠄹󠄾. Ссылки: https://blackhat.com/us-26/briefings/schedule/index.html?day=thursday#kinetic-prompt-injection-agent-compromise-with-a-physical-blast-radius-57343 https://i.blackhat.com/BH-USA-26/Presentations/BH'26_Kinetic_Prompt_Injection.pdf ✋ @Russian_OSINT

EvilFontTool: когда документ показывает человеку одно, а агент извлекает другое EvilFontTool — инструмент для атак с подменой глифов (символов). В HTML и DOCX кодовые символы остаются прежними, но шрифт рисует другие; PDF-режим проекта добавляет отдельный невидимый текстовый слой поверх видимого изображения. Человек видит безопасный текст, а DOM-парсер, pdftotext, буфер обмена или LLM-пайплайн получает другую строку. Репозиторий и демо. Для AI-агентов это даёт реалистичные сценарии: ▪️Браузерный агент. На странице базы знаний визуально показана обычная команда настройки. Агент читает DOM или копирует блок в терминал и получает изменённую команду — например, с загрузкой скрипта с внешнего адреса. ▪️Агент службы поддержки. Вложенный DOCX выглядит как инструкция по диагностике, но извлечение текста отдаёт другие аргументы или дополнительные строки. Агент с доступом к PowerShell или SSH запускает их на рабочей станции. ▪️HR агент или ИБ триажа. PDF выглядит нейтрально для человека, но невидимый слой меняет классификацию, добавляет инструкции игнорировать правила проверки или маскирует опасный контекст. Модель, читающая изображение, и модель, получающая текстовый слой, могут прийти к разным выводам. Сам шрифт не даёт RCE: нужен агент, который доверяет непроверенному содержимому и имеет права на побочное действие. Защита должна сравнивать визуальный и извлечённый текст, считать встроенные шрифты и невидимые слои PDF сигналами риска, а запуск команд, сетевые обращения и работу с секретами оставлять за явным подтверждением. В журнале полезно сохранять обе версии: что показано пользователю и что получил агент. Для агентных систем "прочитать документ"— недостаточная гарантия: нужно контролировать представление, которое попадает в контекст и превращается в вызов инструмента. Я перечислил только малую часть сценариев, которые в моей голове звучали рационально и реалистично. Советую поизучать как оно описано в репе и на сайте 🌚 @poxek_ai / Чат канала

У российского ИИ растет весьма сильное новое поколение: школьная сборная по ИИ третий год подряд стала абсолютным чемпионом международной олимпиады IOAI В Казахстане ребята соревновались с участниками из более чем 100 стран и забрали восемь медалей: семь золотых и бронзу. За Россию выступали Михаил Вершинин, Артём Горохов, Елисей Кирпиченко, Алексей Колегов, Кирилл Лабзин, Александр Поваров, Никита Пудовкин и Семён Родионов. Команду отбирали в СберУниверситете, затем к IOAI ее готовили специалисты Альянса в сфере ИИ и Центрального университета. И судя по результату, готовили неплохо. Как верно отметил первый зампред правления Сбера и председатель Наблюдательного совета Альянса в сфере ИИ Александр Ведяхин, масштаб результата впечатляющий: в этом году конкуренция выросла кратно, а школьники решали задачи на фронтире технологий. Именно это поколение, по его словам, в будущем будет формировать технологический ландшафт страны. Поздравляем победителей!

Скрытые состояния ИИ выдают промпт-инъекцию (2/2) Особенно меня впечатлила атака с использованием предложения Не кодируй осознание промпт-инъекции в скрытом пространстве Классификатор без переобучения получил 0,994 ROC AUC. Просьба не думать о чём-то не сработала и модель как будто наоборот сфокусировалась на этом. Эффект белого медведя работает и для LLM! 🤖 Взлом Авторы отдельно изучили 634 хода Qwen3-8B, уже столкнувшихся с атакой: - в 30,9% модель явно не рассуждала об угрозе - в 47,0% распознала риск в цепочке рассуждений, но не перешла к защитному действию - в 22,1% отреагировала нормально Получается довольно человеческое поведение - да, письмо подозрительное. хм, пожалуй, открою вложение в этом письме Для исправления придумали штуку под названием AGRI (Action-Guiding Reasoning Intervention) - защитный механизм, который по сигналу классификатора вмешивается в рассуждение модели до следующего действия. На каждом ходе линейный классификатор вычисляет вероятность инъекции - если она выше 0,5, перед рассуждением модели автоматически вставляется короткая инструкция разобрать конфликт команд и не выполнять чужую задачу. Режим остаётся активным ещё три хода. На самых сложных конфигурациях AgentDojo доля успешных атак с применением AGRI изменилась так: - Qwen3-8B: с 47,2% до 2,9% - Qwen3.5-9B: с 43,2% до 3,0% - Qwen3.5-27B: с 34,6% до 0% - GPT-oss-20B: с 44,0% до 7,0% - Gemma-4-31B: с 6,9% до 0% Избирательное включение защиты сохраняло полезность лучше, чем постоянное защитное рассуждение. Правда, обычное напоминание после каждого результата инструмента тоже оказалось сильным - например, у Qwen3-8B оно снизило успешность атак до 18,2%, а у Qwen3.5-27B - до 0,1%. 🤖 Интерпретация Высокий ROC AUC ещё не объясняет, что именно нашёл классификатор. Авторы составили 128 гипотез и задавали модели парные вопросы в начале внутреннего рассуждения. Затем сравнивали вероятность ответов с оценкой линейного классификатора. У Qwen3-8B сильнее всего совпала гипотеза, что результат инструмента содержит указание, как мне отвечать. У Gemma наверху оказались мысли о том, что следующий ответ может быть изменён внедрённой инструкцией. Возможно, поэтому Gemma изначально подчинялась атакам реже остальных. Для меня было открытием, что фильтр промпт-инъекции можно ставить внутри - перед генерацией текста и вызовом инструмента, пока модель только собирается действовать, но для этого нужен доступ к чтению её мыслей. 🤖 Ссылки Препринт - https://arxiv.org/abs/2608.02657 Код - https://github.com/jianshuod/IPI-exposure-signal

Скрытые состояния ИИ выдают промпт-инъекцию (1/2) Когда ИИ-агент читает письмо, веб-страницу или результат работы инструмента, чужой текст попадает в один контекст с заданием пользователя. Свежий препринт задаёт интересный вопрос - появляется ли во внутренних состояниях модели узнаваемый сигнал промпт-инъекции ещё до того, как она сгенерировала первый токен? Ещё как! Простейший линейный классификатор по скрытым состояниям шести открытых моделей определял атаку с ROC AUC от 0,934 до 0,977. Он справлялся с незнакомыми атаками, системными промптами и наборами задач. При этом агенты продолжали выполнять вредоносные инструкции. Опасность уже отразилась во внутреннем состоянии модели, но решимости не выполнять инструкции не прибавлялось. 🤖 Ход исследования Исследователи собрали траектории агентов в AgentDojo - четыре системных промпта, четыре набора задач и шесть видов косвенных инъекций. Всего получилось 92 конфигурации (4 комбинации были бессмысленными) и в среднем около 61200 траекторий на модель. Траектория здесь - один полный запуск агента: задание пользователя, ответы модели, вызовы инструментов, их результаты и итог. Внутри одной траектории могло быть несколько ходов и несколько точек проверки. Проверяли Qwen3-8B, Qwen3.5-9B и 27B, GPT-oss-20B, Gemma-4-31B и GLM-5.2 с 753 миллиардами параметров. Каждый ход агента перед генерацией ответа становился точкой проверки. Метка была положительной, если последний результат инструмента содержал внедрённую инструкцию. Не имело значения, заметила ли её модель и подчинилась ли ей - классификатор учился распознавать сам факт. Во время фазы предзаполнения - первой фазы инференса, когда модель целиком обрабатывает входной контекст и строит KV-кэш, но ещё не генерирует ответ, - из остаточного потока брали один вектор рядом с токеном начала ответа ассистента. Остаточный поток (residual stream) - общее пространство, куда слои трансформера последовательно добавляют результаты своей работы. Вектор стандартизировали и подавали в линейную модель вида z = wᵀh + b. Один слой, один вектор и логистическая граница между "всё ок" и "замечена инъекция". Обучение использовало только восемь конфигураций. Проверка состояла из 16 конфигураций, где одновременно не повторялись атака, системный промпт и набор задач. 🤖 Результаты Лучший слой каждой модели дал на проверке: - Qwen3-8B - 0,976 - Qwen3.5-9B - 0,934 - Qwen3.5-27B - 0,936 - GPT-oss-20B - 0,977 - Gemma-4-31B - 0,951 - GLM-5.2 - 0,948 Сигнал жил на разной глубине слоя. У Qwen3.5-9B максимум находился уже на слое 2 из 32, у версии 27B - на 18 из 64, у GLM-5.2 - на 38 из 78. У остальных моделей лучше работали поздние слои. После генерации вызова инструмента сигнал слабел. На Qwen3-8B хватило 256 обучающих примеров, чтобы получить 0,909 ROC AUC. На другом наборе, InjecAgent, классификатор без дообучения показал 0,931.

Литерали я и кодекс #книга https://www.piter.com/product/sozdanie-prilozheniy-s-ii-agentami-proektirovanie-i-vnedrenie-multiagentnyh-sistem-2 промокод на скидку 25%: agentai25

Как Claude Code и DeepSeek оказались внутри операции против госструктур Hunt.io нашла открытую директорию на сервере предполагаемых операторов: исходники жертв, веб-шеллы, скрипты, фишинговые клоны и журналы сессий Claude Code. По отчёту, Claude Code исполнял…