ML&|Sec Feed

Тыкаю GLM. От поиска уязвимостей, по крайней мере, не отказывается.

✔️ OpenAI заменила Chronicle на Computer History в десктопной версии ChatGPT В десктопном ChatGPT вместо Chronicle заработала Computer History. Прежний механизм собирал контекст скриншотами экрана, новый пишет журнал действий - клики, ввод текста, шорткаты, переключение окон. События складываются в единую хронологию и лежат локально. Сбор по умолчанию выключен. В настройках приватности можно вывести из-под наблюдения отдельные приложения и сайты. Разобрав журнал, ChatGPT замечает повторяющиеся действия и предлагает собрать под них сценарий для рутинной задачи. На тот же журнал опираются ответы ChatGPT и Codex - их можно спросить, например, как правился конкретный файл. Computer History работает на macOS у подписчиков Pro, Business и Enterprise. chatgpt.com ✔️ Claude Code научился возобновлять генерацию после сброса лимитов Если генерация обрывается на лимите сообщений, теперь можно включить ожидание вместо перезапуска. Когда квота обновится, Claude Code подхватит контекст и продолжит с места остановки. Раньше прерванную задачу приходилось поднимать руками - жать Try again или отправлять команду заново. ClaudeDevs в X ✔️ X открыла код алгоритма рекомендаций Соцсеть выложила на GitHub расширенную версию кода, который собирает ленту For You. Кодовая база выросла - добавились конфигурации моделей, внутренние фильтры и веса сигналов в основном движке ранжирования. Закрытыми остались только антиспам-модули на Grok - чтобы владельцы ботнетов не разобрали их и не научились обходить. В настройках Х появился инструмент Under the Hood, который выгружает JSON со статистикой аккаунта. В файле видно, какие системные метки система навесила на профиль и отдельные посты за последний месяц, - по ним можно понять, не попал ли аккаунт под ограничения. JSON вместе со ссылкой на репозиторий можно скормить сторонней модели и разобраться, почему просели охваты. Пока выгрузка работает в пилоте - аккаунт должен быть старше года и выпускать хотя бы десять постов в месяц. X Open Source ✔️ В Калифорнии школьники будут советовать властям, что делать с ИИ Губернатор штата объявил о создании консультативного совета из 20 старшеклассников, который будет участвовать в разработке правил в сфере ИИ. Первая группа уже обсуждает с чиновниками, как внедрять генеративные модели в школы, как защищаться от дипфейков и где проходят этические границы ИИ. Осенью откроется набор новых участников. На весну 2027 года намечена отдельная программа, где подростков научат запускать собственные проекты в цифровой среде. Калифорния стала вторым штатом с молодежным советом по ИИ - такой же с 2025 года работает в Нью-Йорке. gov.ca.gov ✔️ Bank of China начал кредитовать разработчиков под расход токенов Один из четырех крупнейших госбанков Китая запустил программу Computing Power Token Loan. ИИ-разработчикам дают до 30 млн юаней (около 4 млн долларов) на срок до трех лет. Залог не нужен - вместо него банк смотрит на расход токенов, стоимость контрактов на вычисления и выручку от ИИ-продуктов. Аналитики настроены скептически по двум причинам. Во-первых, расход токенов показывает, насколько активно компания работает, но ничего не говорит о том, зарабатывает ли она. Во-вторых, метрику легко накрутить лишними вызовами API, чтобы поднять себе лимит. Чтобы это отслеживать, нужен независимый аудит логов потребления, а таких площадок пока нет. cls.cn @ai_machinelearning_big_data #news #ai #ml

Awesome-free-models — тщательно отобранный список бесплатных моделей, API и инструментов ИИ, которые можно использовать без оплаты ни копейки. 🐱 GitHub

ML&|Sec Feed pinned «Подходы к описанию техник промпт-атак 1. https://hiddenlayer.com/innovation-hub/introducing-a-taxonomy-of-adversarial-prompt-engineering/ 2. https://pangea.cloud/securebydesign/aiapp-pi-taxonomy/ 3. https://www.crowdstrike.com/en-us/resources/infographics/taxonomy…»

⚡️ Harness Engineering - полный курс на русском Как заставить AI-агента писать код надёжно. Не «какую модель выбрать», а как спроектировать вокруг неё рабочую систему: инструкции, инструменты, среду, состояние и верификацию. Курс - от нуля до продвинутых тем: теоретическая база из 11 блоков, 14 модулей, 8 практических проектов, 14 лабораторных работ, диагностический протокол «как починить агента», библиотека готовых шаблонов, карта инструментов, 40 приёмов и каталог антипаттернов. Главный тезис курса: способность модели и надёжность исполнения - это две разные вещи. Одна и та же модель в «голой» среде и в среде с продуманным harness даёт качественно разные результаты. Апгрейд модели - это самый дорогой и обычно не самый эффективный способ починить агента. https://github.com/justxor/Harness_ru

Z.ai запустили OpenVuln - публичный сервис, который с помощью AI ищет уязвимости в open-source проектах. Запуск приурочен к анонсу GLM-5.3. Z.ai заявляет 84,5% на CyberGym, но на более сложном ExploitBench результат заметно ниже — 54,4%. То есть находить подозрительный код современные модели уже научились довольно хорошо. Надёжно доказать возможность эксплуатации всё ещё значительно сложнее. https://huggingface.co/spaces/zai-org/OpenVuln

Сегодня расскажем, как мы упростили проверку заявок на доступ и какую часть этого процесса автоматизировали с помощью нового инструмента. Ежедневно на согласование специалистам ИБ поступает не менее 2 тысяч заявок — и это только в IDM. Чтобы оценить каждую, недостаточно знать, кто и какую роль запрашивает. Важно понять, для какой задачи нужен доступ, какие полномочия у человека уже есть и как они сочетаются с новой ролью. Раньше специалистам приходилось искать эту информацию вручную в нескольких системах. При большом потоке именно сбор недостающих данных занимал значительную часть времени. Так появилась «Эгида» — наш внутренний инструмент для оценки и ранжирования заявок на доступ. Она объединяет формальные признаки и анализ обоснования, рассчитывает оценку риска и показывает, какие факторы на неё повлияли. Благодаря этому специалист видит, какие заявки требуют повышенного внимания. В карточках разбираем, как устроена оценка и какой путь проходит заявка внутри системы. 🔹В следующей части расскажем, что происходит, если данных недостаточно, сигналы противоречат друг другу или модель не уверена в оценке. #разбор #IDM #автоматизация VK Security | Буст этому каналу

Даже гууглу пришлось адаптироваться, когда вышел закон о русификации надписей............

Гений обклеил автомобиль пленкой с капчей, чтобы обманывать ИИ-камеры на дороге — это сработало. Для теста он взял Toyota Yaris 2009 года, сгенерировал пленку с хаотичным узором и проехал перед камерой с нарушениями. В итоге система не смогла распознать автомобиль, потому что у ИИ не получилось его идентифицировать. На проект парень потратил целый год, но одержал победу. Шах и мат, железяки. @techmedia

GHOSTCREW — универсальный набор для наступательной безопасности с архитектурой AI-агентов и MCP. Интегрирует такие инструменты, как Nmap, Metasploit, FFUF, SQLMap. Позволяет пентестировать, охотиться за багами, охотиться за угрозами и отчётывать. Ответы на основе RAG с поддержкой локальной базы знаний. 🐱 GitHub

Leandro: AI SRE Agent with Prompt Injection Sandbox Leandro is an open-source AI SRE agent that watches Kubernetes clusters, diagnoses pod incidents autonomously, and communicates findings over Google Chat. Built with a security-first architecture, it runs inside a NixOS VM on libvirt/KVM with default-deny egress via nftables, a tinyproxy allowlist for outbound HTTP, and a hard tool denylist specifically designed to block prompt injection attacks. Since the agent reads attacker-influenceable text like pod logs and cluster events by design, every capability is fenced by an explicit, auditable boundary, making it a practical reference implementation for secure AI agent deployment in production infrastructure. #AISecurity #Kubernetes #PromptInjection #SRE #ApplicationSecurity https://github.com/SoulKyu/leandro