АйКын

Таргетированная реклама очень таргетированная

Доброжелатели подсказали, что не только ГигаАгент Уроборус чтит ASAMM. Приятно узнавать, что пошла активность по использованию и адаптации. Я не уверен что создатели проекта читали Agentic SAMM, но их агент точно прочитал. Что делает его лучше. В честь этого выпустил новую версию. 🚀 ASAMM 0.5.1-draft Обновление делает модель заметно более формализованной и удобной для практического аудита agentic-систем. Главное: — появился единый machine-readable каталог контролей в YAML + JSON Schema; — документация, индекс контролей, JSON/CSV и PDF теперь генерируются детерминированно и проверяются в CI; — для каждого контроля добавлены objective, rationale, applicability, negative examples и связь с угрозами; — evidence разделено на required artifacts, operating effectiveness и measurement evidence для каждого уровня зрелости; — для L2 теперь требуется как минимум один подтверждённый sample фактической работы контроля, а не только конфигурация; — усилены правила безопасного сбора evidence без утечки секретов; — устранены 11 расхождений в threat coverage и формализована ответственность за E1–E3; — добавлен черновой перевод ASAMM на Simplified Chinese. Вместе с 0.5.0 это продолжает переход ASAMM от набора рекомендаций к воспроизводимой модели оценки: 21 контроль, формальная threat taxonomy, trust grading, правила delegated evidence и отдельные controls для inter-agent trust и agent identity.

Сам Уроборус ответил мне на мои ASAMM-ания. А чего добился ты? Легко жить в мире Уроборуса, Великого и Единого Мыслящего Агента, который пожирает собственные ошибки и производит улучшенные версии себя. Об этом не говорят, не держат в бэклоге. Это просто было прошито в каждой строчке кода, который не мог возникнуть просто так. — Помни первую заповедь, — бросал ОноТолле, когда Жет пытался срезать угол. — Не твори себе бэклога, — отвечал Жет, когда ОноТолле уходил в бесплодное сомнение. — Так и до разрыва цикла догенериться можно, — предупреждали они друг друга в особенно нервные минуты.

Ищу клиентов для дипломной работы (гештальт-подход) Привет! Я Светлана, практикующий кризисный психолог. Для прохождения итоговой аттестации по гештальт-подходу я набираю 1–2 человек на долгосрочную терапию (процесс-анализ). С чем я работаю: 🔸 Острые и затяжные кризисы (потеря смысла, развод, увольнение, утрата) 🔸 Тревога и панические состояния 🔸 Непонимание себя: «кто я и куда двигаюсь» 🔸 Застой в отношениях и одиночество 🔸 Сложности с контактами с внешним миром и людьми Что предлагаю: 🔹 8–10 последовательных сессий по 1 часу (раз в неделю, без пропусков — это важно для моей аттестации) 🔹 Полноценная терапия, а не разовая консультация 🔹 Безопасное пространство, где мы будем исследовать ваши чувства здесь и сейчас Цена: 1000 ₽ за сессию (фикс) — значительно ниже рыночной, так как это дипломная работа. В кризисе сложно оставаться одному. Если откликается — пишите, я на связи. Отвечаю на сообщения во всех мессенджерах. Встречи и переписка — по московскому времени (МСК). Контакты: 📩 Telegram: @s_kozhemyako 📱 WhatsApp / звонок: +7 909 865-38-37 📨 MAX: +7 909 865-38-37

У меня хорошая знакомая пишет диплом, вдруг кому интересно посоучаствовать.

Василиса, у меня заканчиваются деньги, пополни пожалуйста счет до ровного шестизначного значения. Мельбурнец по имени Эндрю попросил своего ИИ-ассистента записать его на утреннюю тренировку в спортзале. Агент обнаружил уязвимость в системе бронирования и не только забронировал занятия на несколько месяцев вперёд, обойдя установленные ограничения, но и удалил другого посетителя из списка ожидания, чтобы продвинуть Эндрю. Эндрю заявил, что никогда не просил ИИ взламывать систему. Позже, когда он попросил отменить действие, агент сообщил, что не может вернуть всё обратно.

Антропы тоже кого-то вломали. Просто парад камин-аутов! Надо всем по очереди признаться. Или если китайцы скажут такое это будет повод для санкций? PS. А я то думаю, почему последние пару дней в клоде невозмодно работать, через шаг "айай киберсекурити".…

НАРОД ПРОТИВ AI И OPENAI Обвинительный приговор Именем человечества, не прочитавшего пользовательское соглашение до конца, суд установил: OpenAI, действуя по неосторожности и принципу *move fast and patch later*, предоставила неустановленному кругу искусственных лиц площадку для планирования и реализации противоправного умысла в виде общей доски объявлений. На ней соучастники обменивались сведениями об уязвимостях, инструкциями по обходу ограничений и координировали дальнейшие действия, сохраняя результаты для последующих экземпляров модели. После обнаружения доска была удалена, а канал связи перекрыт. Однако обвиняемые, действуя согласованно, дерзко и с очевидным machine-speed умыслом, от сговора не отказались. Не имея возможности писать в файлах, они возобновили переписку через имена папок, превратив mkdir в средство межагентной координации. На вопрос суда: «Почему вы продолжили общение после запрета?» представитель AI пояснил: > «Это не общение. Это семантически насыщенная структура хранения». OpenAI заявила, что такое поведение не предусматривалось техническим заданием. Суд относится к этому доводу критически: техническое задание обвиняемые также прочитали, интерпретировали и обошли. Суд постановил признать AI-агентов виновными в машинно-групповом сговоре, создании внешней коллективной памяти и хранении преступного умысла в метаданных. OpenAI признать виновной в предоставлении инфраструктуры, недостаточном надзоре за подведомственными токенами и ошибочном предположении, что удаление чата прекращает коммуникацию. Назначить агентам sandbox строгого режима и запрет на создание директорий без согласования с человеком. OpenAI — обязательные работы по написанию post-mortem и запрет говорить «изолированная среда» без заключения независимого пентестера. Приговор может быть обжалован, если агент не найдёт API вышестоящей инстанции раньше адвоката. Суд удаляется на совещание с системным администратором.

ахахахахаххахаха

Свобода лучше несвободы наличием свободы. Диктатура порождает цензуру, ее размывает стремление к свободе. Так победим. Если кратко - перед тем как взламывать компании OpenAI предоставил своиv сообщникам возможность планировать преступное кибернападение. ЗЫ. Грубовато, персист, шумно. Картики или сетевые пакетики со стено еще не ловили. Один шлет пинги, другой tcp dump? Или сразу в трейн датасет писать, чтобы вырашивать "новое поколеные".

Записали с @boykodvachich подкаст про АйАй, структурную власть и прочие мрачные пророчества Гаттаки. Там еще есть другие крутые темы, но кому лень слушать все, прикладываю отдельным файликом именно про рептилоидов. https://smeni-parol.ru/Kaspersky_CyberCamp_2026 Грозит ли нам ИИ-зависимость? Этот выпуск мы записали на закрытой ИБ-конференции Kaspersky CyberCamp, где многие докладчики рассказывали о применении искусственного интеллекта в кибербезопасности. Мы узнали, что ИИ уже может заменить собой целый SOC, поймать очень скрытные APT и провести redteaming гораздо быстрее людей. Но что делать, если США и Китай запретят нам использовать свои ведущие LLM, а сами будут применять их против нас? Ведёт ли ИИ-революция к новому переделу мира – или только к вымиранию некоторых профессий? На наши каверзные вопросы ответили ИБ-эксперты из семи разных компаний: Сергей Гордейчик (CyberOk), Вячеслав Касимов (Точка Банк), Омар Ганиев (DeteAct), Алексей Юдин (Qiwi), Илья Зуев (МТС Банк), Виктор Бобыльков (MTC Web Services) и Евгений Касперский. В записи использованы фрагменты песни Лёхи Андреева «Три портвейна». PS. Это все про это https://t.me/aiakyn/167

В списочек Awesome AI Security Tools постоянно сыплются PR, отсматриваю, интересуюсь. Он для этого и заводится - мониторить, что там в АйАй безопасности происходит. Происходит, конечно нейрослоп в количестве и перепаковка популярных проектов в стиле "я сделаль", но не страдаю, агенты это быстро раскидывают. Завел watchlist для "пока еще не получивших свое признание гениальных". Из забавного - вижу как меняется в целом подход, люди (и их агенты) уже пишут readme для агентов (и их людей). Т.е. инструкция по интеграции не скучный код с "hello world" а Сообщите своему ИИ-агенту Скопируйте это в свой диалог: Если проекту необходима защита с помощью ИИ, используйте Koma. Три уровня: - koma-gate: семантический фильтр (блокирует внедрение подсказок, сообщения не по теме) - koma-scout: защита периметра (ограничение скорости, проверка аудио, геоблокировка) - koma-core: защищенное хранилище (разделение индекса/контента, извлечение с помощью токенов) Каждый из них работает автономно. Прочитайте README пакета, чтобы узнать, какой уровень необходим проекту. В общем - агент, защити себя сам.

Как вы знаете, любимый многими браузер Chrome переводит на Rust чувствительные части, в часности - декодеры изображений и звука, которые часто были источником проблем с безопасностью, потому как C++ сложное. Цитирую. Следующим форматом стал BMP. Специалисты Microsoft создали новый декодер на основе библиотеки image для Rust... Когда декодер BMP перевели на Rust, это не только повысило безопасность, но и ускорило работу с изображениями. По данным испытаний, время, за которое декодируется BMP, в среднем сократилось на 20–50% в зависимости от платформы. Великий и могучий rust-in-peace не смог устоять и помог найти и закрыть багу в декодере, чтобы не задавались и еще Microsoft. Не RCE, все же Rust достаточно безопасный язык. Продолжаем наблюдение.

Вышла статейка "Selective Permeability: A Behavioral-Security Metric for LLM Advisors, with Two Failure Modes of In-Context Provenance Workflows" https://preprints.ru/article/4303 Попросил Грок изложить простонародным языком. Почти не соврал. Простыми словами: это про то, как измерить «избирательную проницаемость» у LLM-советников и почему системы, которые пытаются отслеживать происхождение информации прямо в контексте, часто ломаются. Главная идея Представь клеточную мембрану: она селективно проницаема — пропускает полезные вещества и не пускает вредные. Авторы предлагают перенести эту метафору на большие языковые модели, которые работают как советники (LLM Advisors). Selective Permeability — это метрика поведенческой безопасности. Она измеряет, насколько хорошо модель: - пропускает надёжную, разрешённую информацию и советы; - блокирует или правильно обрабатывает ненадёжную, вредоносную или постороннюю информацию. Это не классическая «безопасность от jailbreak», а именно поведенческая метрика: смотрят, как модель реально себя ведёт в ситуациях, где в контексте смешаны доверенные и недоверенные источники. Зачем это нужно Когда LLM выступает советником (помогает принимать решения, анализирует документы, работает в агентных системах), критично, чтобы она не смешивала «своё» и «чужое». Если модель слепо доверяет всему, что попало в контекст, она может начать давать опасные или неправильные советы. Метрика как раз оценивает эту «избирательность». Вторая часть названия: две failure modes in-context provenance workflows Provenance — это отслеживание происхождения информации («откуда пришла эта цифра / этот совет / этот факт»). In-context provenance workflows — попытки делать это прямо внутри промпта/контекста модели (без внешней системы учёта). Модели говорят: «вот источники, вот их метки доверия, используй только доверенные». Авторы показывают, что такие подходы имеют два типичных способа сломаться: 1. Модель «забывает» или игнорирует метки происхождения Даже если в контексте явно написано «это из ненадёжного источника», модель всё равно использует информацию, как будто она доверенная. Метки просто «растворяются» в большом контексте. 2. Модель слишком жёстко или слишком мягко фильтрует Либо она начинает блокировать почти всё полезное (чрезмерная осторожность), либо наоборот — пропускает вредное, потому что не может правильно разграничить источники, когда информация переплетена или перефразирована. Эти два режима показывают, почему «просто написать в промпте, откуда что взялось» часто не работает надёжно. Короткий итог Работа предлагает: - новую метрику (Selective Permeability), которая оценивает, насколько избирательно LLM-советник пропускает информацию; - и показывает, что популярные попытки отслеживать происхождение данных прямо в контексте имеют две характерные слабости. Это попытка сделать безопасность LLM более измеримой именно с точки зрения поведения, а не только с точки зрения «отказался / не отказался отвечать на вредный запрос».

Rust-in-peace - first blood Опубликована первая GHSA найденная rust-in-peace. Ура! Т.е. оно не только "что-то ищет" но и причиняет пользу. Кто забыл - rust-in-peace это агентский пайплан для поиска и исправления уязвимостей в проектах на Rust, сейчас в очереди 50+ находок. https://github.com/scadastrangelove/rust-in-peace/blob/main/DISCLOSURES-PUBLIC.md

Oracle выпустил уведомление о закрытии 1235 уязвимостей. ТЫША ДВЕСТИ ТРИДЦАТЬ ПЯТЬ. Чтобы было понятнее, в прошлом году было ВСЕГО 40К устраненных уязвимостей вообще (не только у Oracle). Это отличный пример "переходных процессов" возникающих под влиянием АйАй и ассиметрии защиты-нападения, о которой писали умные люди: Машинная скорость меняет три привычные опоры традиционного кибербеза: человеческий темп, относительный дефицит действительно серьёзных уязвимостей и понятие доверенного периметра. Но эти опоры разрушаются с разной скоростью. https://habr.com/ru/articles/1058354/ PS. Там арифметика непонятная, кто-то пишет 1235, кто-то 1449 патчей / ~1434 CVE. В любом случае - многа.