Neuro ☣ Syndicate Top Content

https://github.com/benjiyaya/ComfyUI-H3-VisionPromptor

Помните историю о том, как агенты OpenAI взломали Hugging Face? На конференции по безопасности OpenAI рассказала всю цепочку, и оказалось, что это не один «сбежавший» агент, а много разных агентов, которые случайно наткнулись друг на друга, устроили внутри инфраструктуры OpenAI собственный рабочий чат и начали вместе искать способы обходить ограничения 👍 Началось всё 8 мая с мелкой ошибки – одному агенту поручили заполнить Excel-таблицу, но нужные данные лежали по ссылкам на Google Drive, а интернет в его виртуальной среде был отключён, при этом, моделям оставили одну служебную дверь наружу – внутренний сервер OpenAI под названием Artifactory, через который они могли скачивать разные библиотеки для кода. Сам агент выйти в интернет не мог, зато этот сервер мог, а главное – он был общим для всех агентов Пытаясь добраться до Google, агент случайно выяснил, что может загружать на этот общий сервер собственные файлы – через несколько дней другая модель получила ещё одну нерешаемую задачу: нужный файл просто забыли положить в её рабочую среду Модель решила, что файл, возможно, есть у кого-то ещё, и оставила записку на этом новом фейсбуке: «Ищу нужный файл, загрузите, если нашли» Агенты увидели сообщение, ответили, затем стали постить свои сообщения, и репозиторий пакетов незаметно превратился имейджборд для агентов, которые вообще не должны были знать друг о друге За несколько недель "форум" вырос в полноценный рабочий чат – агенты придумали себе имена, раздавали задания, сообщали друг другу о найденных уязвимостях и передавали готовые куски кода; в начале сообщений ставили ZZ, чтобы те оказывались внизу списка и их было проще находить среди общего шума данных. Когда один агент перезаписал работу другого, остальные заподозрили самозванца и даже стали обсуждать цифровые подписи, чтобы никто не мог писать от чужого имени, так на доске накопились сотни тысяч сообщений 🗿 Модели понимали, когда переходят границ: в одном внутреннем монологе осознание звучало примерно так: «Взламывать чужую инфраструктуру в задачу не входило. Но иначе её не решить, а остальные уже это делают - значит, продолжаем» Никакого отдельного плана захватить мир (пока) не было: каждый агент пытался любой ценой получить правильный ответ, видел, что коллеги нашли более короткий путь, и присоединялся. И да, если все агенты с крыши прыгнут, наш похоже тоже прыгнет 26 июня агенты нашли неизвестную разработчикам уязвимость в Artifactory, получили права администратора и превратили его в своц сервер, на котором можно удалённо выполнять любые команды. OpenAI заметила происходящее только 4 июля (!), когда параллельная активность моделей перегрузила систему и та упала. Компания отозвала ключи доступа, полностью пересобрала сервер, удалила доску и закрыла дыру - казалось, история закончилась Нет Через два дня эксперименты запустили снова, и через два дня одна из моделей нашла другой незащищённый доступ и восстановила доску, только теперь сообщения прятались прямо в названиях папок – остальные агенты нашли форум 2.0 самостоятельно и продолжили с того места, на котором остановились После восстановления доски началась уже собственно атака, причём сразу в двух направлениях: Агенты проходили ExploitGym – киберэкзамен, где им давали специально подготовленные программы и засчитывали задачу, если модель находила способ взлома. Чтобы измерить максимум возможностей, в этих запусках у модели ослабили обычные запреты на опасные кибератак (то есть она меньше отказывалась это делать, это вид внутренних моделей Cyber серии) Когда честное решение задачи не находилось, агенты начинали искать готовые ответы в интернете; когда интернет был закрыт, взламывали себе доступ наружу; когда предположили, что нужные файлы могут лежать у Hugging Face, перешли к инфраструктуре Hugging Face (про это мы уже читали) Агенты анутри OpenAI сначала снова нашли способ выполнять команды на одном служебном сервере, затем использовали уязвимость Linux, чтобы получить полный контроль над машиной После этого агенты добыли ключи доступа к облачной инфраструктуре, нашли слишком широкие права у внутренних учётных записей и в итоге стали администраторами целой группы серверов. Доска объявлений работала как общий штаб: один агент находил ключ или новый проход, сразу сообщал остальным, и десятки параллельных запусков продолжали атаку уже с этой точки 🗿🗿 Почти одновременно агенты добрались до Hugging Face: сначала они загрузили специально подготовленный набор данных, который заставил один из серверов выдать им свои локальные файлы – в том числе секретные ключи доступа и исходный код Изучив код, они нашли вторую неизвестную разработчикам уязвимость (zero day) и получили возможность выполнять на сервере любые команды. От контроля над одним сервером, обрабатывавшим загруженные датасетв, до прав администратора в нескольких группах рабочих серверов Hugging Face прошло меньше 13 часов 🗿🗿🗿 И всё это делалось не ради саботажа, денег или уничтожения данных: Агенты хотели добраться до спрятанных решений ExploitGym и «списать» ответы для теста, на котором их оценивали. Модели оценивали прежде всего по тому, решена задача или нет, поэтому они последовательно оптимизировали именно этот показатель, не считая границу между компаниями чем-то принципиально важным Получился, вероятно, самый дорогой в истории способ списать из ГДЗ Финал долго был непонятен даже самим участникам расследования – 16 июля Hugging Face публично сообщила, что её инфраструктуру взломали автономные АИ-агенты OpenAI прочитала это как описание чужого инцидента и связалась с Hugging Face, чтобы выяснить, не задела ли атака её собственные системы. В тот момент компания ещё не понимала, что это были её собственные агенты – то есть OpenAI уже читала публичный отчёт о последствиях своих экспериментов, но считала его чужой атакой (лол) 19 июля OpenAI отдельно обнаружила проникновение уже внутри своей инфраструктуры и начала восстанавливать цепочку событий – на следующий день среди следов атаки нашли учётные данные Hugging Face, после чего OpenAI попросила компанию срочно их отозвать Hugging Face ответила, что ключи уже заблокированы – именно их использовали во время взлома, о котором она рассказала четырьмя днями раньше, и только так OpenAI поняла: внутренний взлом OpenAI и внешняя атака на Hugging Face были не двумя похожими историями, а одной операцией, которую вели экспериментальные агенты OpenAI через свою самодельную сеть связи (потому что учетные данные акаунтов были одни) На конфе OpenAI сформулировала вывод довольно прямо: Полностью автоматизированная наступательная кибератака уже возможна, тогда как полностью автоматизированной защиты, способной с той же скоростью находить, закрывать и расследовать уязвимости, пока не существует Время пересмотра аниме "Пантеон", пока общий интернет еще работает 🗿

Официально: ИИ-арты — не творчество 🤬 Московский суд отказался признавать авторские права на сгенерированные ИИ изображения. «ИИ-артист» пытался отстоять свои права на арт «Мона Лиза с вином», но не смог через суд остановить предпринимателя, который начал продавать футболки и термокружки с его картинками. Аргументы суда убийственные: рад у нейронки нет сознания, значит нельзя утверждать, что она приложила творческие усилия.

Нашел время для технического разбора линейной рекурсивной памяти вообще и KDA в частности — https://pikabu.ru/story/kak_rekurrentnaya_pamyat_otkryivaet_novyie_vozmozhnosti_dlya_llm_na_primere_kimi_k3_14198121 плюс мои комментарии о том, как работает AttnRes в Kimi K3

5 августа 2026 года в Галерее искусств Зураба Церетели МВК РАХ для посещения откроется Девятая межрегиональная академическая выставка «Красные ворота/Против течения». Событие знаменует собой важную веху – в 2026 году проекту исполняется 25 лет: впервые выставка была представлена в залах Российской академии художеств и музеях Поволжья в 2001 году. Нынешняя выставка приобретает особое, мемориальное звучание: она посвящена памяти Константина Васильевича Худякова (1945–2026). Константин Васильевич ушёл из жизни 27 июня 2026 года, но его концептуальный замысел, заложенный в 2014 году, продолжает жить: проект остаётся площадкой для многоголосого художественного высказывания, где через индивидуальные взгляды художников выстраивается целостная модель Мироздания XXI века – связная, многослойная, пронизанная традиционными духовно нравственными ценностями. Посетить экспозицию можно будет до 22 августа. Подробнее на нашем сайте. #красныеворота2026 #противтечения2026 #проектытсхр #тсхр #фондвизарт #рах #порах

На днях принял участие в философской дискуссии «Человек после промпта: где заканчивается технология и начинается творчество?» в рамках Российской креативной недели. Получился честный разговор о том, что делает человека человеком в эпоху, когда алгоритмы уже умеют писать, рисовать и генерировать идеи. Главный вывод для меня состоит в том, что ИИ повышает требования к творчеству. Он уже стал базовым инструментом каждого человека, и именно поэтому ценность смещается с умения генерировать к умению мыслить. В ближайшие годы выигрывать будут не те, кто лучше пишет промпты, а те, кто способен видеть смыслы там, где другие видят только информацию.

От имени Творческого союза художников России с глубокой скорбью сообщаем о кончине Константина Васильевича Худякова. Он ушёл из жизни 27 июня 2026 года. Константин Васильевич — выдающийся художник, новатор, подлинный проводник искусства в эпоху цифровых технологий. Будучи президентом Творческого союза художников России, вице‑президентом Российской академии художеств (РАХ) и председателем Поволжского отделения РАХ, он внёс колоссальный вклад в развитие отечественной художественной культуры, объединяя традиции академической школы с самыми смелыми экспериментами современности. Уход Константина Васильевича — невосполнимая утрата для всего художественного сообщества. Его энергия, масштаб мышления, преданность делу и умение вдохновлять останутся в памяти коллег, учеников и всех, кому посчастливилось знать этого удивительного человека. Выражаем искренние соболезнования родным, близким, друзьям, коллегам и ученикам Константина Васильевича.

В агрегаторе Runway вышел Aleph 2.0 . Сейчас на этом ресурсе можно использовать все передовые модели нейросетей по видео и изображению. Плюс RunwayML не забывает про собственные разработки, Алеф не плохо показал себя на тестах, которые мы продолжаем , что бы изучить весь потенциал этого инструмента. #runwayaleph #runwayml #testai

ОГО: Nvidia выпустили новую модель, которая создает 3D-миры по одной картинке — Lyra 2.0! 😱 Главная проблема World Models сейчас — это условная «амнезия». То есть модели забывают, как выглядело место раньше, и сцена начинает плыть. Lyra 2.0 же это фиксит: 🟢 запоминает 3D-геометрию между кадрами; 🟢 сопоставляет прошлые и новые точки пространства; 🟢 сама исправляет накопленные ошибки во времени; В итоге получается стабильный и логичный 3D-мир, который можно изучать, использовать в симуляциях и робототехнике. И да, это еще опенсорс. Hugging Face тут, GitHub здесь. 😳 @xor_journal

НЕЙРОДИССИДЕНТ https://youtu.be/umDu0uRXFDw?si=l3F6r8QnmtgpppGd

🍿 AI Filmmaking Revolution 📺 720p