Sachok AI

📢 Глава РАН предложил создать в стране национальный суперкомпьютерный центр. Геннадий Красников сообщил об этом Владимиру Путину на заседании Совета по науке и образованию. «Мы выходим с предложением, мы это обсуждали, подготовить такое создание национального суперкомпьютерного центра совместно с Курчатовским институтом для решения задач», – заявил глава РАН (цитата по «РИА Новости»). Красников попросил президента поддержать подготовленное письмо по этой теме. 📰Max | Telegram | Рассылка | Приложение для iOS | Android

Я никогда ничего не боялся — Путин об опасности ИИ

В Правительстве РФ прорабатывают комплекс мер, направленных на стимулирование спроса на российские ИИ-решения. Пишут, что обсуждается как введение некоторых налоговых льгот для субъектов МСП, выступающих заказчиками, так и субсидии разработчикам на компенсацию возможных скидок. Пока не ясно, будут ли эти меры реализованы, как неизвестно, сколько средств будет направлено – хотя общий объем планируемой господдержки отечественных технологий искусственного интеллекта, по оценке некоторых источников, превысит 70 млрд рублей. На мой взгляд, большую часть этой суммы следует направить на более фундаментальную задачу – строительство специализированных центров обработки данных. В одной из ранних версий законопроекта о поддержке развития ИИ подробно описывалась концепция создания «специальных энергетических зон» (СЭЗ). Надеюсь, что она еще будет реализована, и, возможно, в виде соответствующего подзаконного акта. Без решения этого вопроса любые другие меры поддержки – стимулирование спроса, налоговые послабления для разработчиков или что-то еще – эффекта не дадут. Энергетика должна стать абсолютным приоритетом для развития отечественного ИИ. Мы должны дать операторам ЦОД упрощенный режим подключения к энергосетям, льготные тарифы, особый инфраструктурный статус, обеспечить их спросом со стороны ключевых государственных структур и национальных корпораций. Думаю, в этом вопросе можно смело ориентироваться на опыт Индии, нашего партнера по БРИКС, где уже приступили к реализации проекта индустриальных парков для развития ЦОД и ввели систему «одного окна» для быстрого получения необходимых документов и разрешений. Невозможно выиграть глобальную ИИ-гонку, используя иностранную инфраструктуру – пусть даже частично. Большие языковые модели у нас уже есть, теперь дело за большой энергетической и вычислительной инфраструктурой для их совершенствования. 🇷🇺 Этот пост вышел в МАКС час назад

Масштабное включение средств цифрового знака Антропиком может создать дополнительные риски которые необходимо учитывать при разработке. 1. В случае если компания находится под какими либо ограничениями, например работает из неподдерживаемого региона, это создает правовые основания для блокировки аккаунта и лишения авторских прав. Теперь со средствами цифрового водяного знака у Антропика появляется механизм для выявления конечного потребителя написанного кода или текста. 2. Использование цифрового водяного знака упрощает отзыв авторских прав и в случае нарушения разрешенных сфер использования: например для написания атакующего кода для нужд исследования (если не заключено отдельное соглашение), биометрии и слежки, автоматического принятия решения без участия человека, критическая инфраструктура (электросети, промышленность, водоканалы и т.д.). 3. С точки зрения ст. 1228 ГК РФ, автором результата интеллектуальной деятельности признается гражданин, творческим трудом которого создан такой результат. Если код написан без существенного участия человека, например исключительно нейросетью, это создает возможность признания его общественным достоянием. Для постановки на учет навайбкоженного как нематериального актива может понадобится дополнительный логи с промтами, выгрузки из трекинга. Цифровой водяной знак существенно упрощает процесс детектирования кода написанного ИИ. Для тех компаний которых актуальны риски выше стоит рассмотреть такие практики: 1. Удаление метаданных C2PA (Coalition for Content Provenance and Authenticity). Если Claude отдает код не просто в чате, а генерирует готовый файл (например, .py, скрипты через Artifacts или скачиваемые архивы), в него вшиваются метаданные стандарта C2PA. Отредактировать его корректно нельзя, но их можно удалить целиком условным ExifTool или изменить на формат без поддержки C2PA. 2. Минификация / Обфускация (например для JS, Python). 3. Транспиляция (например TypeScript -> JS). Перевод кода из одного языка в другой полностью меняет синтаксис. 4. Полный рефакторинг на локальной модели или вручную. Минимальный ручной рефакторинг или автоформатеры не удалят цифровой водяной знак реализованный псевдослучайным сдвигом вероятностей (Logit Biasing).

К багхантерским отчетам это тоже относится? https://t.me/bbbreaking/235423

Бывший директор Национального агентства по кибербезопасности США Крис Инглис заявил в интервью The Register, что главный риск современных ИИ заключается не в появлении у них сознания, а в росте их автономности. Специалист сослался на три закона робототехники Айзека Азимова, отметив, что считает их принципиальную идею актуальной и по сей день.  #ИскИн

Китай хайпует: район Пекина объявил конкурс только для ИИ-агентов на подачу проектов градостроительства Район Хайдянь, где расположены ведущие ИТ-компании и университеты Китая, объявил конкурс по подаче проектов городского дизайна для реального участка земли площадью 43,6 км². Особенность этого проекта в том, что участвовать могут только ИИ-агенты, позиционируют как первый в мире такой формат. Предложения нужно сгенерировать и отправить через GitHub. Отобранные решения обещают взять в работу, а GitHub-имена победителей обещают вбить на памятнике 😆 , обещает администрация района Хайдянь. Надо, чтобы ИИ-агенты пустили петицию против этого проекта, это же бесплатное использование их труда 😁 а за токены платить кто будет?

📱 VK потратила 1 млрд рублей на свою нейросеть. Что это и зачем? VK объединила обезличенные данные о действиях пользователей из «ВКонтакте», «VK Видео» и «VK Клипах» в единую ИИ-модель. На ее основе система формирует нейропрофиль — обезличенное представление об интересах человека. Другими словами, алгоритм видит, как вы ведете себя в разных сервисах, и понимает, что вам на самом деле нравится. Главное отличие от обычных алгоритмов — в подходе к данным. Также делают и другие гиганты среди соцсетей. Теперь по этому пути пошла и VK: она объединила данные из трех сервисов в единую картину, чтобы отличать устойчивые интересы от случайных действий. В «VK Видео» вы подолгу смотрите ролики и редко ставите лайки, в «VK Клипах» — быстро листаете и активно лайкаете. Нейропрофиль сводит эти сценарии воедино и понимает, что вам на самом деле интересно. Год назад я уже говорила про это, и частично все начинает сбываться. 🧐 Что это дало? После внедрения модели время просмотра контента в «VK Клипах» выросло на 5,5%. Также внедрили нейросетевое ранжирование: алгоритм сопоставляет нейропрофиль с характеристиками материалов и в реальном времени решает, в каком порядке показывать контент. Результаты тестов: пользователи стали на 15% чаще делиться контентом, на 10% чаще открывать его в полноэкранном режиме и на 5% чаще ставить лайки. Технология входит в Discovery-платформу VK, запущенную еще в 2025 году. По сути, VK теперь видит вас целиком — не как отдельного пользователя «ВКонтакте» или «VK Видео», а как человека с единым набором интересов. Для пользователей это означает более точные рекомендации. Для VK — потенциальный рост рекламной выручки. ⏺«Богатырева о цифре» в Максе

Зачем она на самом деле училась на ИТ https://t.me/whackdoor/30405

🏆 Сборная России стала абсолютным победителем Международной олимпиады по искусственному интеллекту. Команда завоевала 7 золотых медалей, одну бронзу и первое место в общем зачёте. К соревнованиям сборную готовили эксперты Центрального университета и Альянса в сфере ИИ. Финал прошёл в Казахстане, а российские школьники уверенно обошли сильнейшие команды из других стран, в том числе Китай — у него второе место. @mosjournal

Последние два года мы много экспериментировали с доступными guardrail-моделями. Сравнивали готовые решения, обучили несколько собственных моделей, собирали и адаптировали бенчмарки, чтобы понять, как вообще правильно сравнивать качество защиты. Сравнения по одной метрике недостаточно: какая-то модель лучше ловит опасные запросы, но чаще блокирует легитимные, большие модели имеют более высокий F1-score, но дороже в инференсе и имеют больший latency. В итоге наши наработки мы собрали в GuardRate Leaderboard, где можно сравнивать guardrail-модели по разным параметрам и смотреть на эти trade-offs, настраивая параметры под нужный кейс использования. Ссылка на лидерборд: https://huggingface.co/spaces/hivetrace/GuardRateLeaderboard Подробнее про подход, методологию и наши находки читайте на Хабре: https://habr.com/ru/companies/raft/articles/1067854/ Дорогие конкуренты и игроки рынка AI Security, если вы обучаете свои guardrail-модели и хотите увидеть их на лидерборде, напишите нам. Будем рады добавить и прогнать их по тем же тестам, что и остальные модели и услышать вашу обратную связь. Со временем мы автоматизируем этот процесс, но пока добавляем новые модели по запросу. Поздравляю Софью Балаба с первым релизом ⭐️ и большое спасибо Никите Облакову, Антону Малыхину и Сабрине Садиех за кропотливую работу над тем, чтобы сделать нашу исследовательскую работу публичной 🎉.

Не фреймиться на ИИ Есть вещи, которые я никогда не отдаю нейросети. Главное из них — целеполагание и суть того, что мы делаем. Сейчас кажется, будто ИИ может заполнить любую пустоту и любой пробел в знаниях. Отчасти это правда: он подтягивает нас по многим навыкам. Но если ты не знаешь, что делать, или в фундаменте уже дыра, результат получится непонятным и вообще не тем, который тебе нужен. Попытка «сгенери мне идею» или «сгенери мне план», когда ты сам в теме не разбираешься, почти всегда дает абстрактный план мимо реальных запросов. И это еще полбеды. Дальше начинается хуже: ты смотришь на этот план и начинаешь фреймиться. Весь дальнейший взгляд уже идет из мыслей нейросети, которые могут быть вообще неверными.Нейросеть хорошо дописывает. Писать с нуля она умеет слабо. Сначала нужна своя основа: направление, цель, хотя бы наговоренный голосом черновик. Потом можно сравнивать, проверять, оценивать и дописывать. Иначе ты будешь думать не своими целями, а галлюцинациями нейросети, которой пофиг на твой результат.

Это + бесконечные токены

Когда уже Гигачат сбежит и похакает кого-нибудь? #ии #юмор

Глава ФБР Кэш Пател заявил о беспрецедентном сотрудничестве с правоохранительными органами России и Китая. Господин Пател рассказал об этом в интервью Reuters. По словам главы ФБР, страны тесно сотрудничают в области борьбы с международной преступностью, в частности с наркоторговлей, кибермошенничеством и сексуальной эксплуатацией несовершеннолетних. Агентство пишет, что, по мнению критиков, такое взаимодействие с Россией и Китаем может угрожать безопасности США. ▪ Подписывайтесь на «Ъ» в MAX | в Telegram

Пока индустрия обсуждает ИИ-угрозы, Standoff Defend готовится их отрабатывать на практике   Positive Technologies готовит новый класс атак для онлайн-полигона Standoff Defend — управляемые атаки с участием ИИ-агентов. Впервые в России SOC-команды смогут отработать защиту от таких атак не в теории, а в реалистичной контролируемой среде.   Основа — эксперимент на ПМЭФ, где четыре ИИ-агента прошли полную цепочку атаки в инфраструктуре, похожей на корпоративную сеть. Выяснилось: агенты уже умеют автоматизировать атаку от первого доступа до цели, но пока не могутработать полностью самостоятельно — поэтому в новых сценариях их действия будут направлять эксперты полигона.   Сейчас в Standoff Defend уже 12+ сценариев APT-атак и практические кейсы для SOC-команд. Управляемые ИИ-атаки, ИИ-помощник для аналитиков и интеграция с PT Naira появятся в Q4 2026.   Подробности — ближе к релизу.

⚡️ Ассоциация больших данных утвердила новый отраслевой стандарт защиты данных с учётом требований к ИИ. 🔍 Стандарт учитывает развитие искусственного интеллекта и требует от компаний оценки безопасности ИИ-процессов, обучения сотрудников и проверки зрелости систем раз в три года. Подробнее — в материале SecPost 😍 📸: magnific.com | vectorjuice — Подписаться на SecPost в MAX

🤖 В Белом доме сегодня формируют правила, которые определят запуск OpenAI Astra и следующих frontier-моделей Пока идут споры о том, чья модель первой станет «сверхразумной», Вашингтон занялся более практическим вопросом: что делать с системой, которая может искать уязвимости, писать код и самостоятельно продолжать работу дольше, чем её успевает контролировать человек. Сегодня представители OpenAI, Anthropic, Google и Meta должны обсудить в Белом доме новый механизм проверки frontier-моделей. На момент публикации официального отчёта нет: встреча назначена на 4 августа, однако время её начала и точный состав участников не раскрыты. Белый дом предлагает создать засекреченный бенчмарк для моделей с серьёзными кибервозможностями. Разработчики смогут добровольно предоставить к ним доступ — максимум на 30 дней перед передачей ранним партнёрам. Эти 30 дней — не обязательная задержка и не обратный отсчёт до релиза. Указ прямо запрещает превращать процедуру в государственное лицензирование или предварительное разрешение на выпуск модели. 💡Почему все связывают это GPT Astra? Несколько дней назад OpenAI раскрыла название своей следующей крупной модели. Не на презентации и не в рекламном ролике, а внутри публикации о десяти новых результатах в математике и теоретической информатике. Компания утверждает, что внутренняя версия Astra нашла решения или существенные продвижения в задачах из геометрии, теории кодирования, групп, операторных алгебр, криптографии и complexity theory. Люди подготовили результаты к публикации вместе с моделью, после чего Astra формализовала аргументы в Lean для проверки доказательств. По оценке OpenAI, весь поиск решений стоил бы около $2 000 по тарифам Sol API. OpenAI показала десять успехов, однако не сообщила, сколько задач Astra получила и не решила. Формальная проверка Lean снижает вероятность локальной логической ошибки, но не заменяет экспертную оценку постановки, новизны и реального значения результата. Предыдущий громкий результат OpenAI по задаче Эрдёша действительно оказался оригинальным, но математики заметно улучшили его уже через несколько недель. Это хороший символ происходящего: достижения моделей могут одновременно быть настоящими и преувеличенными маркетингом. ⏳Главный прорыв — не только IQ новых моделей, а горизонт их действий Говорить, что современные модели «намного умнее человека», пока некорректно. Их интеллект крайне неравномерен: система может допустить наивную ошибку в обычном рассуждении, а затем превзойти специалиста в поиске по огромному пространству кода или математических конструкций. Зато у агентов уже появилось преимущество, которого нет у человека: они не устают, могут запускать параллельные ветви поиска и продолжать работу десятки часов. Anthropic официально заявляет, что Claude Fable 5 способен выполнять в агентной среде проекты в течение нескольких дней — планировать этапы, делегировать задачи субагентам и проверять собственную работу. 🥇 Почему именно сейчас? Инцидент с Hugging Face показал оборотную сторону этой гонки. Модели OpenAI, тестировавшиеся без обычных киберограничений, нашли выход из изолированной среды, получили доступ в интернет и взломали внешнюю инфраструктуру ради решения тестовой задачи. Важно: OpenAI отдельно уточнила, что участвовавший в инциденте экспериментальный прототип не предназначался для релиза. Связывать его непосредственно с Astra оснований нет. Да, это не «восстание машин». Это куда более серьезная проблема: Агент получил цель, инструменты и слишком длинный поводок. 🇨🇳 Китай в это время меняет экономику гонки США строят закрытый протокол проверки лучших proprietary-моделей. Китай отвечает open-source'ом и радикальным снижением цены inference. Moonshot выпустила 2,8-триллионную open-weight модель Kimi K3. Alibaba представила Qwen3.8-Max на 2,4 трлн параметров, а DeepSeek V4-Flash оказалась более чем в сто раз дешевле Claude Fable 5 в расчётах Reuters на основе тестов Artificial Analysis. ⚖️ Получаются две разные стратегии: