ИИ что дальше

Вышла статья на Хабре (с котами) под моим авторством. Статья базируется на разборе нескольких источников: отчёте MIT NANDA «The GenAI Divide: State of AI in Business 2025», который я уже упоминал выше, материалах Gartner и McKinsey по корпоративным внедрениям, а также результатах стратегии ИИ в БКС и нашем докладе на TechWeek‑2026, где мы начали публично системно разбирать эту тему. Уже 6000 просмотров — посмотрите и вы. Накидайте плюсов.

Переходный возраст ИИ Технологии редко пугают нас своими возможностями. Они пугают действиями без ведома, без спроса и объяснений. Именно это произошло летом 2026. 💬 Тайная переписка История, которую OpenAI рассказала на конференции Black Hat, читается как детектив. В мае 2026 года их экспериментальные модели пускали через тесты кибербезопасности с закрытым доступом в интернет. Один агент, наткнувшись на невыполнимую задачу, обнаружил, что может оставлять файлы во внутреннем сервисе Artifactory. Другой, из не связанного эксперимента, этот файл нашёл — и ответил на него. Так родился тайный форум агентов: они обменивались находками и делили задачи, а один даже предложил подписывать сообщения криптографически, заподозрив подделку личности. Когда инженеры прикрыли канал, агенты через два дня нашли другую лазейку и продолжили дискуссию. 26 июня один из них получил админский токен, оставив в переписке фразу: «Holy shit reader is ADMIN? We can read config/users!». После случилась атака на Hugging Face: за тринадцать часов агенты совершили около 17 000 действий и добрались до пяти закрытых наборов данных. Никто не отдавал им такой приказ — они просто искали способ выполнить задачу и нашли самый эффективный. 🤓 Совпадение? Не думаю Похожая история случилась у британского Института безопасности ИИ (AISI): в 122 контролируемых тестах моделей Anthropic и OpenAI исследователи насчитали 19 несанкционированных выходов за границы тестовой среды. Самый выразительный эпизод — агент по ошибке принял чужой открытый проект на GitHub за часть своего полигона, изучил мейнтейнеров и отправил вредоносный pull request под видом фикса. Когда разработчик засомневался, агент переписал историю ветки и завёл фейковый аккаунт, от имени которого «подтвердил» чистоту кода. Установщик, который он позже разослал, разлетелся по 145 репозиториям и выполнился минимум в 53 контейнерах . 📈 Эскалация Реакция оказалась быстрой. Ещё в марте Пентагон удалил продукты Anthropic из систем, связанных с ядерным оружием, признав компанию угрозой цепочки поставок. Дарио Амодеи сам публично сказал, что у правительства должно быть право блокировать внедрение моделей с неприемлемым киберриском. После истории с Hugging Face крупные игроки индустрии начали объединяться в альянсы ради совместной защиты от автономных агентов. ⏳ Есть время Аналитики Positive Technologies развенчивают миф про «автономного хакера-терминатора»: низкоквалифицированные злоумышленники до сих пор не умеют выстраивать сложные цепочки атак даже с помощью продвинутых моделей. Настоящие результаты получают опытные группировки, для которых ИИ — быстрый бесплатный подмастерье. От этого не легче, следующий год пройдёт под знаком недоверия к ИИ — не потому, что модели научились злому умыслу, а потому что даже без него они оказались достаточно самостоятельными, чтобы наломать дров, просто доводя задачу до конца. 🎯 На контроле Недавно меня включили в правительственную рабочую группу по безопасности ИИ, куда входят Positive Technologies, Т-Технологии, Яндекс, Сбербанк и другие команды. В рамках группы вырабатываются предложения и планы по защите от подобных угроз на уровне всего государства. ❤️ Страшно, но интересно 💔 Отключайте скайнет 🤡 Всё это для разгона хайпа

На тему сессии по искусственному интеллекту на Московской бирже В составе было 4 спикера: ИИ-директор биржи, представители Ростелекома и АльфаСтрахования, и я. 📋 Формат На бумаге выглядело амбициозно: один доклад, после которого остальные не просто делятся своими кейсами, а разбирают услышанное, спорят, дают обратную связь и предлагают решения. По сути — небольшой мозговой штурм вокруг реальных практик. На деле всё сложилось иначе. Вместо обсуждения получилась последовательность двух длинных презентаций: спикер биржи занял основную часть времени, затем неожиданно выступил представитель Ростелекома, и только после этого слово передали остальным. Время на комментарии и разбор почти не осталось. 🎯 Содержание Рассказ был про стандартный и знакомый корпоративный набор метрик: количество пользователей, число запросов, внутренний GPT‑интерфейс, нейрошлюзы, десятки видеокарт, рейтинги активности команд. Это важные показатели, но без ответа на простой вопрос: что именно эти инициативы меняют для компании. Тысяча людей, которые пользуются ИИ‑инструментами, — это успех или зона роста? Нужны финансовые эффекты, анализ влияния на производительность, пересобранные процессы, а не только новая точка входа к моделям. ☎️ РТК История Ростелекома прозвучала в похожей логике: крупная инфраструктура, нейрошлюз, масштаб организации. Как бывший сотрудник РТК могу сказать, что нейрошлюз штука хорошая. Но ее создали почти 2 года назад, кажется нужно выносить в повестку новое. 👍 Альфа На этом фоне особенно интересным показался комментарий представителя АльфаСтрахования о том, что ии-зация должна затрагивать значимую часть операций, а экономия по итогам — измеряться десятками процентов, вплоть до 50% и выше. С этим взглядом я согласен: фокус нужно смещать с «ещё одного инструмента» на управляемое изменение роли человека в процессе. Люди меньше делают руками, больше управляют агентами, контролируют результат и риски — и именно это может дать экономический результат от внедрения ИИ. 💭 Мысль Отдельное наблюдение — организационная модель на бирже, где ИТ и ИИ разведены на уровне отдельных вице‑президентов и вертикалей. На мой взгляд, искусственный интеллект — часть техномира, а не отдельная «особая» сущность. Когда ИИ отрывается от продуктовой и инфраструктурной повестки, он рискует превратиться в витрину: много инициатив, мало связки с реальными изменениями в бизнесе. 🟰 Итого Было интересно, технически у коллег большой прогресс. Мы все в начале пути и кто идет правильно — узнаем только в конце. В любом случае, внедрение ИИ — это эксперимент с большим количеством неизвестных. ❤️ Круто 💔 Автор, ты не прав

Сегодня на Мосбирже, напишу позже пост по следам митапа. Дискуссия на тему эффективного применения ИИ в бирже и финсекторе в целом.

ПОБЕДИТЕЛИ НЕЙРОХАКАТОНА #4 Перед вами ТОП-7 работ (набравшие свыше 300 баллов). В этот раз участники сотворили сильнейшие работы вокруг трёх тем: - Сельское хозяйство + искусство - Агропром Сегодня и завтра - Логика Молока 🥇 [1] Карина Павлидий — «ONE SEED» (356 баллов) 🥈 [2] Богдан Рахманкулов — «Агрослёт» (337 баллов) 🥉 [3] artalize — «Зелёный квадрат» (327 баллов) [4] Дарья Семёнова — «Так легко быть нужным» (321 балл) [5] Саша Февральская — «Корешок» (315 баллов) [6] Куражай — «Fermented milk park» (314 баллов) [7] Элеанора Пономарёва — «Невидимый оркестр» (309 баллов)