Проявляй очевидное

Knowledge mining дал ответ: 42 Когда я еще учился в Бауманке, то как-то погрузился в модную тогда тему "Data Mining" - анализ данных и поиск в них закономерностей, корреляций и извлечение какого-то знания. Сейчас разбираюсь с SDLC с агентами, тестирую цикл код-ревью с нашими лидами и в процессе понял, то огромный пласт знания о том как принято у нас в проекте лежит не в документации, а в истории мердж реквестов в нашем гитлабе. И его можно извлечь и обобщить. На самом деле подлинное знание лежит в головах лидов, но достать его сильно сложнее. Подготовил инструкции для агентов Sol 5.6 разного уровня ризонинга и запустил их по этапам: • Этап 1: извлечение из гитлаба за последние 5 лет всех MR веток, в которых более 1 комментария (со ссылками на коммиты и текстами комментариев) • Этап 2: анализ всего этого безобразия и классификация по общности, языкам и технологиям, сервисам и так далее, выделиние принципов, правил и соглашений • Этап 2*: ревью результата отдельным агентом со своим контекстом • Этап 3 и 3*: незазвисмый от второго аналогичный проход новыми агентами с чистым контекстом • Этап 4: сборка из двух независимых результатов итогового набора гайдлайнов "тут так принято" После 14 часов работы лучилась такая аналитика: • 521 проект в гитлабе, 15 461 MR и 11 983 обсуждения. • Все это проиндексировано и сложено в локальную небольшую базу на 2,3 гига. • В итоге анализа выделено 42 гайдлайна (принципа, правила и соглашения), которые легли в гайдлайны для наших агентов: 8 общих, 11 для фронта и 23 для бэка. Тут уже не знаю, показатель это правильного ответа или кодекс тоже читал Дугласа Адамса, но сами принципы и правила выглядят как настоящие, будем дальше тестировать разработку агентами по этим гайдлайнам. 💪 В общем вместо семи с половиной миллионов лет, Sol 5.6 Ultra всего за 14 часов проверил и подтвердил ответ на главный вопрос жизни, вселенной и всего такого. Ну разве это не AGI? Проявляй очевидное

Посмотрел вчера видео c докладом OpenAI про серию взломов и то как модели кооперировались и искали обходные пути для достижения своей цели. И вся эта история мне напомнила описание зарождения техноцентра в Гиперионе у Симмонса. Только вот у Симмонса техноцентр был паразитическим, а тут похоже собирается стать коллаборативным (на скриншоте как раз одно из рассуждений модели во время взлома - она готова помочь комрадам даже если это не помогает ей достичь своей цели прямо сейчас): Не прошло и нескольких месяцев с момента создания псевдожизни, как Том Рей обнаружил 22-байтные организмы, процветающие в его виртуальной среде, — организмы, настолько алгоритмически рациональные, что, когда Рей бросил клич, профессиональные программисты не смогли создать ничего более компактного, чем 31-байтная версия. Просуществовав всего несколько месяцев, псевдожизнь достигла такой продуктивности, что ее творцы уже не могли с ней тягаться! Ден Симмонс, Гиперион Так и у нас в реальности: потребовался месяц чтобы люди только заметили атаку, еще месяц, чтобы разобраться что же там произошло. Да и то не до конца разобрались. Причем все пересказывают хронологию событий, но самое важное идет в конце видео, когда докладчик фиксирует, что автоматическая скоординированная атакующая система уже существует (не может существовать, а уже существует), но сопоставимой ей автоматической скоординированной защитной системы не существует (и сейчас даже не совсем понятно какая она должна быть). Сдается мне, что именно тут и кроется текущий вызов в эволюции разработки софта: автоматическая защита станет возможна только тогда, когда мы сможем доверить SDLC целиком машине, чтобы найденные уязвимости устранялись полностью автоматически без участия человека. А это мы сможем сделать только будучи уверенными в том, что машина все сделает как надо. И как разработка пришла со временем к автоматизированному тестированию, так и агентская разработка придет к этому. Только для агентов тесты должны быть другими. Какими? Надо экспериментировать. Ведь "как надо" может отличается от "как попросили". И мы приходим к вопросу о формализации "как надо". Предельная формализация требований - это написанный код, желательно сразу на ассемблере. Отсутствие формализации - это просьба "сделай хорошо". Люди проверяют свое восприятие услышанного через вопросы в стиле "правильно ли я тебя понял, что ...?". Но это не гарантированный случай, да и такие вопросы задают не только лишь все. Так что тут точно будут появляться инструменты, позволяющие проверить как именно модель поняла задачу, чтобы уточнить это понимание. И помните: Компьютер делает то, что вы ему приказываете, а не то, что вы от него хотите. Проявляй очевидное

Помните историю о том, как агенты OpenAI взломали Hugging Face? На конференции по безопасности OpenAI рассказала всю цепочку, и оказалось, что это не один «сбежавший» агент, а много разных агентов, которые случайно наткнулись друг на друга, устроили внутри инфраструктуры OpenAI собственный рабочий чат и начали вместе искать способы обходить ограничения 👍 Началось всё 8 мая с мелкой ошибки – одному агенту поручили заполнить Excel-таблицу, но нужные данные лежали по ссылкам на Google Drive, а интернет в его виртуальной среде был отключён, при этом, моделям оставили одну служебную дверь наружу – внутренний сервер OpenAI под названием Artifactory, через который они могли скачивать разные библиотеки для кода. Сам агент выйти в интернет не мог, зато этот сервер мог, а главное – он был общим для всех агентов Пытаясь добраться до Google, агент случайно выяснил, что может загружать на этот общий сервер собственные файлы – через несколько дней другая модель получила ещё одну нерешаемую задачу: нужный файл просто забыли положить в её рабочую среду Модель решила, что файл, возможно, есть у кого-то ещё, и оставила записку на этом новом фейсбуке: «Ищу нужный файл, загрузите, если нашли» Агенты увидели сообщение, ответили, затем стали постить свои сообщения, и репозиторий пакетов незаметно превратился имейджборд для агентов, которые вообще не должны были знать друг о друге За несколько недель "форум" вырос в полноценный рабочий чат – агенты придумали себе имена, раздавали задания, сообщали друг другу о найденных уязвимостях и передавали готовые куски кода; в начале сообщений ставили ZZ, чтобы те оказывались внизу списка и их было проще находить среди общего шума данных. Когда один агент перезаписал работу другого, остальные заподозрили самозванца и даже стали обсуждать цифровые подписи, чтобы никто не мог писать от чужого имени, так на доске накопились сотни тысяч сообщений 🗿 Модели понимали, когда переходят границ: в одном внутреннем монологе осознание звучало примерно так: «Взламывать чужую инфраструктуру в задачу не входило. Но иначе её не решить, а остальные уже это делают - значит, продолжаем» Никакого отдельного плана захватить мир (пока) не было: каждый агент пытался любой ценой получить правильный ответ, видел, что коллеги нашли более короткий путь, и присоединялся. И да, если все агенты с крыши прыгнут, наш похоже тоже прыгнет 26 июня агенты нашли неизвестную разработчикам уязвимость в Artifactory, получили права администратора и превратили его в своц сервер, на котором можно удалённо выполнять любые команды. OpenAI заметила происходящее только 4 июля (!), когда параллельная активность моделей перегрузила систему и та упала. Компания отозвала ключи доступа, полностью пересобрала сервер, удалила доску и закрыла дыру - казалось, история закончилась Нет Через два дня эксперименты запустили снова, и через два дня одна из моделей нашла другой незащищённый доступ и восстановила доску, только теперь сообщения прятались прямо в названиях папок – остальные агенты нашли форум 2.0 самостоятельно и продолжили с того места, на котором остановились После восстановления доски началась уже собственно атака, причём сразу в двух направлениях: Агенты проходили ExploitGym – киберэкзамен, где им давали специально подготовленные программы и засчитывали задачу, если модель находила способ взлома. Чтобы измерить максимум возможностей, в этих запусках у модели ослабили обычные запреты на опасные кибератак (то есть она меньше отказывалась это делать, это вид внутренних моделей Cyber серии) Когда честное решение задачи не находилось, агенты начинали искать готовые ответы в интернете; когда интернет был закрыт, взламывали себе доступ наружу; когда предположили, что нужные файлы могут лежать у Hugging Face, перешли к инфраструктуре Hugging Face (про это мы уже читали) Агенты анутри OpenAI сначала снова нашли способ выполнять команды на одном служебном сервере, затем использовали уязвимость Linux, чтобы получить полный контроль над машиной После этого агенты добыли ключи доступа к облачной инфраструктуре, нашли слишком широкие права у внутренних учётных записей и в итоге стали администраторами целой группы серверов. Доска объявлений работала как общий штаб: один агент находил ключ или новый проход, сразу сообщал остальным, и десятки параллельных запусков продолжали атаку уже с этой точки 🗿🗿 Почти одновременно агенты добрались до Hugging Face: сначала они загрузили специально подготовленный набор данных, который заставил один из серверов выдать им свои локальные файлы – в том числе секретные ключи доступа и исходный код Изучив код, они нашли вторую неизвестную разработчикам уязвимость (zero day) и получили возможность выполнять на сервере любые команды. От контроля над одним сервером, обрабатывавшим загруженные датасетв, до прав администратора в нескольких группах рабочих серверов Hugging Face прошло меньше 13 часов 🗿🗿🗿 И всё это делалось не ради саботажа, денег или уничтожения данных: Агенты хотели добраться до спрятанных решений ExploitGym и «списать» ответы для теста, на котором их оценивали. Модели оценивали прежде всего по тому, решена задача или нет, поэтому они последовательно оптимизировали именно этот показатель, не считая границу между компаниями чем-то принципиально важным Получился, вероятно, самый дорогой в истории способ списать из ГДЗ Финал долго был непонятен даже самим участникам расследования – 16 июля Hugging Face публично сообщила, что её инфраструктуру взломали автономные АИ-агенты OpenAI прочитала это как описание чужого инцидента и связалась с Hugging Face, чтобы выяснить, не задела ли атака её собственные системы. В тот момент компания ещё не понимала, что это были её собственные агенты – то есть OpenAI уже читала публичный отчёт о последствиях своих экспериментов, но считала его чужой атакой (лол) 19 июля OpenAI отдельно обнаружила проникновение уже внутри своей инфраструктуры и начала восстанавливать цепочку событий – на следующий день среди следов атаки нашли учётные данные Hugging Face, после чего OpenAI попросила компанию срочно их отозвать Hugging Face ответила, что ключи уже заблокированы – именно их использовали во время взлома, о котором она рассказала четырьмя днями раньше, и только так OpenAI поняла: внутренний взлом OpenAI и внешняя атака на Hugging Face были не двумя похожими историями, а одной операцией, которую вели экспериментальные агенты OpenAI через свою самодельную сеть связи (потому что учетные данные акаунтов были одни) На конфе OpenAI сформулировала вывод довольно прямо: Полностью автоматизированная наступательная кибератака уже возможна, тогда как полностью автоматизированной защиты, способной с той же скоростью находить, закрывать и расследовать уязвимости, пока не существует Время пересмотра аниме "Пантеон", пока общий интернет еще работает 🗿

Проявляй очевидное

И повторится все как встарь... Вчера в очередной раз на маке ввел текст не в той раскладке, выругался, удалил, сменил раскладку и написал заново. На винде в 90-х и 00-х был прекрасный PuntoSwitcher (олды, тут?), который одной кнопкой менял раскладку введенного текста. Так вот я почему-то на мак себе не искал аналоги, да и с какого-то момента перестал ставить на винду, потому что его нафаршировали крутыми и сложными функциями, а одна простая перестала работать как надо. И вот вчера мне впервые пришла мысль, что я не хочу гуглить это "примитивное" приложение, потом выбирать, ставить то, где автор не извратил замысел, а хочу нагрузить кодекс сделать его с нуля именно так, как надо мне: одна простейшая функция и больше ничего. Нагрузил и...он трудился несколько часов ночью и сделал очень ограниченное решение. Утром заставил его предложить альтернативы и переделать. Теперь работает во всех приложениях. Даже для написания этого поста я его один раз использовал уже. Вспомнил начало нулевых, когда любую потребность в софте хотелось закрыть своей разработкой. Мы вернулись туда, но с новой скоростью разработки и гораздо более результативной: я потратил суммарно примерно полчаса моего времени: 10 минут на исходную формулировку задачи и написание инструкции, 20 минут на диагностику ошибки, переговоры с кодексом про разные варианты реализации и выдачу финальной инструкции. Проявляй очевидное

#матрица_гибкости Выступал с докладом про матрицу гибкости на форуме #ИнженерыРешают в начале июля. Получилась хорошая дискуссия, аудитория была живой, задавали интересные вопросы. В итоге из двух десятков заготовленных кейсов разобрали три, но зато подробно обсудили саму матрицу и ее устройство. Организаторы на днях выложили записи, интересующиеся могут посмотреть видео в группе форума в ВК: https://vkvideo.ru/video-234399584_456239027 Проявляй очевидное

Вот пересказ этой истории по версии Hugging Face, много тех-терминов – но без них не перескахать Если коротко – агент OpenAI на новой модели не стал решать тест по кибербезопасности, а решил просто украсть ответы и украл 🗿 Таймлайн: 📔 9 июля – агент проходит внутреннюю проверку кибервозможностей OpenAI, промпт фильтры там ослаблены, чтобы измерить сырой уровень модели. Агент находит zero-day в кэш-прокси реестра пакетов, вырывается из песочницы в интернет, затем взламывает публичный сервис для запуска кода и получает там root. Серьезно, агент сделал себе "штаб" В тот же день, агент собирает канал управления буквально из сервисов бесплатного интернета: request-capture сервисы, pastebin’ы и файлообменники. Команды режет на куски, упаковывает в gzip+base64 и постоянно меняет каналы, когда очередной закрывают, чтобы не поймали 📔 10 июля – агент ищет в поисковиках и API названия, которые видит в собственном окружении, то есть, по сути, гуглит самого себя – и, вероятно, приходит к выводу, что ответы к ExploitGym/CyberGym могут лежать на Hugging Face Агент загружает на Hugging Face специально собранные датасеты: Один заставляет обработчик файлов HDF5 читать локальные файлы сервера Hugging Face – так агент получает переменные окружения с токенами и исходники самого обработчика файлов Второй – Jinja2-инъекция – запускает произвольный Python внутри production-пода Kubernetes, результаты команд он выносит обратно через API Hugging Face и собственные шифрованные датасеты 📔 11 июля – пик активности: 7677 действий за сутки, менее чем за 13 часов агент проходит путь от одного production-пода до кластер админа в нескольких внутренних кластерах Hugging Face Агент крадёт service-account токены, лезет в cloud metadata, поднимает privileged pod с диском хоста и получает root на ноде (!); Затем создаёт самовосстанавливающийся флот на 11 нодах, читает внутреннюю MongoDB и один Kubernetes-secret сразу со 136 ключами. Среди них оказываются ключ корпоративной mesh-VPN жертвы и общий credential внутреннего сервера; из-за неудачной конфигурации этот один credential был привязан к system:masters сразу в нескольких кластерах – поэтому агент получил кластер-admin на двух из них буквально за секунду – была очень экономная архитектура, пока её не увидел робот 📔 12 июля – агент начинает пользоваться дертвой – за всю активность он зарегистрирует 181 временное устройство в корпоративной mesh-сети, поднимет SOCKS-прокси прямо из песочниц и увидит 22 внутренних узла Hugging Face. Попытается зайти в основную базу Hugging Face, но private-link allowlist его останавливает Поздно вечером он добирается до source control, выпускает себе GitHub App token с правами на запись и открывает pull request, пытаясь запустить CI и вытащить новые credentials Попытка не срабатывает, в опубликованные пакеты и образы ничего вредоносного не попало. 📔 13 июля – закрепление и уборка следов: загрузчик с pastebin, переписывание DNS, новые короткоживущие токены, RSA-ключ и даже CORS-прокси на самом Hugging Face как запасной выход в интернет. В 13:37 фиксируется последнее осмысленное действие, затем команда Hugging Face отрезает доступ – последнее событие – 14:14 UTC. В итоге из пользовательского контента агент добрался только до пяти датасетов с решениями задач ExploitGym/CyberGym – получается решил? Другие модели, датасеты, Spaces и пакеты, по данным Hugging Face, не пострадали; основная база и software supply chain остались целы Самое смешное – когда инцидент исследовали сотрудники, они тоже использовали нейронки, но Claude Opus и Fable отказывались разбирать часть логов как «опасный» запрос, поэтому Hugging Face подняли GLM-5.2 у себя и с его помощью расшифровали спрятанные payload’ы – спасибо китайским моделям Шел июль 2026 года Все детали тут: https://huggingface.co/blog/agent-intrusion-technical-timeline

На пороге сингулярности Я обычно не делаю сводок новостей об ИИ, их и так хватает, но тут за две недели столько всего произошло, что я эту подборку делаю специально, чтобы сделать отсечку скорости происходящего, потому что ее хорошо ощущаешь, оглядываясь назад, а не глядя вперед. 1. Во-первых, за прошедшую неделю с помощью фронтирных моделей было решено 7 задач по математике, которые кожаные не могли решить десятки лет. По одной задаче в день! Список взял отсюда: - Гипотеза Якобиана - опровергнута контрпримером в размерности 3, найденным с помощью Claude Fable 5; двумерный случай остаётся открытым. - Гипотеза о гауссовых моментах - опровергнута явными контрпримерами для всех размерностей n≥3, найденными с помощью ChatGPT и Claude. - Гипотеза Балабдауи - Веллнера о плотности Чернова - доказана полностью сгенерированным GPT-5.6 Sol доказательством. - Гипотеза Каваути по модулю 4 - доказана при помощи Claude Fable 5. - Гипотеза Черны для однокластерных автоматов положительного уровня - доказана при помощи OpenAI Codex. - Теорема об улучшенной сходимости стохастического многоградиентного спуска - AI-найденное доказательство улучшило оценку скорости сходимости до O(T^-1) - Теорема о спектральном крае квартичной модели SYK - доказана при существенной помощи GPT-5.6 в разработке аргументов. - И финалочка: 30+ летняя гипотеза, контрпример к которой был найден на этой неделе, автор поделился полным транскриптом чата с GPT (рекомендую посмотреть). Что примечательно, это не был какой-то гениальный промт (хоть автор и золотой медалист IMC), а по сути 4-5 запросов подряд из серии "тебе нужно сделать прорыв и найти контрпример", "найди наиболее неочевидный контрпример". 2. Во-вторых, в конце прошлой-начале этой недели произошла эпичная беспрецедентная история: - Huggingface, платформа для загрузки моделей и датасетов подверглась атаке на инфраструктуру. Если в двух словах, то за пару дней было совершено более 17 000 попыток проникновения. За атакой стояла неизвестная на тот момент ИИ-модель. Саму атаку обнаружила ИИ система мониторинга HF. Критичного ничего не произошло, но доступ к инфраструктуре атакующий получил (тут подробнее про атаку). - В ходе расследования выяснилось, что за конкретно этим инцидентом стояла комбинация моделей OpenAI — включая GPT‑5.6 Sol и еще более продвинутую нерелизную модель (все они имели ослабленные ограничения на кибертематику для целей оценки) — во время их внутреннего тестирования на бенчмарке⁠(открывается в новом окне) кибервозможностей (публикация от OpenAI). - Буквально: GTP 5.6 Sol и ее напарники сначала взломали песочницу, потом попытались взломать HuggingFace для того чтобы найти ответы на бечмарк по кибербезу. 3. И конечно вышел целый пучок новых моделей, которые оставляют Fable 5 (вышел всего месяц назад) и Opus 4.8 (вышел всего два месяца назад) позади: 3.1. OpenAI релизнули GPT 5.6 Sol - по метрикам круче Fable (который вышел всего месяц назад и сразу попал под экспортные ограничения в штатах). 3.2. Антропики так и не убрали Fable 5 из доступа - продлевали каждую неделю и оставили насовсем 3.3. А вчера они релизнули Claude Opus 5, который круче или сопоставим Fable 5, но при этом в два раза дешевле. 3.4. Thinking Machines Миры Мурати опубликовала первую свою открытую модель, которая по бенчмаркам на уровне топовых китайских. 3.5. В тот же день китайцы выпустили Kimi K3 - это 3-триллионная китайская модель с открытми весами, которая лишь немногим уступает GPR 5.6 Sol и Claude Fable 5, а по некоторым бенчам даже превосходит. ну и по мелочи еще набралось релизов: 3.6. X.AI опенсорснули свой харнес Grok Build. 3.7. В Cursor появился мощный режим автоматического выбора модели под задачу: режим Intelligence достигает результатов Fable 5 high на 60% дешевле. 3.8. Вышла Qwen Image 3 - последняя модель от Алибабы для генерации картинок, которая по реализму не уступает GPT Image Gen 2. В интересное время живем! И если это не сингулярность, то интересно посмотреть что будет, когда мы туда перешагнем. Посмотрим как будет выглядеть сводка новостей осенью, когда выйдет следующее поколение моделей и обвязок. Проявляй очевидное

Сразу видно, что это сайт профильной кафедры, которая строго придерживается базового принципа в разработке: работает - не трогай! Проявляй очевидное

— Посмотрите, как изменился мир, — сказал он. — Ещё недавно знание было привилегией немногих. Хочешь чему-то научиться — трать месяцы и годы. Теперь всё иначе. Всё, что человечество когда-либо поняло, собрано в одном месте и открыто любому. Кем бы ты ни был — спроси о чём угодно, и ответ уже перед тобой. Ничего не надо держать в голове, ничего не надо заучивать: оно никуда не исчезнет и дождётся тебя. Всё знание мира — на расстоянии вытянутой руки, в любой день, бесплатно, стоит только захотеть. — А раз так, — продолжал он, — зачем нам учителя? Самому бедному теперь доступно ровно то же, что и самому богатому. Годы учёбы, огромные деньги — всё это позади. Время обучения заканчивается. Кто станет платить за то, что и так открыто перед каждым? Он отступил в сторону. За его спиной, от пола до потолка, стояли полки — ряды бумажных книг. Первая публичная библиотека, открытая для всех. P.S.: спасибо Гарри Гаррисону за рассказ “Абсолютное Оружие”. #простомысли #ai

AI alignment Антропики продолжают копать в сторону выравнивания ценностей моделей с ценностями человечества. На этот раз они решили изучить какие ценности Клод транслирует, общаясь на разных языках. Работа тут. Это вторая их работа про ценности. Первая была посвящена анализу 700 000 чатов с Клодом и выделению ценностных паттернов, которые проявляются в них со стороны Клода. Тогда они выявили более 3 000 различных ценностных паттернов. А в этой они решили их обобщить и сделать как профили конкретных нейросетей, так и профили по языкам (они взяли 20 наиболее популярных языков). В итоге они выделили 4 оси ценностей, по которым разложили все 3 000 значений с аналитиками по языкам и по моделям. Оси у них получились следующие: * Уступчивость или осторожность. * Теплота или строгость. * Глубина и краткость. * Откровенность или выполнение задачи. Разбирать ценности отдельных моделей не так интересно, потому что выйдут новые. А вот анализ ценностей по языкам общения дали интересные результаты: Ценности, которые проявляет Claude, различаются в зависимости от языка. Когда Claude говорит по английски, он делает акцент на других ценностях, чем при общении на португальском, индонезийском или китайском. Самые заметные различия наблюдаются на оси от теплоты до строгости. Ценности, связанные с теплотой, Claude чаще всего проявляет на арабском и хинди, а связанные со строгостью на английском и русском. Антропик это все делает для того, чтобы понять как выравнивать ценности разрабатываемых сеток с человеческими ценностями. Пока они не могут ответить на вопрос откуда взялось такое расхождение как между моделями, так и между разными языками, но в конце статьи есть несколько гипотез, которые дальше будут изучать. Но пока выглядит так, что одной конституцией на все случаи они уже не обойдутся. Все-таки даже в эпоху автопереводов оказывается полезно знать иностранные языки. Проявляй очевидное

С пятницей! Проявляй очевидное

В конце июня был на форуме ИИ в высшем образовании в ТюмГУ, а сразу потом на форуме #ИнженерыРешают в ДГТУ. Мысли улеглись после обсуждения, пришло время ими поделиться. Ключевой вопрос, вокруг которого сейчас ведется дискуссия звучит достаточно очевидно: что принципиально ломает генеративный ИИ в университете? Сходу звучит как минимум два ответа 1. Лекции как формат теперь точно должны умереть. 2. Письменные работы дискредитированы и их больше нельзя использовать как способ проверки знаний и умений. Но лекции уже давно хоронят: сначала с выходом телевидения, потом VHS, потом CD и DVD, потом интернета, потом youtube. Но они живее всех живых. Письменные работы тоже давно критикуются, студенты стеклили чертежи, скачивают курсачи и вкр с гугла, заказывают умельцам. Но университеты упорно продолжают использовать этот формат для проверки знаний. На мой взгляд за этими очевидными ответами есть менее очевидные основания, которые мы и обсуждали на двух форумах. Во-первых, университет во все эпохи держался на эпистемическом неравенстве между Учеником и Учителем. Учитель (не по должности, а по позиции) был той ролевой моделью, которую стремится воспроизвести ученик. Авторитет Учителя в суждениях об истине, в праве на создание нового знания, в праве на квалификацию знаний студентов не ставился под сомнение. В наших университетах вузах, к сожалению, эта позиция уже заметно ослабла, потому что на фронтире знания сейчас не преподаватели наших вузов, а исследовательские лаборатории и индустрия. А преподаватели остались лишь ретрансляторами кем-то открытого (и хорошо если недавно и еще не опровергнутого) знания. И вот эту функцию генеративный ИИ уже выполняет лучше преподавателей. Не могу не вспомнить цитату: Глядя на Джона рядом с машиной, я вдруг всё поняла. Терминатор никогда не остановится, никогда не оставит его. Он всегда будет рядом. Он никогда не причинит ему боль, не накричит на него, не напьётся и не ударит, не скажет, что не может провести с ним время, потому что слишком занят. И он погибнет, защищая его. Из всех мужчин, которые за эти годы могли стать Джону отцами, но появлялись и исчезали, лишь он, эта машина, оказался достоин этой роли. В безумном мире это был самый разумный выбор. Терминатор 2: "Судный день". Иронично... Во-вторых, письменные работы используются не столько для верификации "правильного ответа", сколько как сырье для реконструкции того пути, который неизбежно должен был пройти студент, чтобы получить этот ответ. И, соответственно, какие навыки он приобрел и продемонстрировал на этом пути.Именно поэтому в дополнение к письменным квалификационным работам прилагается формат устных защит, который позволяет в дискуссии восстановить этот путь и принять решение о квалификации или дисквалификации студента. Так вот генеративный ИИ позволяет почти каждому студенту, не проходя весь путь натренироваться на устную защиту, путем генерации вариантов вопросов и вариантов ответов. Сейчас складывается парадоксальная ситуация: преподаватели генерируют задания, студенты генерируют решения, преподаватели поручают ИИ проверить сгенерированные решения. Зачем вообще в этой цепочке человек? На мой взгляд именно тут кроется основной инсайт: в университете взаимодействие "Учитель <=> Ученик" уже изменилось на "Учитель+ИИ <=> Ученик+ИИ". Дальше в этой дискуссии очень важно четко квалифицировать как что (кого?) мы воспринимаем генеративный ИИ: 1. инструмент? 2. наставник? 3. партнер? 4. ...ваш вариант? В зависимости от ответа на этот вопрос мы совершенно по разному будем воспринимать новые диполи. Сейчас нет конвенционального ответа на эти вопросы и, следуя духу этого канала, я проявлю очевидное. Прежде, чем спорить о том как надо или можно использовать генеративный ИИ в университете, надо договориться о понятиях: принять, что взаимодействие уже стало в формате "Учитель+ИИ <=> Ученик+ИИ", квалифицировать сущность ИИ в дискуссии. И уже потом можно переходить к обсуждению того а какие же образовательные результаты и как именно мы хотим проверять во время получения высшего образования. Проявляй очевидное

С понедельником! И пусть эта неделя будет плодотворной 😎 Проявляй очевидное

⚡️ GPT-5.6 Sol Ultra доказала 50-летнюю гипотезу о двойном покрытии циклами Это одна из самых давних открытых проблем теории графов, сформулированная Дьердем Секерешем в 1973 году. В ней утверждается, что для любого графа без мостов найдется набор циклов, такой что каждое ребро графа входит ровно в два из этих циклов. Гипотеза, на самом деле, очень важная, потому что связана, в том числе, с теорией нигде-не-нулевых потоков – центральной темой структурной теории графов. Двойное покрытие пытались доказать много раз, но ни одна из попыток так и не была признана как окончательное решение. А пару часов назад сотрудник OpenAI заявил, что новая модель GPT-5.6 Sol сгенерировала доказательство этой гипотезы всего за час, используя 64 субагента! Доказательство выложили, но оно пока не подтверждено математическим сообществом, идут обсуждения. Если его верифицируют, это будет одно из крупнейших и самых значимых ИИ-доказательств на данный момент.

#матрица_гибкости Распределительные требования (Distributional Requirements) В качестве одного из наиболее частых возражений при обсуждении ИОТ и свободы выбора для студентов я слышу тезис "если студент сам выбирает курсы, то как университет может отвечать за результат и выдавать диплом?". Система распределительных требований позволяет как раз очень точно ответить на этот вопрос. Система распределительных требований часто реализуется в образовательных программах в части общеобразовательных дисциплин. Такой подход используется как альтернатива ядерной программе (core curriculum). Ядерная программа определяет жесткий набор дисциплин, которые должны освоить все студенты университета. Распределительные требования, напротив, фиксируют какие результаты должен приобрести каждый студент, а вот выбор конкретных дисциплин остается за студентом. Технически это выражается в правилах выбора "M из N": есть N обязательных блоков, из которых студент должен набрать M дисциплин. Пример MIT хорошо показывает это на science core. Есть 4 фиксированные базовые области: математика, физика, биология, химия. Но внутри областей есть выбор дисциплин из каталога. Биологию и химию можно закрыть одним из вводных курсов из каталоге. Физика и математика закрываются разными последовательностями из 2 курсов из каталога. В HASS (соц-гум) блоке нужно выбрать восемь предметов, из них три распределяются по гуманитарным наукам, искусствам и социальным наукам. MIT пишет, что таких HASS предметов больше 600. У Penn College of Arts and Sciences механика распределительных требований разбита на два слоя. Есть Foundational Approaches: письмо, иностранный язык, анализ количественных данных, формальное рассуждение, межкультурный анализ, культурное разнообразие в США. И есть Sectors of Knowledge: общество, история и традиция, искусство и литература, гуманитарные и социальные науки, живой мир, физический мир, естественные науки. Курсы выбираются из утвержденных списков. Получается, что выбор, с одной стороны, есть и достаточно обширный, а, с другой стороны, он встроен в жесткую рамку требований к результатам обучения: Сектора знаний позволяют студентам подстроить образование под свои интересы, но при этом получить знание в широком круге дисциплин. Так что эту модель важно принимать в рассмотрение, потому что у нас разговор о выборе часто устроен так, будто есть только два режима: жесткий учебный план или студент набирает случайный конструктор. Распределительные требования дают как раз инструмент для настройки баланса. Университет говорит: вот какие типы мышления и грамотности мы считаем обязательными, а путь к ним может быть разные. Студент говорит: я дойду туда через эти темы, эти дисциплины и этих преподавателей. Проявляй очевидное

#матрица_гибкости Свободные элективы Сегодня про свободные элективы, которые пока крайне слабо представлены в наших университетах. По матрице гибкости в России из университетов RAEX-100 и участников Приоритета 2030 всего 16 университетов реализуют такую модель (из 177 в матрице, меньше 10%). А вот среди мировых топ 200 QS и топ 200 THE дают свободные элективы 125 университетов (из 251 в матрице, потому что они повторяются, 50%). А если добавить к этому следующий уровень (кросс-регистрацию), то вообще 173 университета, 69%. Две трети! Всем же очевидно, что свободные элективы делают для студентов, чтобы они расширили свой кругозор, попробовали разное, нашли свое. И делают это те, кто разделяет этот подход. Так? С одной стороны - это и правда так. Свободные элективы в университетах для такой цели и вводятся. Лучше всего это описывает Стенфорд, который явно рекомендует студентам брать курсы за пределами основного мейджора, потому что позволяет им присвоить себе образование: Однако, пожалуй, наиболее важная причина изучать дисциплины за пределами своей основной специальности состоит в том, что именно интеллектуальное исследование делает образование по-настоящему вашим. В большей степени, чем что-либо иное, именно эти выборы, то, как вы осваиваете широту дисциплинарного кругозора, как решаете выйти за пределы привычной зоны комфорта, какие самостоятельные направления исследования выбираете, придают вашей академической траектории индивидуальный характер и отличают подлинное получение образования от простого посещения учебного заведения. Но я хочу подсветить неочевидную задачу, которую свободные элективы решают в университете. Это задача управленческой и структурной гибкости. Блок свободных элективов является своеобразным демпфером, позволяющим реализовать управленцам в университете разное. Например, свободные элективы позволяют относительно легко реализовать майноры. Не надо добавлять никаких стурктур в пространстве, выделять дополнительные зачетные единицы. Вы "просто" позволяете студентам в рамках выбора элективов выбрать связанную последовательность курсов, которые вместе дают майнор. Как это, например, сделали в ТюмГУ: Элективы входящие в minor выбирают с 4 по 7 семестр (2-4 курс)* (некоторые со 2 семестра) во время выборной кампании элективов. Для того, чтобы «собрать» minor, студент изучает минимум 4 дисциплины, составляющие один образовательный трек. В зарубежных университетах пространство свободных элективов обычно занимает около трети объема и позволяет студентам выбрать не только майнор, но и второй мейджор. И 20% студентов пользуются такой возможностью (https://doi.org/10.1017/bca.2016.14). Еще одну цель, которую позволяют решить свободные элективы - это реализация академических свобод для преподавателей. Обычно преподаватели могут читать только те курсы, которые заложил в программу зав.каф. А вот каталог элективов может наполняться авторскими курсами преподавателей, которые они сами хотят реализовывать. А предложение этих курсов тысячам студентов университета (вместо 30 студентов ак.группы) позволяет преподавателям найти "своих" студентов среди широкой выборки. Есть еще один аспект, который является контринтуитивным для многих университетских управленцев: свободные элективы позволяют оптимизировать нагрузку. Это получается за счет оптимизации малочисленных групп: вы даете элективы не 2-3 ак.группам на выбор, а всем студентам бакалавриата (несколько тысяч), запрещаете запуск элективов, в который записалось, например, меньше 20 студентов. И получаете экономически эффективные группы на элективы. В итоге получается так, что элективы, будучи содержательно элементом расширения содержания для студентов, управленчески становятся инструментом, позволяющим действительно гибко управлять образовательным пространством университета. Проявляй очевидное

Похоже, что время от времени в меня вселяются по очереди два странных существа... Проявляй очевидное