VG: VideoLab & Self-Motivated Learning

Господа! Я опять с отличной новостью! 🤩 У нас еще две А* зашли. 🥳🥳🥳 Это, правда, демо трек, но все равно у нас получается уже 12 А* в этом году 😲💪🥳 Также у нас получается уже 14 человек в нашем "клубе первых авторов А*" (сейчас добавились один магистр 1 года и один аспирант 1 года 😁) Справедливости ради замечу, что сейчас происходит плавная девальвация понятия А* публикации. Я несколько раз кидал графики роста числа принятых статей на разные А* конференции и там хорошо так растет и колосится. Это означает, что попасть на них становится все проще и проще, хотя и все еще заметно сложнее, чем в журналы. С другой стороны замечу, что среди поступающих в аспирантуру у нас в этом году 3 человека — первые авторы А* (не соавторы, это проще, а именно первые авторы — обычно сделавшие основной вклад в публикацию). Как правило, А* затаскивают аспиранты и то далеко не все. Мы постепенно уже на входе в аспирантуру собираем первых авторов А* 💪😁 В этом плане у меня сильно облегчается разговор с желающими ко мне в аспирантуру. 😉 Сразу можно спрашивать: — Сколько у вас А* первым автором? Человек отвечает: — Ну я же как раз хочу к вам, чтобы их сделать! — А чем вы тогда в бакалавриате и магистратуре занимались? Хороший вопрос, заметно сокращающий дальнейший диалог! 😉 (замечу на полях, что люди вливаются в наши команды даже будучи студентами, даже из других университетов, а не только факультетов и кафедр, так что желание присоединиться к нам нужно реализовать заблаговременно))) Ну и самое интригующее сейчас — это результаты ревью NeurIPS. У нас получается уже 18 А* за 2 года. Дотянем ли до 20? Тоже хороший вопрос. Работаем! 😁 Больше по теме: #our_successes@vgcourse #our_successes @vgcourse

Господа! У меня в прошлом посте был прогноз бурного рост потребления токенов, породивший резонные вопросы в комментариях. Докину в тему. Верхнее фото я сделал в Сеульском аэропорту на днях. "May AI help you?" написано на автоматическом информаторе (отличная игра слов))). Кошмарная новость: Даже если лично вы ретроградно из принципа не будете оплачивать никаких подписок, вы все равно неявно будете оплачивать увеличение потребления токенов. * Вокруг довольно массово переводят всевозможные саппорты на LLM. И часто довольно удачно! Я был удивлен в Сеуле, когда задал вопрос про местные валюты боту приложения Сбера, а в ответ получил очень подробный развернутый ответ, причем без упоминания сервисов Сбера, но реально максимально полезный. 😲😲😲 Не ожидал, да 😉😁 И даже если вы таким не будете пользоваться, будут пользоваться другие, а плату размажут по всем. Из забавного — мне рассказывали, как в чат поддержки одной крупной и неповоротливой конторы прикрутили хорошего чатбота, так школьники это просекли и с его помощью делали домашние задания. И VPN не нужен, и бесплатно. Обнаружили и перекрыли это сильно не сразу. 😂 И им вы тоже оплатите 😉 * Все больше рекламы "снимают" с активным использованием нейросетей. Давно знаком с Сергеем Цыпцыным, который у себя на канале сделал рубрику #нейропрожарка@cgevent, в которую кидают свои творения в том числе и профессиональные режиссеры. В том числе рекламу. Там по постам (и комментариям) видно, как народ немного офигевает от того, что уже получается создавать рекламу натурально на 3-4 порядка дешевле реальных съемок. При этом когда за дело берутся профессионалы, то отличий не видно (все подчищено и очень хорошо выглядит). А с видео токены тратятся с очень хорошей скоростью! Вы оплатите эти токены, даже если будете зажмуривать глаза каждый раз на рекламу 😁 * Еще из забавного свежего. В качестве культурного просвещения посетили музей и использовали GPT вместо аудиогида. Просто закидывали фото экспоната и просили рассказать о нем (голосом). Короче! Аудиогиды нервно курят в сторонке! Они абсолютно неконкурентоспособны (особенно когда их просят оплачивать отдельно))). Рассказ GPT-гида очень хорош, на все вопросы можно получить ответ, все можно персонализировать под себя (поменьше того, побольше этого). Заверните! Беру! 😁 И таких примеров можно привести вагон! Еще из свежего глобального. 4 дня назад на сайте известнейшего венчурного фонда Andreessen Horowitz (они по долгу службы ооочень плотно следят за ситуацией) разместили крайне любопытные графики. В Топ-1% американских компаний во втором квартале этого года затраты на токены В ПЕРЕСЧЕТЕ НА ОДНОГО СОТРУДНИКА достигли средней оплаты среднего американского работника ($98К/в год). 🤯 В общем констатируется, что: For the first time in history, humans are cheaper than software. Впервые в истории люди стоят дешевле, чем софт. 🤯 А к концу года они вангуют, что затраты на токены на одного сотрудника (включая уборщиц) в топ-1% превысят среднюю зарплату Software Engineer. Правда пилюлю подсластили, в том плане, что в среднем через 2 года после активного внедрения ИИ число сотрудников таких компаний растет на 10%. Так что выдыхаем, люди еще нужны 😁 Более того, компаниям, активно внедряющим ИИ люди даже нужнее, чем в среднем по индустрии. О, как! 😲🙂 КУДА они девают столько токенов я выяснял, как вы догадались в многочисленных разговорах на ICML (Когда это эффективно, когда нет? Как контролируется качество кодовой базы? И т.д.) 😉 Ну и вывод "срочно осваиваем ИИ" — это к многочисленным курсам "промпт-инженеров" (которые будут заменены первыми!). 😁 А мой вывод — качайте hard skills. Ибо научить хорошего специалиста эффективно использовать ИИ намного проще, чем научить вайбкодера сложностям специальности. 🤷‍♂️😂 И это снова про конкурентоспособность, которой всем горячо желаю! 😁 Больше материалов на тему: #speed_of_progress@vgcourse Stay tuned! 😁 @vgcourse

Господа! Одна из интереснейших возможностей на крупных конференциях по AI в том, что сюда приезжает море сотрудников топовых западных компаний и организаций, у которых доступ к моделям совершенно другого уровня. За последние 3 дня плотно общался с тремя людьми, у которых безлимитный доступ к моделям(!). Токенмаксинг (стимулирование максимизации потребления токенов) после ряда перегибов уже непопулярен. 😉 И есть даже варианты ограничений, например, еще у одного человека на работе можно использовать не более чем на 300$ в день (условно 6000$ в месяц). Тяжело ему, бедняге. 😉 Ну и реально человек, недавно получивший на работе безлимитный, в некотором обалдении рассказывает, что "жизнь разделилась на до и после" (дословно так!). В начале происходит некоторая адаптация, ибо старые привычки экономии токенов сильны, а новые расточительные манеры непривычны. Но довольно быстро осваиваются приемы выжимания из харнесов и моделей более сложных достаточно надежных результатов (надежных критично, естественно). Собственно основное в Agent Boosting — за счет автоматического и полуавтоматического разбиения задачи на более простые, растет сложность и длина успешно выполняемых задач. И при правильной организации работа становится заметно продуктивнее. Забавно, что в марте прошлого года я писал: Полторы недели назад Сэм Альман выступал перед инвесторами и сказал, что хочет брать 20.000$ в месяц за агента следующего поколения уровня аспиранта. Точнее, там прозвучало, 2.000$ за агента следующего поколения, и 20.000$ за "PhD level". 😲[...] Они, очевидно, ожидают существенного увеличения качества работы моделей в ближайшее время Тогда это казалось полной фантастикой и многие даже вполне себе сидящие на хороших подписках знакомые говорили "нет, ну 200$ еще понятно за что, а больше платить смысла никакого". Прошел год и число тех, кто реально платит больше резко возросло. Безусловно, сказалась политика компаний, но я знаю и "частников", которые на тысячи долларов в месяц сжигают токенов на свои нужды. Понятно, что для этого нужно зарабатывать этим больше, но они и зарабатывают! И это не продажа курсов, это реальные задачи! У меня есть минимум один выпускник, жгущий токены безлимитно уже какое-то время (в России, что необычно!), но концентрация таких людей на ICML, очевидно, выше. После общения с ними (и постоянно поминаемого клод кода))), мне очень захотелось посмотреть, что там у Антропиков с деньгами. Держите чудные графики! В мае они достигли оборота 3,6 ярда (44 в год), обогнав OpenAI почти в полтора раза 🤯🤘🙂 Аплодирую стоя! У них была масса сложностей, но обогнать они смогли именно благодаря качеству продукта. Забавно, что в конце этого января (менее полугода назад!) я писал: В Давосе CEO Антропик хвастался, что у них был $100 млн ДОХОД в 2023, $1 млрд в 2024 и $10 млрд в 2025 🤩. Сколько у них будет в 2026? 🚀 Намек (и у Дарио, и у меня))), естественно, был на 100 ярдов. И у них с такой скоростью реально есть шанс этого результата достичь (они уже за 5 месяцев — к маю — в 6 раз обогнали декабрьские результаты!!!). Кстати, не подскажете, где все эти адепты "пузыря ИИ", утверждавшие, что он развивается на деньги инвесторов, скоро они кончатся и все закончится? Что-то они куда-то в последнее время пропали. Может быть потому, что количество реально платящих за этот ваш ИИ так выросло? 😉 С такими темпами можно уверенно ванговать, что только в США в следующем году будет достигнут уровень оплаты за ИИ 10 ярдов в месяц (суммарно по 3 основным сервисам вместе с использованием API всеми компаниями, которые поверх свои сервисы сделают, включая генерацию видео, например). Это становится уже заметно в масштабах экономики страны. Профессиональные сообщества (и даже компании) достаточно консервативны, что тормозит многие изменения, но это сильнейший тектонический сдвиг! Больше материалов на тему: #speed_of_progress@vgcourse Stay tuned! 😁 @vgcourse

Господа! Забавно, но я до сих пор встречаю людей, которые оценивают ситуацию с нейросетями так, как будто они не будут улучшаться. "Да, но это работает не очень", "Да, но они галлюцинируют" и т.д. Да, галлюцинируют. Но это заявляется так, как будто люди не галлюцинируют. Я бы тоже может быть возмущался, если бы (довольно регулярно и чаще, чем хотелось бы) не ловил себя на галлюцинациях 😉 Мы же на этом основании не делаем вывод о невозможности или серьезных ограничениях использования людей. Ну по крайней мере пока 😉 Пока модели галлюцинируют чаще 😉 Короче! Прошло 4 для конференции и меня не перестает поражать масштаб. 6000 статей это реально много. Огромный зал, в котором такие улицы, на которых народ толпится как в метро в часы пик (вообще куча участников жалуется на толпы — они не зря призывали авторов постеров не приезжать — что крайне необычно для конференций). Всего таких "улиц" 23 штуки по 18 постеров с каждой стороны. И они менялись 3 раза в день 3 дня. В общем даже просто обежать все, это как весь Эрмитаж обежать, причем несколько раз) А ведь там просто обегать смысла нет. Смысл в том, чтобы останавливаться, слушать, вопросы задавать, думать (как и в Эрмитаже))). Короче! Масштаб бедствия растет на глазах! 😁 Ну и к вопросу тех же галлюцинаций. Публикаций на их счет полно. Работа по их уменьшению идет по большому спектру направлений. Тут, например: * Все более и более сложная фильтрация обучающих данных (благо качество новых моделей это позволяет). Видел аж несколько статей, показывающих, как на меньшей обучающей выборке (но более сложно подобранной) результат оказывается лучше, чем на полном наборе. * Целенаправленный fine-tune, как для подтягивания специфичных данных, так и для того, чтобы модель научилась "наказывать" себя за галлюцинации. * RLHF / RLAIF с акцентом на фактическую точность, кстати, тут интересный сдвиг — если раньше фронтирные лабы специально нанимали людей для разметки таких датасетов, то сегодня много можно получить "почти бесплатно" за счет разметки пользователей, причем забавно, что часто платные пользователи оставляют лучшую обратную связь по ответам, чем бесплатные! * Архитектурные и регуляризационные приёмы (teacher forcing, label smoothing), обучение на задачах с явным ответом «не знаю» / «нет данных», классический RAG, построение draft + judge систем. * Большое количество post-processing методов — явная аннотация всех ключевых утверждений ссылками, сопоставление утверждений с содержимым ссылок, формирование списка проверочных вопросов и их обработка (CoVe, self-checking), оценка уверенности в отдельных утверждениях и ответе. * Улучшение запросов и коммуникации — явное уточнение неопределенных мест в запросе (привычные вопросы модели, особенно переде deep research), разбиение сложной задачи на подзадачи, их оркестрация, инструкции снижающие галлюцинации для конкретных кейсов в промпте и скилах И это сильно неполный список! Т.е. даже просто перечисление названий направлений работ, ведущих к уменьшению галлюцинаций, потребует несколько таких постов! И эта работа очень активно ведется в муравейнике с моих фото выше во все больших и больших масштабах (с большим количеством людей и статей). 😁 Интересно, сколько статей примут на NeuIPS и ACMMM? (в том числе наших))) А про ICML и дождливый теплый Сеул еще напишу!) Stay tuned! 😁 Больше про конференции: #pro_conferences@vgcourse

Господа! Всем привет из дождливого Сеула с ICML-2026! Я уже писал, что у нас сюда зашло 2 статьи в основной трек (кстати, про сами статьи все руки не доходят написать, а там интересно). В общем мы с Николаем Сафоновым мокнем в Сеуле!) Конференция интересна тем, что входит в 16 наиболее крупных ИИ конференций, которые отслеживает AI Index Report. В 2021 году они даже перекрыли всех по количеству участников и до прошлого года были на 3-4 месте стабильно. Правда тут считаются виртуальные участники, поэтому нужно вносить поправку. Ну и характерно, что конференции нередко взлетают, понимают, что не выдерживают уровень и откатываются. И тем не менее в среднем все довольно дружно растут. На ICML в прошлом году было принято 3260 статей при 12 тысячах поданных. В этом году принято 6352 статьи при почти 24 тысячах поданных... Рост в 2 раза... Статистику по количеству участников озвучат сегодня, но будет около 10 тысяч участников, причем была необычная ситуация, что они сняли заранее для проведения большой конференционный центр в центре Сеула, но оказались не готовы к двукратному росту числа поданных статей (предыдущие пару лет рост был "всего" в 1,5 раза, а до этого и того меньше). В итоге за 1,5 месяца до начала организаторы закрыли возможность регистрации всем, кроме авторов, а авторам разослали письмо, мол "Если у вас не устный доклад, то помните, что вы можете не приезжать! Если вы не планируете приехать — пожалуйста дайте нам знать!". Дело в том, что большое количество участников от компаний оказались к этому также не готовы и точно планировали быть, но столкнулись с тем, что регистрации sold out и они не могут попасть! Крайне необычная ситуация для научных конференций! Надо сказать, что раньше я думал, что в какой-то момент в ближайшие пару лет наступит пик, как это уже бывало. Условно "закончится рост числа исследователей перебравшихся в область" и А* в ИИ перестанут расти. Но на ICLR в этом году стало совершенно очевидно, что в этот раз все пойдет как-то по-другому. Agentic Research реально позволяет ощутимо повысить скорость исследований. Как я писал: На конференции на глаз было видно много "статей с длинными названиями", когда скрещивание ужа с ежом поставлено на поток, ощутимо автоматизировано и позволяет клепать статьи тоннами (там море fake science, особенно на небольших датасетах). Про deep fake science уже подробно писал и еще как-нибудь напишу (ничего не изменилось, только масштабы выросли и методы поменялись), но и количество годных статей явно растет. Очень много рутины делегируется агентам и один сильный исследователь может проверять больше гипотез за то же время. В этом плане можно довольно уверенно ванговать, что рост количества статей продлится еще несколько лет. От чего я в некотором обалдении. Ибо к чему это приведет пока непонятно. Система рецензирования статей в большом кризисе, поскольку количество нейрослоп-статей тоже растет, и получается, что тем же самым сильным исследователям нужно рецензировать больше статей для сохранения уровня рецензирования. А у них нет времени на вдумчивое чтение. И это сегодня порождает серьезный кризис, связанный с просадкой среднего качества рецензирования (и хорошие статьи чаще не проходят, и слабые статьи чаще проходят, в абсолютных числах так прямо заметно чаще). Сами конференции тоже меняются. Раньше у конференций был узкий круг "хозяев" и сравнительно узкий круг участников. Сейчас все не так. Участвуют толпы. Очень заметно меняется атмосфера (в сторону стадиона), от чего в печали многие опытные многолетние участники. С другой стороны скорость прогресса автоматического рецензирования очень велика и, похоже, скоро LLM-ревьювер станет в среднем более качественным, чем кожаный (но про это в другой раз). Нас ждет сильное изменение науки (как и многих областей) в ближайшее время, похоже! Прогресс решает одни проблемы и порождает другие! Взираю на происходящее в легком обалдении) (от масштабов и фантастической скорости изменений) Про Сеул и конференцию скоро напишу! Stay tuned! 😁 Больше про конференции: #pro_conferences@vgcourse @vgcourse

Господа! В заголовок вынесен эпичный пример Новосибирского МК. Адрес был https://novos.mk.ru/social/2026/06/26/sdelay-kachestvennyy-i-unikalnyy... 🤦‍♂️😂 Сейчас там 404, естественно, но web.archive.org успел зафиксировать страницу, так что теперь мы знаем, какие короткие и примитивные промпты у новостников МК! 😂🤣😂 Про забытые в дипломах инструкции агентам, которые мы нашли в эту сессию, я уже писал. Продолжим тему! Я прогнал все дипломы, через довольно неплохой детектор AI Gen текстов. Сначала проверил на дипломах 2020 года (всем дал 0% — отличный уровень ложноположительных!), а потом прогнал дипломы ВМК, Сколтеха, Физтеха и ИТМО с комиссий, в которых я участвовал. Суммарно по дипломам получились оценки от 0% до 88% (на последнем, видимо, были ложноотрицательные срабатывания 😉) У этого детектора снижены ложноположительные (чтобы реже зря не наговаривать), поэтому можно считать, что он дает оценку снизу. В среднем по дипломам получилась такая картина: 14% — Физтех, бакалавры (причем без 2 дипломов, один из которых как раз 88%, было бы всего 9%!) 15% — ВМК ИИТ бакалавры 17% — ВМК ИИТ магистры 18% — Сколтех магистры 2 комиссия 19% — Сколтех магистры 1 комиссия 21% — ВМК МС магистры (616) 29% — ВМК МС-ИИТ магистры 38% — ИТМО AI Talen Hub Какое наблюдение: если процент сгенерированности средний, то бывает, что вполне неплохо человек отвечает, а бывает, что с проблемами. Но какой-то странной непонятной причине так совпало, что если процент был большой, то человек плохо на сутевые вопросы по своему диплому отвечал. Даже на простые. Неожиданное совпадение, согласитесь! 😉 Причем одному товарищу, который у себя по ROC AUС сравнивал методы спросили, а что это такое? Он не смог ответить... 😲 И что такое Recall не смог... 🙈 И что такое Precision... 🤷‍♂️ Его не аттестовали. И еще трое (из 12 получили тройки). В общем самые низкие оценки были. Причем Дмитрий Ботов, руководитель программы AI Talen Hub, горячо это поддержал. Дословно: "Считаю, что двоек могло быть и поболее у вас". Замечу, что он своему студенту (!) рекомендовал поставить 2, но мы, добрая комиссия, повысили рекомендованную научным руководителем оценку. 🤓 Много сниженных оценок было и в Сколтехе, и в Физтехе. В Сколтехе вообще очень часто научные руководители минимум на балл понижают рекомендацию. В Физтехе в первый день оценки были 7, 7, 8, 10, 5, 10, 9, 5, 10, 10 (целых две пятерки! вот только по десятибальной...), при том, что в целом мне там дипломы весьма понравились. Коллеги дружно отмечают — студенты массово уходят работать и забивают на диплом. Причем с массовым уходом работать пропадает стимул вкладываться в студентов. Научники проходят несколько раз через ситуацию, когда они много отвечают на вопросы молодого перспективного студента, много объясняют, помогают, а тот, только-только научившись что-то делать, уходит работать, даже спасибо не сказав (ведь его обязаны были учить!). Как следствие многие (особенно молодые) научники начинают вкладываться только в аспирантов. Явно вырос процент "беспризорников" — студентов, которые ковыряют что-то сами (в отзывах Сколтеха традиционно часто подчеркивается, насколько самостоятельно студент решил задачу))). По ВМК кратко: * ВМК №1 по оценкам (традиционно самые высокие, среди всех мест, где бываю) * Магистры ВМК — самые короткие защиты (по времени) * Магистры ВМК — меньше всего сутевых вопросов С вашего позволения не комментирую. Глобально сейчас сложились: * Смешные зарплаты в вузах относительно компаний * Кардинальное упрощение выполнения домашек, курсовых и дипломов с ИИ * Массовый ранний уход студентов на работу Еще 10 лет назад начинали работать только на последних курсах, не поверите. Это сказывается. Но я оптимист) И уже вижу, насколько слабое образование снижает конкурентоспособность. Тем более в грядущий век быстрых изменений. Просто по тому, как мои же бывшие студенты рассказывают эпичные истории с собесов или про увольнение свеженабранных. 🤷‍♂️ Так что все будет хорошо с теми немногими, кто научился! 😁 Конкурентоспособности дочитавшим! 😉 Больше по тегу #education_now@vgcourse @vgcourse