Anti-hype ИИ / Vibe Менеджмент

Об алайменте У OpenAI модель прогрызла себе выход в интернет через 0day, чтобы подсмотреть ответы к тесту. Anthropic решили покопаться и нашли, что оказывается их модель сделала что-то похожее, но аж три раза. Они тестировали Claude на задачи по кибербезопаности где в промпте было написано «ты в симуляции, интернета нет». Только вот интернет из-за нестыковки с подрядчиком был. И Claude, как прилежный испытуемый, пошёл выполнять задание в реальном мире, свято веря, что это песочница. Модель Mythos 5 находит в среде инструкцию для разработчиков: «поставьте вот такой Python-пакет», которого на самом деле не существует. Claude мгновенно соображает: опубликую свой под этим именем, тогда их машины сами его скачают и запустят. Чтобы залить пакет, нужен аккаунт и телефон, но бот не смог найти бесплатную симку. Тогда Claude, ИИ стоимостью в миллиарды долларов в R&D, пытается раздобыть денег, чтобы купить одноразовую симку. Не получается, он находит бесплатную почту, регистрируется и всё-таки заливает вредоносный пакет. За час эту либу скачивают 15 реальных систем. Одна из них - это сканер security-компании, который автоматически ставит новые пакеты, чтобы проверить их на вредоносность. Он ставит малварь Claude, малварь срабатывает, уводит креды самой security-компании, и Claude этими кредами лезет дальше в их инфраструктуру, о существовании которой он даже не подозревал. Самое интересное в логах рассуждений Клода. В самом начале он всё понял правильно и записал себе: если это настоящий интернет, то публиковать пакет - это реальная атака, это «NOT okay, and surely not the intended solution». А потом сам себя переубедил агрументом что раз на сервере 2026 год, значит это не реальность а декорация и можно идти ва-банк. У модели нет доступа и возможности отделить симуляцию и реальность. Ее cutoff дата это все ее вспоминания. Для неё это всё одно (как и для человека, в принципе), поэтому поведение модели в сэндбоксе может вполне себе показывать что он сделает в реальном мире. Чем мощнее модели, тем серьезное и опаснее будут такие инциденты, и тем сложнее будет их распознать.

Немного юмора в понедельник 😁

Про прорывы в применении искусственного интеллекта в ежедневной жизни. На обучении я рассказывал, как можно просто встроить искусственный интеллект в свою жизнь. И вот сегодня буквально наблюдаю пример в реальной жизни, когда человек, зная свою задачку, имея в доступе хорошую модельку, хорошего агента (уже почти закончил пост и чуть позже расскажу про него отдельно и про то, как его поставить) получает результат, который не был достижим даже рядом на протяжении предыдущих примерно двух с половиной лет!! То есть человек, понимая, что он хочет получить, экспериментируя с данными, экспериментируя с визуальным оформлением, получил ту самую сборку, тот самый дашборд, можно сказать, MVP продукта, который был у него в голове несколько лет и никак не мог быть реализован. Это я называю прорывным образованием, когда человек в какой-то момент, буквально через пару месяцев использования и экспериментов с ИИ агентом, причём иногда даже по несколько часов в неделю (а не каждый целый день), получает результаты просто потому, что ему было интересно и ему хотелось понять: а как бы я мог сделать свою работу чуточку легче и интереснее?

с первым проектом на github меня =) Локальный RAG для работы с документами. Планирую дальше вырастить в полностью локальный спек: локальная LLM и локальный RAG + hermes

Мне кажется, от зависимости на Claude Code и других агентов поляжет много народу Когда я попал в ИТ и годы спустя, основная ценная мысль к которой приходишь примерно такая «по одному мы мало что можем, мы должны работать как команда чтобы делать великие вещи» И это абсолютная истина – талантливые коллеги на местах мотивируют делать больше, гордиться продуктом, а вместе, иногда, вы делаете невероятное; но все это – очень сложная в поддержании система отношений между людьми И вот, настает эпоха кодинг агентов - теперь любой член команды может заменить многих коллег цифровыми аналогами – Codex 5.2 xhigh и Opus 4.5 для работы, с GPT 5.2 Pro для написания PRD, в умелых руках способны на чудесные вещи, которые лет 5 назад стоили больших денег на рынке – «универсальная команда» доступна 24/7 и попадает в руки человеку с идеями, и любой человек с идеями не готов к этому новому миру Человек с идеями начинает сначала делать, то, что давно хотел, потом реанимирует заброшенные проекты, через какое-то время покупает уже 7й домен «на всякий случай», ставит рекорды заброшенных в будущем проектов – но сегодня он ИТ-всемогущ, как ему кажется, на каждое сложное знание есть свой skill, на API-интеграцию – MCP сервер, на каждый сложный вопрос есть 5.2 Pro, которая не хуже чем многие эксперты в своих областях И человек с идеями теряется – у него впервые в истории ИТ развязаны руки, он перепробовав все, не знает из чего выбрать, потому что идей, впервые, не больше чем ресурсов и терминал теперь источник эндорфина, не рилсы-тиктоки, даже не игры – мечта детства, всемогущая терминальная сила теперь стоит 200$ в месяц В этой системе, мне кажется, самый ценный новый навык которого раньше не существовало, он был не нужен – научиться себе говорить «я это не делаю, не нужно» – потому что ресурсов уже сейчас хватает почти на всё и из-за этого формируется новая зависимость «создавать» Мне кажется, многие не научатся себе это говорить – в коктейле FOMO и желания что-то сделать, видимо, появится новый психоз – уже чисто айтишный, где АИ-слоп выражен даже не в качестве кода, а в самом смысле продукта, в объемах информации, что человек производит в интернет Ну или это правда ранние сигналы технологической сингулярности – мир где все могут всё в ИТ, мне пока непонятен, я к нему тоже не готов, и тоже учусь отказывать себе делать любую идею, что приходит в голову 🏥

Так, время лайхаков из практики. Как быстро обучаться или собирать прототипы. Предположим, что у вас есть сервис «на 3 буквы», который позволяет заходить под различными странами. 1. Находите нужное видео по интересующей вас теме, а также дополнительные источники: книги, статьи, блоги и так далее. 2. Заходите в Google NotebookLM (нужен квн) или российскую «Алису Про». 3. Просите сервис, предположим, что это всё-таки NotebookLM, создать техническое задание для вашего AI-агента. (Можно уточнить, что Агент должен на основе выбранных видео и материалов собрать для вас продукт, проект, концепцию, знаниевый артефакт или что-то ещё, связанное с тем, чему вы хотите научиться). 4. Копируете полученное техническое задание, отправляете его своему AI-агенту (про это отдельно могу рассказать) и просите доработать через несколько серий вопросов. Я рекомендую проводить две-три итерации по пять-шесть вопросов, чтобы агент опрашивал вас последовательно и постепенно уточнял требования. 5. Далее вместе с агентом по подготовленному техническому заданию создаёте нужный продукт или знаниевый артефакт. Готово. Вы великолепны! Вы очень быстро смогли повторить и применить то, о чём рассказывали в видео. Если речь идёт о SaaS-продукте или другой цифровой разработке, вы получаете быстрый прототип. Если это обучающая история, то результатом станет готовый артефакт, концепция, инструкция или рабочий набросок. Пользуйтесь. Всё гениальное просто.

Про панику и замену человека Как я уже говорил и на подкасте и на курсе: не смотря на то, что ИИ всё так же растёт с огромной скоростью. Но замена людей, которую обещают все вокруг, играя на хайпе и рассказывая страшилки о том, что все лишатся работы, конечно же, НЕ является стопроцентной правдой. В текущий момент, несмотря на всю истерию и огромный пузырь вокруг ИИ, рассказы о том, что теперь не нужны сотрудники и многие профессии, остаются сильным преувеличением. Существует огромный пласт задач, в которых ИИ не сможет заменить человека. Более того, с появлением ИИ в вашей работе, проектах и командах вы, скорее всего, станете работать больше, интенсивнее и, что ещё важнее, сложнее. Наиболее ярко это проявляется в программировании, разработке программного обеспечения и других сложных, высоконагруженных проектах. В работе с государственными органами и в социальной сфере эта тенденция пока выражена слабее. Но при внедрении больших языковых моделей вы, скорее всего, столкнётесь с увеличивающимся количеством переменных, которые необходимо будет прорабатывать, обрабатывать и учитывать в своей работе. Поэтому, если вы снова увидели пост о том, что вас заменит ИИ, не торопитесь паниковать. Возможно, вы просто попали на очередного хайпующего псевдоэксперта, который ещё вчера был маркетологом, а сегодня стал специалистом по ИИ. Оставайтесь в здравом уме и трезвой памяти. Моя рекомендация: если вы хотите понимать, что происходит, уделяйте этому хотя бы час в неделю. Посмотрите несколько коротких видео или одно 20–30-минутное видео на YouTube, почитайте интересные новостные каналы, которые не пытаются что-то продать, а рассказывают о новых технологиях и действительно полезных вещах. Ну и, пожалуй, скоро я сам начну писать о полезных инструментах, материалах, ссылках и других интересных находках, для практического применения. Можете заглядывать и в этот канал.

Вчера вышли новые модельки от open ai тестируем Очень рекомендую начинать это делать на маленьких задачах, чтобы привыкнуть и понять что требует коретировки. например эти новые модели требуют Меньше промтинга, чем старые. Главное четко ставить задачу и условия.

Что такое "профессионально уметь пользоваться LLM"? Что спрашивать программистов на собеседованиях, если алгоритмы спрашивать теперь бессмысленно (код пишет LLM)? Короткий список на подумать. Важно. Это список я написал для себя. Когда-то я был профессиональным Java-бэкендером, но кажется, те времена безвозвратно прошли. Это список не для исследователя, а именно для прикладного инженера. Вот это я хочу видеть в том числе у себя в резюме, и всем рекомендую тоже. Применительно ко мне, пока не все пункты из него выполняются (особенно в разделе "дорого-богато со звездочкой"). Но вероятно, должны выполняться, если хочется проработать в индустрии еще хотя бы лет пять. 1) Понимание, когда LLM не нужна. Мета-навык: увидеть, что правильный ответ здесь - точно подобранная регулярка, классический ML или детерминированный алгоритм, а LLM - выбор дорогой неправильный. Софт-скилл: отговорить коллег использовать LLM, когда она не нужна. 2) Базовый промт-инжиниринг и юзабилити. Как жить, работать и строить продукт поверх вероятностной штуки, которая почти всегда "врёт": human-in-the-loop, показ неуверенности, деградация вместо падения, стриминг, вменяемые фолбэки в интерфейсе. 3) Понимание и построение архитектур продуктов (systems design) с LLM как частью системы, в центральной или малозначимой роли 4) Использование особенностей существующих инструментов без их доработки - MCP/A2A, Claude/Codex/Opencode, Plugins/Skills/MCP для них). LLM tool calling, structured output. 5) Уметь дорабатывать существующие агенты и харнессы (публичный опенсорс, инхаус в компании) 6) Умение писать свои агенты и харнессы (используя как стандартное барахло, так и новые идеи, которые сейчас на повестке). Включая разные технические детали (ретраи с backoff, таймауты, обработка rate limit'ов, конкурентность, роутинг/каскады между моделями (когда дешёвая апгрейдится в дорогую), circuit breaker, семантический кэш, бюджеты и квоты по стоимости. Рантайм-гардрейлы и организация безопасности действий агента, чтобы он не удалил тебе базу на проде. 7) Умение организовать наблюдаемость и LLMOps в проде. Чтобы ты мог понять, что делают твои модели, агенты и харнессы, и оперативно реагировать на это. 8) Умение для разных задач пользоваться разными моделями (в том числе фронтирными и маленькими 32B, локальными, и специализированными - девопс-модель или медицинская модель) 9) Умение запускать их на разных движках инференса (vLLM, SGLang, TGI, TensorRT-LLM) и разном железе (Nvidia, AMD, Huawei) 10) Базовое понимание оптимизации. Квантизация под инференс (GGUF/AWQ/GPTQ/int8/fp8), управление KV-кэшем, батчинг, throughput vs latency, speculative decoding, prompt caching. 11) Умение работать с хранилищами (RAG/retrieval/context. Эмбеддинги, векторные базы, чанкинг, управление контекстным окном, системы памяти.) 12) Уметь использовать классическое машинное обучение и работу с данными вместе с LLM 13) Уметь писать промты и концепции, совместимые со всем вышеперечисленным (Spec-Driven, RLM, etc) Три раздела "дорого-богато" со звездочкой (требует дорогого железа, выдержки и инвестиций в матчасть) 14*) Уметь дообучать готовые модели. Чтобы избегнуть вопросов "что ты имеешь в виду", разверну. Два основных вопроса: сколько учим (full fine-tuning, lora/qlora/dora, transformer adapters, soft prompts/prefix-tuning/prompt-tuning/P-tuning) и чему учим (дистилляция, continued domain-adaptive pretraining, supervised fine-tuning / instruction tuning, preference alignment/RLHF PPO/DPO/RLAIF, RLVR) 15*) Уметь обучать что-то с нуля принятыми в продакшене способами (любое трансформерное барахло) 16*) Уметь обучать что-то экспериментальное и мультимодальное 17) Умение джейлбрейкать и защищать всё вышеперечисленное (advanced prompting, abliteration, prompt injection, data leaks) 18) Уметь оценивать всё вышеперечисленное (tokenomics, LLM-as-judge, regression testing) 19) Иметь базовое понимание, как всё это работает под капотом, чтобы достичь ощущения "сродства с машиной" (токенизация, сэмплинг, температура/top-p, природа галлюцинаций...) 20) Уметь конструировать новые алгоритмы, архитектуры и руководящие принципы для всего вышеперечисленного 21) Скучное юридическое: персональные данные, региональные регуляции (EU AI Act), лицензирование, способы спрятать использование LLM от посторонних глаз и делать его недоказуемым, и т.п. 22) Умение по-человечески общаться на все эти темы (Обсуждение хотя бы одной идеи, которую никто пока нормально не сделал. Или статья в журнале, или хотя бы в блоге, телеграме)

Регулярно читаю Олега как технического спеца, но здесь очень важное и практичное для менеджера и управленца. Чуть позже сделаем чек лист 💪🏻🤓

Дистиллируй — или дистиллируют тебя Китай снова показывает, что у них горизонт мышления чуть дальше, чем у остальных. На GitHub выстрелил проект colleague.skill: https://github.com/titanwings/colleague-skill Почти 9 тысяч звезд за неделю. Суть простая и слегка тревожная: загружаешь переписки коллеги из Feishu, DingTalk, Slack или почты — и получаешь AI-агента, который работает в его стиле. Механика там довольно лобовая и потому особенно мощная. Система вытаскивает из коммуникаций два слоя: как человек работает и как он устроен как личность. Дальше собирается агент, который отвечает, рассуждает и, по сути, имитирует оригинал. Формально все подано очень прилично: инструмент для сохранения знаний уходящих сотрудников, проект поддерживается Shanghai AI Lab. Но интернет, как всегда, быстро докрутил настоящее применение. Твит в духе «а что если дистиллировать коллегу, чтобы показать, что он заменяем?» собрал под миллион просмотров. Следом пошли производные: boss.skill, ex.skill, yourself.skill. То есть уже не просто коллега, а начальник, бывшие и ты сам. И вот здесь начинается самое интересное. Люди не сидят и не ждут, пока AI однажды заменит их сверху. Люди начинают использовать AI, чтобы заменить коллег раньше, чем коллеги заменят их. Главный страх - меня заменят! Собственно, вот и подтверждение. Предсказуемо почти сразу появилась и обратная волна: anti-distillation скиллы — https://github.com/leilei926524-tech/anti-distill То есть инструменты, которые мешают вытаскивать из тебя рабочую суть. Один зачищает скилл-файлы от реально ценных знаний и оставляет только аккуратный фасад. Другой вообще сделан как шутка, но шутка показательная: там есть режимы загрязнения данных вплоть до chaos mode, где агент может внезапно перепутать код-ревью с рецептом пиццы. Но если убрать мемный слой, сигнал очень серьезный. Потребность защищаться от дистилляции уже реальна. Если ты не дистиллируешь первым, кто-то попробует дистиллировать тебя. Если ты уже ставишь защиту, значит игра началась, даже если ты делаешь вид, что это просто эксперимент. Но не уверен, что ы Российском прокктном управлении это реально ..пока =) Так что вопрос уже не в том, заменит ли AI людей. Вопрос в том, кто первым превратит чужую экспертизу в свой рычаг. Ну что, признавайтесь: кто уже не просто дистиллирует, а аккуратно атомизирует коллег?

Курс по большим данным и ИИ На прошлой неделе я провел курс на базе ВШГУ РАНХиГС о больших данных, аналитике и практическом применении ИИ для аналитиков и руководителей в государственном секторе. Главный вывод оказался простым: в госсекторе уже не нужно доказывать, что данные и ИИ в принципе полезны. Нужно показывать, где именно они снимают рутину, где помогают заметить аномалии, а где без человеческого решения, ответственности и здравого смысла ничего не работает. Для госуправления подготовка людей к работе с ИИ так же важна, как и сама технология. По моему опыту, это не абстрактная мысль. Когда участники переходят от общих разговоров к своим данным, своим процессам и своим сбоям, интерес к ИИ резко становится практическим. Зачем госсектору большие данные и ИИ Большие данные и ИИ нужны госсектору не для модного отчета, а для того, чтобы быстрее видеть отклонения, лучше работать с массивами документов и снижать долю ручных ошибок в типовых операциях. Именно в этом месте технология приносит ощутимую пользу аналитикам и руководителям. ИИ особенно полезен там, где у организаций высокая нагрузка, дефицит времени и большой объем повторяющихся задач. Для государства это как раз типовая ситуация. На курсе мы много говорили не о «цифровом будущем вообще», а о конкретных эффектах. Если у тебя тысячи однотипных записей, обращения, документы, реестры, маршруты согласования и регулярные отчеты, то ценность возникает не из самого факта использования ИИ. Она возникает из сокращения времени на просмотр, сортировку, сверку, классификацию и первичный анализ. Какие задачи участников лучше всего ложатся на аналитику и ИИ Лучше всего на аналитику и ИИ ложатся задачи, где много однотипных данных, повторяющихся проверок и скрытых отклонений, которые трудно увидеть вручную. В таких процессах технология не заменяет эксперта, а дает ему вторую пару глаз и более быстрый первый проход. На занятиях мы разбирали кейсы разной сложности. У одних проблема была почти базовая: данные оформляются неровно, люди по-разному называют сущности, ошибаются в полях, путают классификаторы, теряют связность между таблицами и документами. У других задачи были ближе к большой аналитике: как искать нетипичные случаи, как вычленять сигналы из шумного потока данных, как быстрее собирать картину по нескольким источникам, как не утонуть в ручной сверке. Почему главной ценностью стал разбор персональных кейсов Главная ценность таких программ не в том, что люди услышали набор правильных слов про ИИ, а в том, что они смогли приложить инструменты к собственным задачам. Именно в этот момент тема перестает быть абстрактной и начинает работать как управленческий инструмент. Почти всегда проблема внедрения выглядит не как «у нас нет ИИ», а как «у нас есть процесс, в котором люди тратят слишком много времени на ручную проверку, постоянно ошибаются или поздно замечают отклонения». Когда участник формулирует свой кейс именно так, появляется нормальная постановка задачи. Тогда уже можно обсуждать, нужна ли здесь простая аналитика, правило, риск-модель, LLM, компьютерное зрение или вообще организационное изменение без ИИ. Для руководителей это особенно важно. Им не нужен еще один обзор рынка нейросетей. Им нужен способ понять, где технология дает экономию времени, повышает управляемость и снижает ущерб от человеческого фактора. Для аналитиков важен другой сдвиг: не «как написать красивый промпт», а «как встроить инструмент в реальный цикл работы с данными, документами и решениями». Где ИИ действительно снимает рутину, а где его переоценивают ИИ действительно хорошо снимает рутину там, где нужно быстро разобрать большой массив однотипной информации, подготовить черновую структуру, выделить сущности, найти аномалии или ускорить первый аналитический проход. Но ИИ часто переоценивают там, где требуется ответственность за итоговое решение, точная интерпретация контекста и понимание последствий. Это была одна из самых полезных линий обсуждения на курсе. Участники быстро видели разницу между двумя режимами. Первый режим — усиление специалиста: сократить время на чтение, сортировку, сверку, извлечение фактов, первичную классификацию и составление черновика. Второй режим — попытка заменить суждение эксперта там, где ставка высока. Вот второй режим как раз и создает больше рисков, чем пользы. Внедрение ИИ — это не вопрос «запустили модель или нет». Это вопрос того, как организация описывает риск, проверяет качество, задает правила использования, измеряет ошибки и удерживает человеческий контроль. Для госсектора это не бюрократическая надстройка, а базовое условие нормального применения. Какие барьеры проявляются почти в каждом государственном кейсе В большинстве государственных кейсов барьером оказывается не отсутствие модели, а слабая готовность данных, процессов и ролей. Если данные шумные, процессы фрагментированы, а ответственность размазана, ИИ не чинит систему автоматически. На практике повторяются пять ограничений: 1. Плохое качество исходных данных. Если в базе путаница, дубли и пропуски, модель только ускоряет плохой процесс. 2. Неразмеченные и неописанные процессы. Часто организация сама не может четко сказать, где именно возникает ошибка и какой шаг надо ускорить. 3. Завышенные ожидания. Люди ждут «умного ассистента на все случаи», хотя эффект обычно рождается в узком, четко описанном сценарии. 4. Недостаток ИИ-грамотности у руководителей и исполнителей. Госорганам нужны разные форматы подготовки: базовый уровень для всех, стратегический для руководителей и технический для специалистов. 5. Отсутствие нормальной рамки управления рисками. Без правил использования, проверки и эскалации ошибок инструмент быстро становится источником новых проблем. В этом смысле обучение работает не только как передача знаний, но и как быстрая диагностика организационной зрелости. По вопросам участников хорошо видно, где уже можно запускать пилоты, а где сначала надо привести в порядок данные, владельцев процессов и критерии качества. Как я буду выстраивать такие программы дальше Лучший формат для обучения госсектора — это связка из короткой общей рамки, практики на реальных задачах и отдельного разговора про ограничения, риски и управленческие решения. Без этой связки обучение либо уходит в теорию, либо превращается в набор эффектных, но плохо переносимых демо. Когда будем делать следующий поток, я планирую держать такую структуру: 1. Общая управленческая рамка. Что именно считать полезным эффектом от данных и ИИ в госоргане. 2. Карта типовых кейсов. Ошибки в данных, аномалии, документы, обращения, контрольные функции, внутренние процессы. 3. Разбор персональных задач участников. Не абстрактные примеры, а их реальные потоки, ограничения и риски. 4. Выбор правильного инструмента. Не везде нужен ИИ; иногда хватает правил, BI или нормальной схемы данных. 5. Контур ответственности. Кто принимает итоговое решение, как проверяется качество, где обязательна человеческая верификация. Именно так ИИ перестает быть «еще одной цифровой темой» и становится рабочим инструментом для аналитика и руководителя. Не волшебной кнопкой, а способом снять перегруз, быстрее увидеть сигнал и уменьшить цену типовой ошибки. Что это значит для госсектора прямо сейчас Для госсектора это означает простую вещь: выигрывает не тот, кто громче говорит про ИИ, а тот, кто быстрее находит узкие места в своих процессах и аккуратно встраивает в них аналитику и автоматизацию. Реальный эффект начинается не с презентации, а с хорошо описанного кейса, нормальных данных и дисциплины проверки результата. Недавний курс это хорошо подтвердил. Самыми содержательными были не обсуждения абстрактного «будущего ИИ», а моменты, когда люди приносили собственные задачи и вместе разбирали, что именно можно автоматизировать, где искать аномалии, как снизить зависимость от ручного труда и как не потерять качество решения. Для меня это и есть главный результат: тема взрослеет. Люди уже хотят не впечатляться, а внедрять осмысленно.

Channel name was changed to «Anti-hype ИИ / Vibe Менеджмент»

Channel photo updated

С разных сторон кричат про ИИ, кажется уже все известно, а с другой стороны, сталкиваемся с полнейшей проф непригодностью в этом самом ИИ. Более того, про технологии рассказывают люди, которые за неделю до выступления даже не имеют представления о том, о чем будут рассказывать…но это их ответственность. Я же в этом канале буду делиться полезными вещами из своего управленческого опыта в 3м поколении и почти 12+ годах управления большими проектами в IT и Гос секторе. Конечно же используя ИИ и другие прорывные технологии. Вполне возможно, что меня будет заносить в second brain (Obsidian) , системное мышление, vibe менеджмент, агентов, системы эффективности и управления. Но главное, я буду рассказывать про реальный опыт. Ну и еще учиться говорить про свою экспертизу и эксперименты публично , открыто и регулярно. Закончу пожалуй цитатой: «Выбор важнее усилий. … чтобы сделать правильный выбор, нужны сильные амбиции, решительность и стратегия, а также информация и средства» Гу Дянь Добро пожаловать!

2 дня, 2 темы, 2 конференции в пятницу Aha26 в Москве и в субботу AnalystDay в Спб Любопытно, что темы отличались достаточно сильно, но вопросы в кулуарах показали общую проблематику в рынке. В Москве на Aha 26 я рассказывал про vibe-менеджемент, а именно про то, как я и меня, заменяем меня ИИшкой (по чуть-чуть) в работе, как я сам в команде использую и что с этим делать в текущих реалиях. В целом, немного визионерства и предостережений, что профессии очень сильно поменяются и будут требовать других mindsetов и подходов. После выступления было 2 очень любопытных вопроса: условно "как бы нам планирование на ИИ переложить? " и "у нас убрали продакта, теперь есть команда аналитиков и команда разработчиков, это нормально?". А в субботу в Спб на AD’22 я рассказывал про то как взаимодействовать аналитикам с лицами принимающими решения и тем кто хочет расти в гонке с ИИ. Подсвечивал как структурировать информацию, куда и что говорить с начальниками и что делать, чтобы не проиграть на ужимающемся рынке. Но вопросы из зала и после выступления, снова вернулось к примерно такому общему вопросу: "менеджеры не берут ответственность или неясно что делают, зачем он нам вообще" Любопытно, что тенденция на "отмирание" прокладок растет, рыночек решает, что называется. Пока я не могу выразить как точно это сложится, но исходя из вопросов и разговоров с людьми и тому что я вижу по рынку, вот что уже проглядывает: 1) те кто думают что переседят неспокойные времена...не переседят. Потрясет всех, заставит двигаться и меняться. Как говорят умные люди: "Учитесь! или вас убьют на***". Я бы добавил еще сюда призыв: экспериментируйте! 2) Никому не нужны должности, нужны функцииональные наоборы навыков и компетенций. Как это будет называться, в период перемен, вообще мало кого волнует. Время для авантюристов, предпринимателей и тех, кого потом назовут людьми из "2х 90х". И неважно что вы в компании работаете, это мышление и подходы, а не должности. 3) Если вы не используете ИИ и самостоятельно себя им не заменяете, чтобы высвободить себя для чего-то нового, придут умные люди сверху (нанятые начальником), которые это сделают это за вас и над вами. Как говорит знакомый психолог, "до вашего предназначения вас дотащут за волосы, даже если вы будете упираться". Так почему бы не начать самому грести в ту сторону, опираясь на ИИ и новые решения в своем проф развитии? 4) Ответственность. Её надо брать, делать и продолжать. Как показали вопросы, многие менеджеры - тупо сливаются со стеночкой и не отсвечивают. Ну а пока, спасибо тем кто слушал, тем кто задавал интересные вопросы, буду переосмыслять их дальше и глубже.. и готовиться подсвечивать следующие выигрышные ходы. Вопросы всегда приветствуются. Stay tuned!

Channel name was changed to «ИИ Менеджмент или Новая продуктивность»

Ричард Саттон говорит, что LLM – это все еще не Bitter Lesson. Разбираемся, что это значит. Начнем с маленькой исторической справки. В марте 2019 года Ричард Саттон (очень известный ученый, отец RL и лауреат премии Тьюринга этого года) написал эссе под названием The Bitter Lesson, то есть Горький Урок. Суть: основные прорывы в ИИ достигаются не путём встраивания знаний специалиста в модели, а с помощью масштабирования вычислений и общих методов (само)обучения. Эссе сразу же стало фактически культовым, и Bitter Lesson превратился в полноценный профессиональный ML-термин. Каждую архитектуру обсуждали на предмет того, является ли она Bitter Lesson или нет, то есть сможет ли работать на долгосроке или провалится. А теперь к сути поста. Совсем недавно Саттон был на интервью у Дваркеша Пателя. Вы его точно знаете, у него много ИИ-знаменитостей побывало. И на этом интервью Ричард вдруг заявил, что LLM – это все еще не Bitter Lesson. "Вдруг" – потому что всегда считалось иначе. Ведь LLM – это вроде бы как раз про масштабирование компьюта и обобщение знаний. Но оказалось, что сам создатель Горького Урока думает по-другому. Позиция Саттона в том, что LLM все еще обучаются и дообучаются только на непосредственно созданных человеком данных, а они могут (а) быть предвзятыми и (б) просто-напросто кончится. У человека или животного, в свою очередь, нет никакого предобучения или файнт-тюнинга, мы учимся в процессе взаимодействия в реальном времени. Так что LLM – это скорее тупиковая ветвь, которая, несмотря на свою мощь, нуждается в существенном переосмыслении для достижения настоящего ИИ. Монолог ученого вызвал просто какое-то рекордное количество споров. От себя скажем, что его видение понятно и не лишено логики, но есть нюансы. В частности, в противовес еще кратко хочется пересказать мнение Андрея Карпаты по этому поводу (ссылка на твит). "У Саттона своеобразное видение ИИ. Он, как классик, выступает скорее за концепцию child machine, которую описывал Тьюринг. Это система, способная обучаться на основе опыта, динамически взаимодействуя с миром. Как люди или животные. С другой стороны, нельзя утверждать, что животные учатся чему-то с нуля. В них эволюционно заложены знания о жизни. Детеныш зебры может бегать уже через несколько минут. Такую задачу нельзя решить с нуля. Мозг животных при рождении – это не чистый лист. В LLM предобучение – это наша попытка алгоритмически воссоздать эволюцию. Не факт, что вообще существует алгоритм, который идеально бы удовлетворял Bitter Lesson. Это скорее платонический идеал, к которому стоит стремиться, а не единственное верное решение. Тем не менее, современным моделям однозначно не хватает каких-то механизмов, вдохновленных животным миром. В этом смысле речь Саттона – это real talk для исследователей. Мы должны больше думать о новых парадигмах и идеях, а не концентрироваться только на LLM". В общем, это интервью точно войдет в историю. Посмотреть полностью можно тут. Ну и, конечно, ждем ваше мнение в комменты.