re growth

Помню, что наша учительница начальной школы вместо оценок ставила нам цветные штампики в тетрадь. Там были ягодки, грибочки, солнышки и прочая красота. Теперь все время думаю, что эмоджи это оно и есть)

Странное Не люблю смотреть в камеру на созвонах, потому что это неправда Ты смотришь в камеру на кусок пластика в крышке макбука, а не на человека, с которым говоришь. А человек находится вообще в другом месте. Лучше смотреть в окно, потому что он точно где-то там

AI в корпе Много запросов по AI приходит от энтерпрайз клиентов. Обычно говорю так: А. Если задачу можно разложить по полочкам и прописать алгоритм, то лучше решать классическим способом без AI ("прибить гвоздями") В. Если меняются вводные, если в каких-то точках необходимо принятие решений, если есть неизвестное и не всегда можно все предусмотреть - то задачи с компонентом неопределенности лучше решать через AI ("запустить самолетик"). AI напоминает мне мем про рыбов, когда коты облизываются и смотрят на красивое: - иностранные модели нельзя - слать тексты за пределы РФ нельзя - опенсорс можно, но бюджета на видеокарты нет - если не даете гарантий и 99% точности ответа, то нам не надо - если не может сравнить на противоречия все ВНД из хранилища сканов с ВНД за последние 10 лет, то нам не надо - если печатать будет не на бланке компании и не с идеальным форматированием, то нам не надо - если не сможет сравнивать 2 документа по 300 страниц с полной точностью, то нам не надо - если галлюцинирует по вопросам права, то зачем вообще надо, все равно перепроверять, я тогда сам Корпорации настолько привыкли засовывать себя в жесткие рамки, что черно-белое мышление мешает видеть 70% пользы там, где ее конечно не 100.

You learn nothing, nothing from success. You learn everything from the failures. (c)

Люблю мелкий шрифт и масштаб, и не люблю крупный Почему? Потому что получаю больше ценности на квадратный сантиметр взгляда. Мне нравится видеть больше текста перед собой, сопоставлять части, простраивать связи. Все это неудобно делать с текстом, который расползается на множество страниц. Вот ты прочел два абзаца и уже скатился на второй экран. На четвертом уже не помнишь, что было на первом. Мне нравится видеть больше. Так что я выставляю 80-90% масштаба в браузере и самый мелкий шрифт в телефоне

Если плотно закрыть глаза корешками ладоней и повернуться к солнцу, то все равно ты будешь видеть свет. А когда повернешься в угол, что там тьма. The truth is out there.

Ценность кода всё меньше. Код – как вода. Кран открыл и налил. (с)

Жизнь вносит свои коррективы в то, к чему мы привыкли. С “замедлением” телеграма резко перестало хотеться отправлять сообщения, писать войсы, слать интересные видео с какими-то кейсами. Лишь бы не видеть этот крутящийся кружок, фразу trying to connect, ощущение что ты сам перестаешь дышать, а не приложение виснет. Чувство, будто проблема с тобой, а не с телеграмом. Потому что в итоге не могу именно я, а не он. Сегодня думала, как изменится моя жизнь, если убрать из нее привычный голубой самолетик? Я решила быть терпеливой и ждать, когда он вернется - уже проходили. В другой мессенджер я не хочу. Изобретательность накидывала мне обходы: • заметки писать только в notes • вернуться к почте, а вообще я очень люблю почту и хорошие письма, я даже в телеге пишу посты как письма • вместо видео, которое не грузится даже с vpn, кидать ссылки на записи в зум/лум • а может мы снова начнем звонить друг другу на мобильный? • и писать смс, а можно писать групповые смс? обычный “привет” будет стоить 20 копеек, и слова станут иметь цену • а может будет больше фокуса на важном, вместо ежеминутной проверки чатов Жизнь, в которой становится много новых работ, которые закрывал просто мессенджер

Помните чувство, когда в детстве катались с горы на картонке, и потом у вас полное изнеможение, сбитая шапка, вы неровно дышите и в награду вас ждут мандарины. Вот так с вайбкодингом, после которого сложно прийти в себя, но что-то получилось:)

если бы я была LLM, то я была бы Claude я очень много знаю, но от меня получают только то, что спрашивают я очень много умею, но часто ограничена контейнером, в котором меня развернули меня можно увидеть только на экране больше всего я люблю долго поговорить у меня много багов, и я чиню их сама, и часто долблюсь в одни и те же ошибки, просаживая память с каждым релизом я становлюсь новой, лучшей версией себя, релизы примерно раз в год и обычно после крупных факапов

Давайте сравним юристов и разработчиков. И те и другие производят тексты как результат своей работы, которые запускаются либо как софт, либо как дела в бизнесе. Все что происходит сейчас на уровне разработки с использованием AI - несётся вперёд на какой-то сумасшедшей тачке. Но при этом всякий раз если оглядываться на месяц назад, то было сильно хуже чем сейчас. А если полгода назад, то ты будто заглядываешь в палеозой. При этом господа юристы, если бы хотели, могли бы точно так же находиться в вагоне экспериментаторства, достигая все более лучших результатов с новыми моделями. Но не хотят. И разработчики в основной массе пока не хотят, но процент тех, кто фигачит и делится сильно больше, чем юристов. И желания еще 10 раз перезапустить, если не получается, сильно больше

LinkedIn выдал базу В общем так: Perplexity сейчас создают русские ребята. Насчитала 10 человек и дальше даже перестала считать. Команда поиска в основном состоит из разработчиков ex-Яндекс, многие из которых присоединились к Perplexity около года тому назад. Вот так - снова русские ребята в лучших продуктах мира

жизнь, полная смыслов

На встрече с корп юристами одной крупной золотодобычи вдруг выясняется, что один их них юзает Claude Code. Сложно, конечно, зная этот уровень, заставлять себя использовать локальные квены в корпоративном софте.

Для нас является важным — и психологически, и организационно — получать позитивное подкрепление от фигуры иерархически выше. Когда этого совпадения нет, даже очень сильные, автономные, уверенные в себе люди начинают жить в хроническом напряжении. Потому что вы можете сколько угодно говорить себе, что вам не нужно признание, но если вы работаете в компании, где оценка результата находится у вышестоящего руководителя, психика всё равно будет пытаться свериться с его реальностью. (c)

Никакого продакт менеджмента не существует. И да, продакты не нужны. Нужны люди на стыке ролей и функций, в каждой компании эта потребность выражена по-разному. Обычно их и называют продактами, но могут называть как угодно еще

→ RAG Retrieval augmented generation, что означает “генерация, усиленная результатами поиска”. Это когда модели предоставляется база текстов, из которой ей нужно брать ответы (а не из своего датасета). Все привыкли, что RAG это векторный поиск и векторная база данных - то относительно дешево и приемлемо по качеству, но это не только векторный подход. Это может быть обычная база текстов и поиск по ней обычным поиском по ключевым словам. Есть отличные решения на основе подхода knowledge mapping, когда составляется дерево текстов с краткими описаниями, и сначала происходит поиск по описаниям, а потом забирается конкретный файл и уже он отправляется в контекст для формирования ответа. Бывает лучше брать модель поглупее, чтобы она сама точно ничего не знала, и ей точно приходилось брать из готового. → GPU Работа модели использует множество однотипных вычислений, с которыми справляются именно видеокарты (GPU). Если пробовать работать на CPU, то вместо 70 токенов в секунду будет 1 токен в секунду или того хуже. Или вообще ничего не будет:) → Агенты Слово, которое путает всех, но как сказали ребята из Claude, "agents are tools in a loop" (это просто тулы в цепочке). Для более предсказуемого результата последовательность вызова тулов задается в разработке. Но есть truly автономные агентные системы. https://huyenchip.com//2025/01/07/agents.html https://www.anthropic.com/engineering/building-effective-agents https://lilianweng.github.io/posts/2023-06-23-agent/ (пост от 2023 года, но он хорош) У крупных провайдеров типа OpenAI и Claude есть свои агентные SDK Можно почитать на каких концепциях они это собирают https://platform.openai.com/docs/guides/agents https://platform.claude.com/docs/en/agent-sdk/overview

Весь AI за 5 минут Собрала базу, на которой крутится вся работа с текстовыми LLM. Чтобы форвардить всем, кто спрашивает про базу:) Контекст - предельный объем, который модель может обработать. Есть входящий объем (он не лимитируется отдельно), есть лимит на объем генерации, суммарно они дают общий контекст (лимитируется общий контекст и аутпут). Контекст измеряется в токенах, условно это корни слов или даже буквы. Русский язык съедает примерно в 2-3 раза больше токенов, чем английский. Чем больше контекст, тем менее внимательна модель, и точно так же, как в жизни, иголку в стоге сена можно найти, но придется постараться. Промпт - задача, которую вы отправляете для обработки в нейросеть. Если прикрепляете текст, код, картинки и тд - это все считается единым промптом. На каких концепциях работают решения с LLM Модели умеют отвечать: • просто текстом (в режиме stream, последовательно распечатывая генерящиеся токены, и в режиме одномоментного ответа, только после того как он готов) • в режиме размышлений и без них - размышления работают по принципу составления плана. По плану получаются более качественные ответы. Вот и все. • в формате structured output и function calling - по сути, это ответ джейсоном Модель не может сгенерировать файл, построить график, посчитать на калькуляторе. Она может решить, что ей для этого нужен готовый код (tool), про который ей заранее рассказали в параметрах запроса. Модель может написать код, который запустится, но для этого ей тоже изначально нужен тул - code interpreter. Все тулы заранее пишутся разработчиками. Без них модель просто беззубо пишет тексты и ничего не может сделать. Модель передаст в тул данные, чтобы код запустился - это может быть функция в продукте, или вызов по апи, SQL запрос, поиск и тд. Потом результат передается в модель отдельным сообщением, она генерирует конечный ответ на основе того результата, который ей передали. Например, если пользователь просит сгенерировать документ, а у модели есть тул обращения к библиотеке по работе с вордом, то модель решает его дернуть, передать данные для генерации файла, кодом генерируется файл, придерживается в кеше, а модели мы сообщаем что генерация выполнена успешно и даем ссылку на файл или сам файл. → Function calling Вызываем функции обычных приложений, передавая в функцию параметры, которые образуются в результате выполнения промпта. Как правило, это простой вызов какой-то функции по API Узнать погоду, получить простые данные о компании и тд. документация OpenAI → Tool use Почти то же самое, но это более сложные функции. пример готового тула по веб-поиску в Claude → MCP Model context protocol как условное апи для работы моделей с классическими системами; как правило, делают сервер с тулзами которые модель может брать и делать задачки, не влезая в основую систему https://modelcontextprotocol.io/docs/getting-started/intro → Управление контекстом Составить контекст таким образом, чтобы у модели было все нужное для правильного ответа; когда мы продумываем заранее, чтобы в нужный момент положить в промпт только самую необходимую информацию для выполнения задачи → Structured output При отправке запроса в модель мы также шлем ей схему json, которую она должна заполнить и вернуть. SO работает по принципу constrained decoding: это означает, что на уровне инференса модели запрещено генерировать токены, которые не входят в образец схемы json. SO используется для вытаскивания данных по определенному формату. Вы получаете именно тот набор данных, который ожидали. Модели конечно отличаются качеством SO, есть топы и есть похуже, но зато локальные. документация OpenAI документация Claude → Schema guided reasoning Когда в полях structured output заложены размышления, выполняя которые заданным образом, модель приходит к нужному результату https://abdullin.com/schema-guided-reasoning/ https://gist.github.com/abdullin/bacab6ee38ae23ab78024a85f316c8eb (пример кода на 160 строк) https://github.com/vamplabAI/sgr-agent-core