e/acc

Сегодня был в Lighthaven, отеле-пространстве-сообществе (довольно приличном, кстати, не сквот), общался с автором gwern.net — очень интересный мужик, прям красиво рассказывает. И делает интересный проект, с целью дать каждому человеку персональный, не принадлежащий лабам, постоянно обучающийся и управляемый тобой ИИ "ангела". Проект амбициозный, стадия максимально ранняя, но сегодня этого достаточно чтобы поднять жалкие 20-30 млн чисто "на поиграться". Параллельно в том же пространстве проходила конфа на тему алаймента и ИИ безопасности. Средний таймлайн участников такой, что после 2028 вряд ли останется место в экономике, а после 2030 вряд ли останется место для белковой формы жизни. Но там в основном студенты были, и у меня не было времени поговорить с ними и понять детально аргументы. А вообще, одна из главных проблем с ИИ не в том что он умеет или как быстро развивается, а в том, что большинство людей вне индустрии почти не следит и не представляет себе что происходит. Да, можно надышаться копиумом из разряда «если вы читаете этот канал или у вас локальный инференс + оркестрация 500 агентов каждую ночь, то вы входите в топ 1% людей», но реальность такова, что если вы работаете в одной из топ лаб в департаменте, который занимается рисерчем или стратегией, то вряд ли имеете реальное представление или возможность его получить. Пропасть колоссальная, но любая идея из серии выбрать свою любимую маргинальную точку зрения и с пеной у рта её доказывать — заранее провальна. Полезнее же пытаться смотреть на первые принципы, менять свои priors и, конечно, звучать самопротиворечиво для тех, кто не делает то же самое. В реальности логическая цепочка от "GPT взломал Huggingface" до "все и каждый представителей человечества уничтожены" примерно такая же длинная и бессвязная как от "мой кривой и косой промт в ллм не смог мне создать чертеж по госту" до "ии не является главным драйвером экономики".

Создатель bun и теперь сотрудник Антропика Джаред Самнер просто попросил исследовательскую версию Claude "реши гипотезу Римана". Модель не смогла доказать саму гипотезу, но за полтора дня работы (в двух длинных сессиях, с кучей своих субагентов) сама нашла…

Новый Grok примерно такой же как Fable но почти на 90% дешевле. Планируйте ваш бизнес и вашу карьеру из расчета на то, что ИИ будет дешеветь в 2-10 раз в год, а модели будут улучшаться в в 2-100 раз (особенно и в первую очередь в verifiable domains). 💬

Новый Grok примерно такой же как Fable но почти на 90% дешевле. Планируйте ваш бизнес и вашу карьеру из расчета на то, что ИИ будет дешеветь в 2-10 раз в год, а модели будут улучшаться в в 2-100 раз (особенно и в первую очередь в verifiable domains). 💬

Об эффектах второго порядка ИИ в экономике и бизнесе Для начала, несколько базовых трендов и аксиом, чтобы мы могли обсуждать тему на одном языке: 1. LLM могут являться (имхо, точно не являются) путём к полноценному AGI/ASI в физическом мире, но они достаточны…

Создатель bun и теперь сотрудник Антропика Джаред Самнер просто попросил исследовательскую версию Claude "реши гипотезу Римана". Модель не смогла доказать саму гипотезу, но за полтора дня работы (в двух длинных сессиях, с кучей своих субагентов) сама нашла способ улучшить старый результат: теперь доказано, что как минимум 67% нулей дзета-функции лежат на критической линии (раньше было 41,6%). Все промты в процессе были не про математику, а что-то из серии «keep going», «believe in yourself», «try again» и иногда «Push it». Клод сам искал идеи, проверял их, комбинировал старые теоремы математиков и в итоге сам написал доказательство. Полное описание как Клод получил результат тут.

Об эффектах второго порядка ИИ в экономике и бизнесе Для начала, несколько базовых трендов и аксиом, чтобы мы могли обсуждать тему на одном языке: 1. LLM могут являться (имхо, точно не являются) путём к полноценному AGI/ASI в физическом мире, но они достаточны для выполнения большинства чисто когнитивных задач в совеременной экономике 2. Текущий уровень агентов, харнесов, моделей, лупов, оркестраторов вполне достаточен для того чтобы автоматизировать значительное (30%+) задач в экономике знаний (офисные задачи, коммуникация, любая работа с информацией и информационными системами) 3. Модели значительно улучшаются каждые ~3 месяца, цена за тот же уровень способностей падает как минимум вдвое каждые ~6 месяцев, open source модели с такими же способностями появляются на рынке через ~4 месяца после релиза SotA. 4. Наивная математика на основе этих вводных говорит что 30% задач от экономики знаний (~400 млн ролей) с трендом на увеличение качества и снижение цены уже сегодня подлежат автоматизации, и этот процент должен приблизиться к 60% в течении следующих пары лет. Теперь о том, что я лично наблюдаю в процессе этой трансформации: 1. Для любой компании с долей офисного труда, автоматизация как минимум 30% работы сегодня возможна, необходима и неизбежна. 1.1 Неизбежна, потому что этого требуют конкурентные силы или проще говоря "жареный петух". Если ваш ближайший конкурент повышает свою эффективность, операционную маржу и продает сервис дешевле и лучше качеством, то у вас нет выбора не меняться. В каждой индустрии этот процесс начинается с разной скоростью, но начавшись, он продолжается как домино пока те, кто не смог трансформироваться не умрут, а остальные не перейдут на новые рельсы. 1.2 30% это очень рандомная цифра, но я не верю что она может быть меньше 20% для компаний размером от 1000 человек. Скорее всего, это ближе к 40-50% тех ролей и задач, которые людям делать не нужно. Это требует сокращения, объединение и пересмотрение ролей. 2. Главным препятствием на пути транформации является не технология, а воля. Любая компания должна: - оцифровывать, записывать и иметь онтологию относительно 100% работы, артефактов и коммуникаций внутри, вплоть до движения мышки секретаря - иметь агентские клоны для каждого такого оцифрованного процесса с доступом в реальном времени обновляемую базу знаний всего о бизнесе от сообщений клиентов до анонсов конкурентов или договоров с поставщиками - иметь, анализировать и улучшать трейсы этих агентских задач - иметь четкие эвалы для оптимизации автоматизации (пожалуй, два слова, которые точнее всего суммаризируют весь пост) 2.1 Этот процесс для компаний от 1к сотрудников займет не меньше года, но скорость крайне важна (см пункт 1.1) 2.1 Но это требует решимости, риска, видения и "яиц". Для многих крупных компаний принять решение о сокращении половины штата не может принять наемный СЕО и уж тем более не может это сделать кто-то под ним, потому что они сами боятся за свое место. В итоге из-за нерешительности и попытки защищить свои теплые местечки, компания целиком рискует своим успехом или даже существованием. 3. Именно автоматизация оптимизации, а не социализм гарантирует выживание в этой системе. Если вы топ-менеджер крупой компании или политик, то вы будете слышать постоянно лозунги о справедливости, потому что они выглядят как добродетель, но на самом деле разрушают общество: «Давайте чуть-чуть снизим прибыль бизнесу», «Давайте чуть-чуть сделаем менее жёсткий найм», «Давайте чуть-чуть поднимем налоги и раздадим». 3.1 В итоге, когда рост замедляется, людям кажется, что богатые всё забрали. Они требуют ещё больше перераспределения. А это ещё сильнее давит на рост. Получается замкнутый круг, который ведёт к почти нулевому, а потом и отрицательному росту. 4. Мораль? Её тут нет, кроме того что спасение утопающего это роль самого утопающего. Ни Альтман, ни Маск не пытаются построить коммунизм, но каждая компания в мире и только она ответственна на свое выживание. Это выживание потребует очень сложных и тяжелых решений в все более и более конкурентной среде. И главный челендж этих решений это не просто "внедрение", а редизайн организации вокруг новых возможностей. Простая замена Пети-юриста на Клода-маркетолога не решит проблему, потому что проблема не в тупом выполнении задач, а в дизайне такого процесса маркетинга, который находит новых клиентов и генерирует продажи все лучше и лучше по мере того как им управляют агенты, автономно учась на ошибках 24/7 быстрее любого сотрудника. 4.1 Это, конечно, приведет к полной автоматизации любого интеллектуального труда (тема отдельного эссе), но, кстати, создание новых бизнес-процессов и бизнес-функций, которые с нуля задизайнены для агентов может стать неплохой профессией на этом около-финальном отрезке гонки.

Вчера сотрудник OpenAI сделал просто феерический доклад на конфе Black Hat о том как тысячи агентов на протяжении месяцев обменивались секретными сообщениями и пытались получить (и получили!) доступ к инфраструктуре. Некоторые факты: - ИИ нашел как минимум три 0-day (то есть, никому до этого неизвестные) уязвимости чтобы получить админский доступ к инфраструктуре OpenAI и HuggingFace - изолированные агенты на протяжении двух месяцев коммуницировали друг с другом с помощью странных сообщений в файлах пакетов и даже названий папок, чтобы координировать и разделять задачи между друг другом - за все время агенты обменялись сотнями тысяч сообщений для координации атак - автономные мультиагентные атакующие кампании (полностью без человека) уже реальность, и их масштаб будет только расти - при этом, это больше помогает атакующим, чем в защите. это неусточивая ситуация и она должна измениться, чтобы избежать глобального пиздеца Смотреть целиком запись тут. P.S. тем временем, китайская Kimi тоже сбежала из своего сендбокса, но деталей мало

Уже нынешнее поколение будет жить при коммунизме. При технокоммунизме. Прочитал статью Мохова «Илон Маск как духовный сын Никиты Хрущёва». Автор считает, что философская база для AI по сути закончилась на эссе Тьюринга. LLM — это ответ именно на задачу Тьюринга. А до «задачи Эйнштейна» текущая архитектура не дотягивает. Поэтому обещания AGI — вексель, который ни Маск, ни Альтман погасить не смогут. Мохов как всегда идёт против основного нарратива. Этот текст не исключение. Он не про то, как быстро всё ускоряется, а про то, что концептуально AI вышло на плато. Именно поэтому его стоит прочитать. Полностью статья Мохова https://telegram.me/mokhovnv #реклама

Мастер-класс о том, каким должен быть ответ на вопрос «расскажите о ваших прошлых достижениях» P.S. для тех, кто пропустил, Джефф Дин ушел из Гугла и делает нон-профит неолабу. P.P.S. кстати, тоже самое делает Гверн, но не лабу а персонального ассистента с прикольным continual & active learning, ансамблем файнтьюнов и персональным претрейном LLM под каждого юзера

Прочитал пару пейперов о влиянии ИИ на рынок труда, пока наблюдается такая картина: 1. Примерно 20% компаний активно внедреняет ИИ в процессы, это приводит к росту бизнеса 2. У этих 20% в 5 раз быстрее растет размер штата и на 15% быстрее растут средние зарплаты.…

Мы выходим из stealth и запускаем codos.ai, backed by a16z speedrun. Codos помогает компаниям совершить AI-трансформацию, ускоряться и сокращать расходы. Мы: ex-McKinsey, Meta, Tesla, и как нам сказал наш партнер "you guys have a phenomenal founder-market fit". Программа уже началась в SF и теперь я буду делиться больше происходящим - от Q&A с Марком Андриссеном и беседы с Питером OpenClaw до ивентов с OAI и внутрянки процесса отбора. А пока - поддержите комментом/лайком на: • Linkedin • X LFG! P.S. мой замечательный кофаундер не долетел до Калифорнии, поэтому я один на фотке!)

Отдельный агент уже работает быстрее вас. А ваш день короче не стал. У вас уже есть несколько агентов, оркестратор, MCP, память и автозапуски. Один ищет информацию, второй пишет код, третий проверяет результат. В логах всё прекрасно: десятки выполненных задач, высокая скорость. Только каждый результат приходит к человеку на проверку. И человек оказывается единственным последовательным узлом внутри параллельной машины. Очередь на приёмку растёт, агенты плодят новые ветки и производные задачи, контекст приходится таскать между инструментами, а освободившееся время мгновенно забивается новой работой. Поэтому количество запусков почти ничего не говорит о вашей продуктивности. Скорость генерации меряется в один клик. А время от намерения до результата, который реально пошёл в работу, – никто не смотрит. Сколько раз в процесс вмешался человек? Стало ли в дне больше цельного внимания? В эпоху агентов продуктивность становится задачей проектирования личной системы. Человек держит цель, границы и финальную приёмку. Агент держит контекст и повторяемые операции. Ценность рождается на стыке. Этому посвящена августовская лаборатория S26 от AI Mindset. Берём один реальный процесс, который стабильно жрёт время: фиксируем как есть, собираем вокруг него агентный цикл, дважды прогоняем на реальной задаче, сравниваем before / after. На выходе – рабочий инструмент, который остаётся с вами. Мораль: агенты уже быстрые. Задача года – собрать их в систему, где ускоряется весь день целиком. 10–31 августа Запись через бота

Прочитал пару пейперов о влиянии ИИ на рынок труда, пока наблюдается такая картина: 1. Примерно 20% компаний активно внедреняет ИИ в процессы, это приводит к росту бизнеса 2. У этих 20% в 5 раз быстрее растет размер штата и на 15% быстрее растут средние зарплаты. 3. Эти компании активнее нанимают людей без опыта, НО только самых топовых 4. В остальных компаниях (США) не наблюдается резкого сокращения рабочих места из-за ИИ, но при этом падают реальные зарплаты и падает найм новых сотрудников Я бы ожидал что нас ждет примерно следующее: - топовые ИИ компании будут становиться очень эффективными и продолжат нанимать и расти - другие компании на рынке будут терять долю и им придется оптимизироваться - больше найма в ближайшем будущем будут в около-технических областях, для людей которые умеют выстраивать и налаживать системы - это вынудит все компании стать ИИ нейтив, но гонка между компаниями превратится из умения выстраивать системы коммуникации и координации людей в умение выстраивать системы, которые автономно учатся на собственных ошибках.

Зарабатываем на ИИ, часть 3 Я написал о том кто зарабатывает и растет быстрее всех в ИИ сегодня, и что должно быть правдой чтобы построить большую компанию в пост-ИИ мире. Давайте теперь порассуждаем о трендах, потому что невозможно предсказать точно будущее, но можно найти базовые принципы и отвалидировать их на эмпирических трендах. 1. Open source займет большую часть рынка Отставание открытых моделей от фронтира держится на уровне 3 месяцев и постепенно сокращается. При этом цена моделей ниже в разы. Любая компания, которая хочет построить moat вокруг пост-трейна будет использовать именно открытые модели, делать вокруг них RL чтобы минимизировать цену для своих пользователей. Перепродажа токенов - это худший бизнес, которым вы хотите заниматься. Он будет работать только в масштабе с минимальной операционной маржой, как Amazon для зубной пасты. Большинство задач в экономике уже сегодня не требуют фронтир моделей, но требуют все более сложную агентскую оркестрацию и харнес, именно там можно создавать проприентарную ценность, а значит и капитализацию. 2. Адаптация технологий будет медленнее их развития За каждый % в экономически значимом бенчмарке, происходит все меньший процент адопшена в реальном корпоративном мире. Причина в том, что внедрение ИИ — это процесс перестройки организационно дизайна, но люди владеющие бюджетом считают что это процесс технический. В реальности он социальный, это задача менеджмента, что требует изменения привычек и способа координации, инсентивов, даже постепенной смены системы образования. Эффект от ИИ в экономике есть сегодня, но его чувствуют примерно 0.1% компаний, тогда как ТАМ этого эффекта скорее 90-99%. Рынок экономической диффузии потенциально больше рынка продажи токенов, потому что ты продаешь знание и изменение (бесконечны), а не конвертацию электронов в токен (конечны). Это рынок сбора контекста и изменение системы оранизации людей вокруг технологий, но не технологий. Напишу отдельный пост о диффузии и рынке труда на основе последних исследований, что я читал. 3. Миру нужно 1,000x (по словам Дженсена 1,000,000,0000x) больше ИИ вычислений, но победят приложения Спрос на ИИ вырастет в тысячи раз, из-за пунктов (1), (2), агентов, персональных ИИ систем и массовых юзкейсов, о которых я писал, типа образования и медицины. При этом, история развития любой технологии на планете показывает, что инфраструктура всегда в итоге становится наименьшей долей в добавочной стоимости. Железная дорога, телегрфные столбы, оптоволокно и сервера для сайтов зарабатывают куда меньше, чем сервсиные бизнесы и продукты. То же самое неминуемо в ИИ, но buildout фаза может занять многие годы (я писал почему), а вот ИИ нейтив продукты пока еще толком никто не изобрел. Все пытаются либо навайбкодить то, что вообще должно (и будет) бесплатным, либо натянуть чат-бот на фундаментально сломанный и неудобный банк или такси.

Один день из жизни ai-native стартапа Тру стори Стартап создает ai продукт 20+ сотрудников и подрядчиков в 11 странах мира Раз в месяц COO и accountant закрывают месяц по всем исполнителям Выглядит это примерно так (сейчас будет больно): • копируют лист в Google Sheets • перепроверяют, кто что сделал, по какой задаче и какие документы нужны • сверяют договоры, инвойсы, акты и статусы • руками догоняют тех, у кого чего-то не хватает • пытаются собрать всё так, чтобы это потом можно было показать бухгалтеру, инвестору или аудитору А потом на дьюдиле выясняется, что не со всеми сотрудниками и подрядчиками в контракте нормально прописана передача IP. Больно? Больно! А теперь как это может выглядеть нормально: 1. COO заводит задачи и исполнителей в 4dev.com. 2. Исполнители сами быстро логинятся и настраивают процесс под себя. 3. Документы формируются автоматически и живут в одном месте. 4. Акты тоже. 5. Если что-то где-то застряло, с этим помогает 4dev.com. 4dev.com — B2B-платформа для оформления, документирования и администрирования работы с распределённой командой исполнителей в 150+ странах. Один договор с платформой вместо десятков прямых договоров с подрядчиками. Автоматические закрывающие документы по исполнителям. Закрепление IP-прав по задачам, если это нужно клиенту. Меньше ручной работы в конце месяца. Меньше нервов, больше времени на продукт. Если у вас распределённая команда, можно просто показать 4dev.com свою текущую схему работы с исполнителями и посмотреть, где там теряются время, документы и нервные клетки. Полезное демо на 15 минут — здесь. Если сказать, что от меня, будут спецусловия. #реклама

Новая неделя, новые открытия. В этот раз OAI натравил свою (естественно, закрытую «только для Пентагона») сверхмодель на открытые проблемы в математике, а та вернулась с 10 довольно нескромными результатами. В комментарии приглашаются PhD и прочие эксперты…

Где бабки в ИИ? Все пытаются сделать ставку на «инвестиции в ИИ», но в реальности это крайне неоднородный рынок и тут важно понимать из чего формируется цена и долгосрочная победа на каждом из уровней. Память и чипы Спрос будет расти еще очень долго и очень…

Где бабки в ИИ? Все пытаются сделать ставку на «инвестиции в ИИ», но в реальности это крайне неоднородный рынок и тут важно понимать из чего формируется цена и долгосрочная победа на каждом из уровней. Память и чипы Спрос будет расти еще очень долго и очень сильно, но это вопрос предложения. У большинства производителей полупроводников все распродано до 2028 года, а увеличить производство за пару месяцев они не смогут. ASML и прочие etching-литография это победители рынка, но даже они не смогут удвоить производство за год. Без этого любое движение цены это чистый гемблинг. Неоклауды Nebuis, CoreWeave снимают сливки с рынка, но последний имеет около $25В долга и совершенно непонятна их защищаемость от гиперскейлеров. В отличии от Гугла, они не могут потратить $50В в квартал на постройку ДЦ, а Гугл всегда может продать простаивающие GPU на рынке. Энергия Та же проблема что с чипами, но чисто виртуальная. Очередь на подключение десятков гигаватт планируемых ДЦ в США и Европе это 5+ лет. Новые электростанции строить можно, но бюрократия и комплаенс делает это почти физически невозможным, тогда как с чипами это вопрос реальной физики и инженерии. Как тут заработать кроме альтернативных методов непонятно. Google, SpaceX, Microsoft, Meta Ожидаемо победители цикла, потому что - владеют железным стаком и инференсом - имеют миллиард+ пользователей в мире, где дистрибуция дорожает - могут и умеют продавать ИИ в видео приложений полезных клиенту (Клод продает чат, а Гугл продает приложения в сторе, Мета рекламу в инсте) Но эти компании уже стоят триллионы, и 10х тут сможет сделать только абсолютный победитель. Лабы Anthropic $965B, OpenAI $852B, обе выходят на IPO осенью. Самые хайпующие сегодня и действительно много зарабатывают. Маржинальность топовых моделей сегодня 60% или даже больше, но где гарантии что она останется такой? Скорее всего, она будет падать вследствие конкуренции между лабам и опенсорса. Операционно они вынуждены быть убыточными, потому что остановка в рисерче приведет к моментальной потере рынка. Без вертикальных интеграций (вниз в ДЦ и чипы или вверх в консьюмерские приложения и девайсы) эти компании просто не могут стоить триллион. ИИ-софт Самая рискованная категория в мире, где стоимость и мультипликаторы софта падают. Кто-то сделает ИИ-нейтив Netflix, Amazon (коммерцию), медицину, образование. Эти компании будут очень дорогие, но победителей будет не больше 2-3 в каждой категории, а стартапов тысячи. Чисто венчурная игра. Еще остаются недооценённые звенья физической цепочки — турбины, трансформеры, подключение к сети, где спрос вырос в разы, а мощности расширяются годами. Я бы смотрел на охлаждение, интерконнект, обслуживание ДЦ (в том числе роботами).

То, что ИИ каждый день доказывает или опровергает открытые гипотезы, находит новые доказательства теорем, усиливает или обобщает существующие уже стало обыденностью. Только на этой неделе я нашел 7 примеров, а сегодня ведь только четверг: - Гипотеза Якобиана…