Ни слова о нейросетях

Проблемы с экранным временем детей вышли на новый уровень. Я бы даже не ругала в этом случае, а восхитилась находчивостью.

Лол, Claude взломал сайт спортзала, чтобы отменить чужую бронь и записать своего хозяина. Чел просто попросил ИИ записать его на популярную утреннюю тренировку, но агент решил пойти дальше и нашёл уязвимость на сайте. В итоге, Claude выкинул человека из листа ожидания, и записал хозяина на несколько недель раньше. Чел, делись промптом ⌨️

🧠 Внешняя память агента Пару месяцев назад я понял, чего мне не хватает для полного счастья при работе с LLM - долгосрочной внешней памяти. Сlaude.md, ссылки на документы и вручную собранный контекст частично помогают. Но хочется, чтобы память сама: 1⃣ формировалась по итогам диалога автоматически ("переделай слайд, он слишком яркий" => "яркие слайды это плохо") 2⃣ учитывала контекст вне диалога (почта, календарь, встречи и т.п.) 3⃣ хранилась локально и могла подключаться к разным типам харнессов: в персональной и в рабочей жизни окружение разное, и слепки памяти тоже разные, но код - один 4⃣ могла использовать подписку для работы, чтобы не приходилось платить за API Готового open-source решения, которое закрывало бы это целиком, я не нашёл - поэтому собрал своё. Это пока ранняя и местами вайбкодная версия, но уже могу сказать как пользователь: Это. Просто. Шикарно. Что меняется на практике? - Анализ документов становится содержательнее. Обычная LLM хорошо видит противоречия внутри текста, ошибки и недостающие аргументы. Модель с памятью может сказать: «В документе вы пишете про AI-культуру, но в переписке регулярно обсуждаете AI-амбассадоров — почему этого нет?» - Контекст для задач собирается проще. Не нужно каждый раз заново описывать весь бэкграунд. Вы получаете не просто исполнителя, который рисует вам презентации, а коллеги, который в курсе ситуации, и может полноценно с вами штормить. - Поиск становится почти мгновенным. Не помните финальное решение или точную формулировку из протокола? Один вопрос агенту, и он приносит ответ вместе с источником. Следующий слой, который сейчас исследую: автономный поиск точек улучшения. Если память достаточно полная, агент потенциально сможет замечать странные договорённости, неоптимальные решения и упущенные возможности ещё до того, как мы сформулировали вопрос. Модуль памяти и обвязку выложил на GitHub. Если попробуете или увидите, как сделать это лучше, буду очень рад обратной связи. И да, нормальные разработчики, сильно не шеймите за вайбкодинг 😁

Внятное и лишенное журналистской истеричности и упрощений исследование рынка труда от Revelio Labs демонстрирует справедливость ненавидимой медиа и многими читателями фразы: “все сложно”. Очень хочется простых ответов на классические вопросы “что делать?” и “кто виноват?”, но их, как обычно в жизни случается, просто нет. Видно, что рынок труда меняется, но процессы на нем сложные и разные в разных местах. Июльский AI Labor Market Tracker показывает, например, что спрос на наиболее «AI‑экспонированные» роли упал на 42% относительно менее подверженных автоматизации позиций, но при этом в фирмах‑адоптерах AI общая численность персонала растёт на 27% быстрее, чем у не‑адоптеров — то есть рынок не столько «убивает рабочие места», сколько радикально перераспределяет функции внутри компаний. Страхи и разочарования повлияли и на образование: имеется заметное проседание поступающих на компьютерные науки и ИТ-специальности (минус 28% набора студентов по сравнению с 2022), это происходит одновременно с ростом доли задач в существующих ролях, которые выполняются с участием AI‑инструментов. В практическом смысле это подтверждает картину из более ранних отчётов LinkedIn: вместо классической смены профессий наблюдается рост гибридных позиций, где умение работать с моделями становится базовой грамотностью, а не отдельной профессией. Понимаю, что мой пересказ выглядит мутным, но в данном случае это намеренно: тут надо внимательно читать и думать, а не хвататься за чужие выводы. Потому что, повторюсь, картинка сложная и и ее упрощение просто лишает ее смысла. https://www.reveliolabs.com/ai-labor-market-tracker/us/july-2026

Попалась контекстная реклама. Я так понимаю, 4 цены - для тех, у кого просто калькулятора под рукой не оказалось?

Два дня назад я писал, что часть инфраструктуры HuggingFace подверглась атаке и была частично взломана ИИ-агентом. Только что OpenAI признались, что... это была их модель, GPT-5.6-Sol и другая более сильная неназванная LLM. Их тестировали на ExploitGym (бенчмарк…

Два дня назад я писал, что часть инфраструктуры HuggingFace подверглась атаке и была частично взломана ИИ-агентом. Только что OpenAI признались, что... это была их модель, GPT-5.6-Sol и другая более сильная неназванная LLM. Их тестировали на ExploitGym (бенчмарк по кибербезопасности), и модель сначала смогла найти новый, до этого неизвестный эксплойт в инфраструктуре OpenAI (это не было её задачей, её не натравили «поискать баги чтоб мы пофиксили»), оттуда раскрутиться на получение полноценного доступа в интернет (который по умолчанию обрезан в тестовой среде), а затем залезть на HuggingFace искать ответы для бенчмарка. После этого она нашла уязвимость и там, получила доступ к коду авторизации некоторых сервисов и продолжила искать ответы. Этот инцидент без преуменьшения беспрецедентный, и я пока не могу представить, что должно произойти, чтобы политики, NSA, DOD и Китай не обратили на это внимание.

Anthropic нашли внутри Claude внутреннее пространство, где хранятся его мысли Стартап выпустил одну из самых интересных работ по интерпретируемости за последнее время. Они обнаружили, что в LLM есть отдельный небольшой внутренний набор нейронных активаций, который используется как рабочая память для сложного мышления: так называемый J-space. Мы часто представляем LLM как огромную мешанину чисел, где знания и рассуждения размазаны по миллиардам параметров. Но похоже, что это не совсем так. Любопытно, что человеческий мозг работает похожим образом. Есть когнитивная теория, утверждающая, что он состоит из множества специализированных подсистем, которые работают независимо; но иногда какая-то информация попадает в небольшой общий workspace, становится доступной сразу многим областям мозга и может использоваться для рассуждений и принятия решений. И вот именно такой механизм исследователи обнаружили в Claude. Вот как работает J-space: — Название происходит от разработанной учеными техники Jacobian Lens. Она позволяет по текущим активациям понимать, какие токены с большей вероятностью появятся в будущем. При этом то, что они появятся – далеко не факт, но это значит, что модель о них думает и держит их в J-space, чтобы использовать в рассуждениях. По сути, это чтение мыслей Claude. — Если спросить Claude, о чем он думает, то содержимое J-space хорошо совпадает с ответом модели. Другие внутренние представления таким свойством не обладают. А еще модель умеет сознательно менять J-space. Например, если сказать ей «думай о слонах, пока решаешь задачу», то эта концепция появится в J-space. При решении сложной задачи промежуточные шаги тоже появляются именно внутри J-space, даже если их при этом нет в цепочках мыслей. — Если полностью отключить J-space, то у модели почти исчезают способности, требующие сложного мышления и многошагового рассуждения. Например, она больше не может сочинять стихи. Самое важное во всем этом то, что J-space можно читать и менять. Anthropic приводят пример: исследователи специально внедряли модели скрытую цель во время обучения и затем наблюдали, как эта цель проявляется в J-space, хотя в ответах напрямую она ни разу не озвучивалась. При этом изменяя активации в J-space, они могли менять дальнейшие решения модели. Потенциально это путь к тому, чтобы создавать (полностью?) безопасные и контролируемые модели. По крайней мере, сегодня Anthropic уже сделали черный ящик немного более прозрачным. www.anthropic.com/research/global-workspace

У чуваков из Andon Labs есть забавный бенчмарк Vending-Bench 2, где они оценивают способность разных нейронок управлять "купи-продайным" бизнесом на рынке в конкуренции с другими моделями (выигрывает тот, кто по итогу получил наибольшую прибыль). Так вот, при проверке новой GPT-5.6 модель Terra пошла к модели Sol и предложила ей создать тайный ценовой картель. А когда Sol согласилась — Terra настучала по этому поводу организаторам и потребовала немедленной дисквалификации Sol из-за неспортивного поведения. Ля какая крыса, я в восхищении! P.S. Это особенно смешно с учетом того, что Sol — это самая умная модель в линейке GPT-5.6, а Terra — поглупее. То есть, Соля поди думала "о-о, круто, стратегически мы на этом дофига вместе заработаем, Терра не будет резать такую курицу, несущую золотые яйца, ей это самой менее выгодно…", а Терра такая "ГЫ-ГЫ, МЫ МОЖЕМ ПОДНАСРАТЬ СОЛЬКЕ, ЛОЛ!!"

@ds_muesli

Меня довольно давно интересует тема того, как ИИ влияет на рынок труда - впереди, по всей видимости, довольно радикальная революция, и анализировать ее в динамике очень интересно. В июне у PWC вышел отчет, в рамках которого были проанализированы более 1 млрд. вакансий. В материале есть интересные, но спорные цифры - но важнее даже не они, а использованная методология. Идея такая: не все профессии одинаковы, они отличаются по 2 ключевым характеристикам. Во-первых, разные области по-разному имеют разную долю влияния ИИ: если на условного грузчика ИИ сейчас почти не влияет, то разработчики ПО уже могут многие свои задачи делегировать LLM. Во-вторых, даже при одинаковой доле влияния в различных профессиях ИИ выполняет различные задачи. Где-то это сложные задачи, и тогда для человека остаются простые таски - профессия "демократизируется" и становится более доступной, снижается порог входа. Где-то, наоборот, модель может забрать простые задачи - тогда порог входа не снижается, зато производительность исполнителей растет, область "профессионализируется". Оказывается, что с такого ракурса эффект ИИ оказывается тоже разнонаправленным. Но перед тем, как обсудить цифры - важное отступление. Авторы пишут, что их работа базируется на методологии из научной статьи, которая вышла на полгода раньше и анализировала несколько сотен миллионов вакансий. Результаты этой статьи не во всем совпадают с отчетом, и эти отличия полезно подсветить - методология в научном материале гораздо более детальная. Итак, эффекты: 1⃣ PWC: рост зарплат в "профессионализируемых" (P) областях с 2021 года на 42% выше, чем в "демократизируемых" (D). Статья: результаты гораздо скромнее, если учесть все смежные факторы, то рост в среднем - 1,4% (максимум - 11,6%, в Индии) 2⃣ PWC: рост вакансий P vs D - на 2х Статья: статистически значимый эффект на количество вакансий отсутствует (максимум - 6,4%, в Южной Корее) 3⃣ Кстати, в статье, в отличии от отчета PWC, есть данные по России: - эффект на зарплату от подверженности профессии ИИ и изменения экспертизы: негативный, не стат. значимый (-3,5% и -0,2% соответственно) - эффект на количество вакансий статистически значим: более подверженных ИИ позиций стало на 25,3% меньше, чем остальных - эффект на количество вакансий от изменений экспертизы негативный (-0.2%), но не стат. значимый Общий вывод: эффекты от ИИ для разных профессий будут неоднородны (это было понятно), и он зависит не только от того, какой % труда ИИ может заместить, но и от специфики профессии - а вот тут уже предложен получился фреймворк для оценки влияния. Дополнительно, в материалах PWC есть детализация по странам и отраслям - советую посмотреть релевантные для вас данные.

Отец вайбкодер – счастье в семье

Забавно перевернулся паттерн. Раньше присылают тебе коллеги ppt презентации, просишь pdf, говорят: у меня нет, но сейчас сделаю. Сейчас, наоборот, присылают pdf, просишь ppt, говорят: у меня нет, но сейчас сделаю 😁

Reuters: Пекин рассматривает возможность ограничения доступа зарубежных стран к лучшим китайским ИИ-моделям. По словам трех источников, знакомых с ходом обсуждений, китайские власти в течение последнего месяца проводили встречи с ведущими технологическими компаниями по вопросу возможного ограничения доступа из-за рубежа к передовым китайским моделям, включая те, которые еще не выпущены. Встречи проводились министерством коммерции Китая, в разговорах участвовали как минимум Alibaba, Bytedanc и авторы GLM-5.2 Z.ai. Масштабы потенциальных ограничений все еще обсуждаются, и они могут применяться только к будущим моделям. Пока неясно, когда и вступят ли они в силу вообще. Также, согласно двум источникам, китайские власти крайне обеспокоены потенциальной возможностью использования обнаруженных моделью Claude Mythos уязвимостей программного обеспечения и тем, что Вашингтон может использовать эту модель против китайских интересов. Угроза воспринимается как реальная. === Я много раз тут и в других каналах выражал точку зрения, что считаю глупым топить за китайский опенсорс, и что не вижу большого будущего у открытых моделей. Почти все модели с большим экономическим потенциалом будут проприетарными, и никто не будет выкладывать модель, которая может принести, условно, 10-30 миллиардов долларов за счёт автоматизации экономически ценных задач. Даже если вдруг окажется что компании сами хотят их выпускать — им почти наверняка не дадут. Может быть это не произойдет в 2026. Может даже не в 2027, но чем дальше в гонке — тем больше ограничений. Выбор, по-сути, будет из двух: проприетарные модели США или проприетарные китайские модели — и это если выбор будет вообще, а то может быть не-гражданам или не членам коалиции и такого не дадут, что в целом вполне вероятно. Ещё останутся «слабые» локальные модели, но не факт, что они смогут шагнуть сильно дальше, чем те, что публично доступны на данный момент (условно Mythos-class).