Ivan's work&life thoughts

Вышел Opus 5, кодит почти как Fable 5, но стоит в два раза дешевле ☕️

Знаете кто релизит в пятницу вечером по Европейскому времени? Мы!

https://telegra.ph/Kak-ya-pochti-otrabotal-god-v-trejdinge-02-08

Это было неизбежно: рано или поздно должны были появиться специализированные решения для инференса. И вот, Taalas (бывшая команда из Tenstorrent) выкатили то, чего я так ждал — настоящий Direct-to-Silicon. Ребята не стали мелочиться и буквально «запекли» модель в кремний. Никакой внешней памяти, никакого HBM, никакой сложной упаковки. Веса модели и архитектура — это и есть сам чип. Цифры выглядят дико: 17,000 токенов в секунду на Llama 3.1 8B. Это на порядок быстрее текущей SOTA GPU, при этом чип стоит в 20 раз дешевле в производстве и потребляет в 10 раз меньше энергии. Самое крутое, что это не просто красивые слайды для инвесторов. Железо уже существует, и его можно «потрогать» (ссылка на демо внизу). Конечно, это ASIC, и тут есть нюанс: чип заточен под одну конкретную модель. Но Taalas продумали этот момент — они оставили поддержку LoRA-адаптеров и изменяемого контекстного окна. То есть это не совсем уж «кирпич», гибкость для файн-тюнинга остается. Сейчас у них готов чип с Llama 8B (HC1). Весной обещают выкатить что-то среднеразмерное с ризонингом, а к зиме грозятся показать фронтир-модель на втором поколении кремния. У меня голова идет кругом от мыслей к чему это может привести. Ссылки: • Анонс • Демо (скорость реально впечатляет)

Ждем Sonnet на флешках

Кажется в индустрии разработки началась стадия принятия – стадия отвержения закончилась и теперь сеньор-разработчики открыто говорят о том что кодинг инструменты не хуже чем люди даже лучше, вот этот текст понравился – но таких постов с выхода Opus 4.6 / Codex 5.3 xhigh становится только больше: …нас поставили перед фактом: "я этого не просил", но это уже случилось. Не просил, чтобы "робот" сожрал все наши посты и куски кода, а потом пересказывал это кому-то, кто на этом зарабатывает. Не просил, чтобы роль программиста сдвинулась от создателя к инспектору на досмотре: не писать код самому, а проверить, не пронесли ли в прод что-то опасное И при этом самая неприятная часть, в том, что эти инструменты реально работают. Настолько, что спор "хуже или лучше" быстро превращается в спор "ты уже попробовал нормально или просто принципиально сопротивляешься" Дальше начинается прагматика: да, можно отказаться из моральных соображений, особенно если ты уже в конце карьеры. Но если ты сениор и ты принципиально "без АИ", то очень быстро рядом окажутся джуны, которые с АИ начинают выдавать результат с другой скоростью. И рано или поздно менеджмент задаст простой (и довольно мерзкий) вопрос: почему человеку платят больше, если он делает меньше, потому что ездит на старом велосипеде, а другие на реактивных ранцах … взрослый человек с обязательствами, ипотекой, семьёй, как правило выберет не идеологически красивое решение, а то, которое сохраняет стабильность. Не потому что он вдруг "продался", а потому что ставки другие …через годы мы будем рассказывать детям и внукам, как руками набирали синтаксис, как будто это что-то смешное и архаичное. Но внутри будем скучать. Скучать по ощущению ремесла – когда ты реально "трогаешь" код, лепишь его, как материал, долго сражаешься с багом до ночи, и в конце есть чувство авторства: "я сделал это", подпись художника под картиной, репозиторий, который не просто набор файлов, а часть твоей идентичности Короче, автор не празднует новый мир, но и не верит, что его можно остановить как-то, и предлагает честно признать потерю и прожить её как потерю – не делать вид, что "ничего не меняется", а честно назвать происходящее концом привычного кодинг-ремесла и разрешить себе по этому погоревать Очень трезвый взгляд на вещи 👤

https://arxiv.org/abs/2512.14982 2 года назад я много работал с первой Gemini и в какой-то момент мы с командой обнаружили что если просто повторить промпт или нужную секцию два раза это улучшит качество. Надо было статью писать!

На новой работе много приходится читать про inference LLM-ок Кажется лучшее что есть об этом в интернете https://jax-ml.github.io/scaling-book/

Спойлеры

Сьездили на SAS второй год подряд Пока остаётся топ 1 инфосек конференцией из тех где я был, и в плане организации и в плане докладов - уровень к которому нужно стремиться многим организаторам Ну и конечно поиграли CTF, взяли топ 1, что всегда приятно Надеюсь увидимся со всеми на SAS 2026

TIL что в Thunderbird есть встроенный чат Поддерживаются следующие протоколы: - IRC - Matrix - О Д Н О К Л А С С Н И К И 😎 - XMPP

Здесь прекрасно всё.

Я сейчас в командировке и резко вспомнил веселую проблему у приложения убер. Заключается она в том, что мне приходят все чеки на русском. А потом эти чеки мне нужно отправлять в бухгалтерию (в Ирландии/США). Причем я пробовал менять язык везде, но это не помогает. Убер везде пишет что "мы используем язык системы", да у меня телефон и браузер на английском. https://www.reddit.com/r/uber/comments/1d597ty/changing_language_from_receipts/ Опять же, известная проблема, но никто не чинит. Больше всего меня в таких багах радует думать об их происхождении. Как разработчик с каким-то стажем у меня обычно есть несколько догадок почему так вышло. Моя версия под спойлером: Процесс генерации чеков работает на бэкенде, и в какой-то момент у них была настройка языка в профиле. Сейчас ее убрали, но данные никто не удалял, и видимо не меняли АПИ. А сервис для генерации чеков все ещё получает значение этой настройки, хоть ее уже и нельзя поменять.

Вчера ездили с друзьями в weekend trip, останавливались в Airbnb. Решили вечером посмотреть фильм и подключить ноутбук к старенькому телевизору. И, значит, беру я свой макбук на M1 — пытаюсь сделать трансляцию экрана, запускаю фильм в VLC. Сначала наблюдаю рассинхрон звука с видео, а потом мак просто ловит фриз. Прям вот такой фриз, что нужно долго держать кнопку выключения. Оказалось, что это известная проблема на M1: https://discussions.apple.com/thread/255299255?answerId=260151714022&sortBy=rank&page=1 Вообще крайне интересно, на каком конкретно моменте трансляция видео через HDMI может всё зафризить, но в итоге я попробовал: 1. Не дублировать экран, а выводить отдельно. 2. Снизить refresh rate до 24 Гц. 3. Выключить Bluetooth, лол (совет с форума выше). Не знаю, что из этого помогло, но фильм мы посмотрели. Осадочек от Apple остался. P.S. Макбук — всё ещё топ-ноут за свои деньги.

Самый большой диван, который можно передвинуть за угол https://www.quantamagazine.org/the-largest-sofa-you-can-move-around-a-corner-20250214/ Очень прикольная история! В 1966 году математик Лео Мосер сформулировал задачу “moving sofa”: Представим себе коридор шириной 1 ед с поворотом на 90° в конце. Задача - найти максимально большой по площади двумерный диван, который можно продвинуть через угол. Как оказалось, задача эта ни разу не тривиальная, и на ее решение ушло больше 50 лет. Даже интереснее: в 1992 другой ученый по фамилии Гервер предложил супер нетривиальную форму дивана (на видео), при которой площадь достигает 2.2195 ед^2. Но ни он, ни другие математики не могли формально доказать, что эта форма является оптимальной. Пара интересных моментов: - По сути, задача сводится к нахождению функции расчета площади произвольной двумерной фигуры. Вот только в общем случае она не решается! Простой пример: сравните формулу расчета площади круга и треугольника - ничего общего. - Форма дивана Гервера состоит из 18 элементов сложной формы, и ее площадь не описывается ни в каких известных величинах (π и прочих). Но, тем не менее, она является оптимальным решением задачи “двигающегося дивана”. И вот в декабре 2024 молодой корейский математик Jineon Baek представил свое доказательство оптимальности дивана Гервера. Он представил все допустимые варианты формы дивана в качестве точек бесконечно-мерного пространства, и создал такую фукнцию Q, которая удовлетворяла нескольким условиям: - Для произвольной точки в пространстве диванов Q выдает значение, больше или равное площади дивана такой формы. - Для точки, соответсвтующей дивану Гервера, значение Q = фактической площади дивана. - Функция “ведет себя” похоже на параболу Дальше ему оставалось доказать, что функция достигает максимума как раз в точке Q - тогда диван Гервера будет оптимальным решением задачи о перетаскивании дивана. Что он и сделал в своей 119-ти страничной работе. Кстати, Герверу сейчас 75 и, с его слов, ему “повезло дожить до момента”, когда его решение наконец обосновали. Мощно! Красивый и немного безумный мир математических задач, сформулировать которые может даже ребенок, а вот решать некоторые из них 30 лет, а потом еще 30 лет доказывать оптимальность решения)

Давеча друг прислал пост из одного из тележных пабликов. Первая мысль-напоминание по этому поводу: огромное кол-во современных пабликов в телеге (да и некоторых СМИ) — кликбейтные помойки, которым лишь бы что-нибудь запостить для охватов, а фактчекинг для лохов. Но это вы и так знаете. А теперь по сабжу. Перед вами как раз таки мой последний проект в Гугле. И нет, они не сканируют все ваши фото. Они вообще не сканируют ничего задним числом (по крайней мере не должны). И даже вот вам пару ссылок в защиту: https://thehackernews.com/2025/02/google-confirms-android-safetycore.html https://www.howtogeek.com/google-is-not-scanning-all-the-images-on-your-android-phone/ Но теперь другая мысль, более обидная. Я понимаю почему люди недовольны и почему они легко поверят в заголовки “Гугл сканирует ваши файлы”. И тут я выделяю два основных фактора: PR и репутация. Напоминаю, что я здесь сильно biased: я работал в Гугле над этим проектом. И господи, вы бы знали как мы запаривались на тему privacy всего этого. Мы буквально делали большинство решений с мыслью: “мы НИКОГДА не получим никакого фидбэка юзера. У нас не будет НИКАКИХ логов.” И это скорее всего правда на ближайшие годы. Обсуждали различные edge-case’ы и все понимали, что если пользователь сам не даст согласие, мы не получим никакого фидбэка. Да и фича скорее всего, будет работать добровольно у совершеннолетних пользователей, а значит большинство пользователей её не включит. Но важно это не только обсудить внутри, но и донести пользователям: нарисовать красивые диаграммы, сделать пресс-релиз. Apple например тоже ставят что хотят и вообще хотели сдавать вас ментам известны странными идеям. Так вот, у эппла есть такая же фича (блюр фоток для детских аккаунтов) и я не слышал, чтобы был вой на эту тему. Потому, что эппл сделали какой-то пресс-релиз о своей фиче, да и большинству людей пофиг на апдейты, если они не делают их жизнь хуже. И вот тут, как раз хочу поговорить про репутацию. И тут у меня очень двоякое ощущение. Многие люди выбирают андройд, а не айфон, как раз-таки потому, что у вас есть контроль над приложениями, апдейтами и вообще, что у вас установлено, то и работает. Хотите удалить гугл сервисы? “Да, пожалуйста”. И таких пользователей справедливо бесит, что им поставили что-то без их ведома. И я это понимаю, и было бы круто дать людям галочку “я ничего не хочу я не хочун” и пусть их обходят стороной все обновки. А второй момент как раз в том, что люди не доверяют Гуглу и в современном мире AI думают, что компании пытаются получить их данные любыми способами. Поэтому звучит логично, что Гугл слушает ваши устройства, сканирует все ваши фотки и тд. Как итог: Если бы я работал сейчас в Гугле, у меня бы сгорело сильнее. Куча людей старались, правда думали о privacy, но в итоге подвел маркетинг/PR. При этом я считаю, что сама фича получилась хорошо. И если это убережет хотя бы одного ребенка от внезапного дикпика, я буду считать, что не зря потратил полгода жизни, учив машины смотреть на нюдсы. И не читайте желтушных телеграм-каналов перед обедом.

3-го января был мой последний рабочий день в Гугле. https://telegra.ph/Kak-ya-iz-Gugla-ushel-01-22

У меня отложено еще несколько длинных постов про уходящий год, но их надо дописать. Поэтому они уже будут после нового года. А сегодня предлагаю посмотреть как уходящий год выглядел для меня с точки зрения путешествий. На видео попали все перелеты и некоторые авто-путешествия, при этом за кадром осталось около 10 поездок по Ирландии. Ну и немного статистики: 30+ перелетов 15+ стран 3 континента