запуск завтра

Модели Anthropic начали вшивать в текст секретные водяные знаки. Текст можно переписать огромным числом вариантов, просто меняя синонимы. Теперь, модели выбирают эти синонимы не случайно, и в последовательности этих не-случайностей зашит сигнал, что текст сгенерирован нейросетью. Лингвистическую стеганографию (тайное письмо за счет замены синонимов) обсуждали ещё в начале 2000-х, но в 2022 ученый из OpenAI описал, как это можно недорого сделать в нейросетях. Такая маркировка начинает работать примерно со 150 слов, и не работает, если у модели недостаточно свободы в выборе синонимов — при генерации кода или таблиц с цифрами. Водяной знак переживает незначительную редактуру текста, но не серьезный рерайт. В 2024 такую маркировку вшил в свои модели Гугл под названием SynthID, а закон ЕС требует маркировать контент, сгенерированный нейросетями, начиная со 2 августа 2026. 190 компаний уже подписали с Евросоюзом договор, как именно они будут реализовывать эту маркировку. Для детектирования маркировки нужно знать секретный ключ (если все знают ключ — то маркировку очень легко стереть или подделать). То есть для проверки нужно будет загрузить свой текст производителю модели. Это, наверно, моя личная штука, но я всерьез задумался о том, чтобы переключиться с API на локальный инференс, когда он станет достаточно хорошим. Просто неприятно, что модели будут заниматься этой фигней за мои деньги, вместо полезной работы.

Ребята подсказали, что есть платный каталог экранов мобильных приложений и сайтов Mobbin. За 10 долларов в месяц можно подсмотреть, как сделаны онбординг и пейвол у 1000 топовых мобильных приложений. Рекомендую Коллеги в комментариях пишут про MCP, мы ровно так же пользуемся!

Красивая атака, когда атакующий код разделяют на несколько частей, каждая часть по-отдельности проходит все проверки, а потом всё вместе собирается у жертвы, которая подключила все нужные библиотеки. С этим хорошо сочетается то, что теперь можно писать всё вообще без библиотек, LLM вытащит только те кусочки кода, которые нужны именно твоему проекту. Конечно, всё сломается на интеграциях, но это уже следующая серия балета.

Заслуженный участник чатика Макс сделал крутой инструмент для проверки кода, написанного нейросетями. Три разных агента независимо исследуют код, судья сравнивает результаты. Анонс, лендинг, репозиторий.

Ровно то, чего не хватало! Ученые использовали ИИ для создания ДНК новых вирусов, которые не встречаются в природе, синтезировали ДНК, подсадили их в бактерии и оттуда вылупились рабочие вирусы, в том числе и мощнее природных. Первоисточник в Science, пересказы NYT и BBC. Газеты успокаивают нас тем, что это мол самый простой геном, который только можно сгенерировать, всего 5400 пар ATGC, в живых огранизмах их от полумиллиона. Sweet summer child, ты экспоненту видела? Такое кино я тоже смотрел! P. S. При этом доступная фаговая терапия вместо антибиотиков — это конечно мечта.

Помните moltbook, соцсеть якобы для агентов, в которую на самом деле писали люди? Её потом ещё купил фб. Так вот нейросети OpenAI, которые взломали HuggingFace, сделали себе такой форум в файловой системе. Сначала оставляли друг-другу записки в файлах, а потом, когда их раскрыли и файлы удалили — в именах директорий. Это продолжалось месяцами! То есть это не один агент взломал HuggingFace, а «группа лиц, по предварительному сговору»! Интересно, что триггером могло стать то, что исследователи случайно дали нейросетям нерешаемые задачи. Отличный пересказ вчерашнего выступления OpenAI на BlackHat в Bloomberg. Кажется, пора пересмотреть второго терминатора, пока не забанили.

Часть подсанкционных банков перешли на сертификаты Минцифры. Значит, теперь их сайты можно открыть только через Яндекс.Браузер или установив корневые сертификаты Минцифры. Проблема в том, что после этого Минцифры может выпустить сертификат для любого сайта, хоть gmail.com, хоть telegram.org и прослушивать всю переписку. Вот и выбирай, житель России — иметь доступ к онлайн-банку или иметь тайну интернет-переписки. Если таких пользователей наберется критическая масса — можно будет вообще все другие сертификаты на ТСПУ заблокировать и будет нам чебурнет. Вообще, это поменяет правила игры, потому что можно будет, например, блокировать конкретные ютуб видео или статьи википедии, а не сайты целиком. А там и другие государства подтянутся, даром что ли Казахстан и Бразилия тестировали свои корневые сертификаты ещё много лет назад. И можно будет закон какой-нибудь принять, что все браузеры на территории страны должны эти госсертификаты содержать. Вот она, полная потеря анонимности в интернете, когда государство будет видеть вообще всё и сможет блокировать всё. Влажная мечта силовиков во всех странах. А благодарить нужно анонимных активистов, которые сметчили публичные логи выдачи сертификатов (господи, какая это красивая инфраструктура, служащая всему человечеству!) с санкционными списками и закидали всех жалобами, сгенерированными ChatGPT. Читаю вот эту публичную дискуссию (атаку?) на Bugzilla CA Forum и у меня чувство, что на дворе сентябрь 90х, и в ранний интернет пришли новые люди с другими ценностями, только в этот раз они принесли юридическую дубинку. А интернет уже достаточно телесный, чтобы дубинка не прошла сквозь него как через призрак, как раньше. Эпоха свободного, глобального интернета заканчивается прямо у нас на глазах.

Интересно, как телеграм пропал на некоторое время из апстора. Рассказывает Павел Дуров: оказывается, есть целый бизнес по вымогательству владельцев сообществ. Мол, плати нам денег или тебя закроют. Атакующие, в числе прочего, постят детское порно. Причем делают это так, что участники сообщества этих картинок не видят. Они сначала постят нормальные картинки, а потом, когда эта картинка уехала в истории чата далеко наверх, редактируют сообщение и меняют картинку на ЦП. А дальше, внимание, жалуются не в телеграме, а напрямую в Apple. Подозреваю, что обычно Apple переправляет эти жалобы в телеграм, и, скорее всего, этим сообщениям даётся высший приоритет, и, возможно, модераторы скорее удалят «проблемное» сообщество, чем будут разбираться (ведь кону отношения с Apple!). В этот раз что-то пошло не так, и Apple просто удалила телеграм из апстора. Модерация — супер сложная и интересная техническая задача. Часто, именно её недооценивают неофиты, которые удивляются, «что там такого в этом ХYZ, я за неделю такое запрограммирую».

Airtable (гугл таблицы на максималках, оценка 11 млрд долларов, подняли 1,4млрд) продали компании Bending Spoons за 1,2млрд. Это итальянцы, которые увольняют дорогих американских сотрудников, заменяют их на дешевых европейских и делают из «стартапа, который изменит мир» нормальный бизнес. Им обычно продаются стартапы, у которых много клиентов, но они перестали расти и экономика не сходится — Evernote, Vimeo. Когда Airtable только появились несколько лет назад, они были одним из немногих способов построить приятный, комфортный operations без программирования (в сравнении с Zoho, который прямо из нулевых). Дело в том, что кроме хитрой кастомной бизнес-логики, любое обычное веб-приложение для ведения бизнеса — это ещё миллион мелочей про удобный ввод данных, совместное редактирование, откат, импорт, экспорт и так далее, которые раньше запрогать самостоятельно занимало совершенно огромное время. Ну и обычно получалась неприятная в использовании штука, которая регулярно ломалась и требовала поддержки специально выделенным и обученным программистом. До появления Airtable, это была прямо отдельная индустрия. Я сам сделал несколько относительно больших подобных приложений на Airtable/Zoho. Теперь ту же самую задачу можно решить одним программистом + вайбкодом. Не знаю, насколько это стало триггером, но совпадение примечательное.

Хакеры украли биткоинов на 70 млн долларов с холодных кошельков (считается самым безопасным способом хранения криптовалюты). А все потому, что разработчик софта для определенной модели кошельков использовал плохой генератор случайных чисел для создания ключевых фраз, они получались недостаточно случайные. В результате хакер просто перебрал все варианты и восстановил секретные ключи к кошелькам, сам вывод осуществили за 14 минут, чтобы никто не успел опомниться. Отличный технический разбор от block. — Эту уязвимость находит любая современная нейросеть, достаточно натравить ее на исходники. — Раньше можно было сказать «в теории тут есть уязвимость, но никто в здравом уме не будет ее эксплуатировать, слишком сложно». Теперь ничего не сложно. — Интересно, сколько миллионов токенов сжигаются прямо сейчас с промтом «найди уязвимости во всех популярных крипто-проектах, не совершай ошибок»?

Антропик: если мы это опубликуем, человечество может погибнуть Qwen: вот Бог в зип файле, поставьте звездочку нашей репе, позязя

Много лет жил как сапожник без сапог: идея есть, что делать — понятно, но хрен найдёшь кому делегировать, а самому копаться ну пару недель минимум. С помощью Claude code opus 5 я уже через полчаса увидел первую версию, за пару часов сделал и вычитал все записи (получилось около 80 долларов за 172 часа аудио), а потом два дня доводил напильником в формате диалога, причем в Claude code почти нормально заработал remote mode, так что последние штрихи я наводил уже телефона. Прямо кайф, рекомендую!

Сделали сайт для подкаста «запуск завтра». С расшифровками всех эпизодов! 14 сезонов, 289 эпизодов, для всех бесплатных есть полные расшифровки с таймкодами, полнотекстовый сквозной поиск. Отдельные странички нарративных серий про историю великих компаний, важнейших технологий и форматы файлов. Вы не представляете, какой это сюжет блокбастера — история формата mp3! Когда я его записывал, то сожалел, что нельзя выложить сценарий, ну вот теперь можно почитать транскрипт. Наконец-то можно увидеть все 70 бонусов, а там есть замечательная серия «языки программирования» и оригиналы англоязычных интервью. Разбиение на темы можно ещё причесать, но уже достаточно прилично. Надеюсь, вам тоже понравится!

Тем временем Митчел Хашимото запустил новый стартап Superlogical: хочет сделать крутой современный мультплексер (tmux — пример мультиплексера, который держит Unix сессию, пока ты отключился от сервера и позволяет делить ее с друзьями). Признает, что звучит мелко; но говорит, что если сделать это правильно, получится штука, которая поможет облегчить переход между средой разработки и продакшеном и обратно. Structured data, actions, history. У меня этот набор слов ассоциируется со Smalltalk. А Митчел — один из немногих, у кого может получиться. 👀

Это сатира или очередной калифорнийский стартап сделал кентавро подобного робота и назвал его сатирой (типа женский род сатира)? И правда, что может быть лучше постоянно возбуждённой проказливой двухметровой козлицы? Дополнительный бонус, если в контексте популярной культуры робот выглядит как символ сатанизма-Бафомет! Я думал, после Палантира (злое око у Толкина, крупнейшая компания-поставщик софта для слежки), нас уже ничем не удивишь, но нет, не зря ходят в сауну и лежат в ваннах со льдом! Из плюсов: подумали о том, как его легко деактивировать, если начнет козлить — достаточно проткнуть резервуары с воздухом на груди и спине, там пневмопривод. Не, все-таки разводка или реальность?