Московия и не только

Быть ответственным за мемы — это тоже ответственность. Автор изображения: Kotia Forge

Зал ассемблерного позора На днях товарищ зашёл с довольно неожиданным вопросом: Как ты думаешь, какой правильный ответ на вопрос «максимальное время исполнения одной инструкции в современном процессоре»? Вопрос, действительно, оказался с подвохом. Всегда можно ответить уклончиво: «зависит от реализации», что будет абсолютной правдой. Человечество придумало много моделей того, как должен работать вычислитель. Как минимум до сих пор есть архитектуры CISC (Complex Instruction Set Computer) и RISC (Reduced -//-). Первая архитектура, CISC, предлагает тысячи разных команд от простого «ничего не делай» (NOP) за один такт до инструкций вроде вычисления синуса и косинуса (FSINCOS), которые выполняются сотню тактов. Одна инструкция в CISC может запросить данные из памяти, провести вычисления и положить данные обратно в память. Архитектура CISC распространена в персональных компьютерах, это в каком-то смысле наследие, когда машинный код писали люди, а люди хотели упростить себе работу, делая больше за меньшее количество кода. Вторая архитектура, RISC, предлагает иной подход: каждая инструкция делает что-то одно: или работает с памятью, или занимается вычислениями. Разнообразие инструкций меньше, но программы более многословные. Это могло быть минусом, но сейчас с машинными кодом работают в основном компиляторы, а не люди. (Более подробно о различиях CISC и RISC можно почитать в этом переводе.) Очевидно, что сокращенные команды RISC едва ли смогут выполняться дольше, чем комплексные команды CISC. Но всё равно хочется цифр. Как я уже говорил, самая простая инструкция, которая есть — это NOP, буквально отсутствие действия. Эта инструкция выполняется один такт, то есть при частоте современного процессора 5 ГГц один такт занимает примерно 0.2 наносекунды. Вот тут есть Зал ассемблерного позора, в котором автор составил список самого долго выполнения одной инструкции процессором. Первое место заняла инструкция fxrstor64 — чтение памяти устройства на шине PCIe. Секрет медлительности довольно прост: другие ядра процессора генерируют множество неэффективных обращений и «забивают» очередь. «Замеряемая» инструкция становится в самый конец очереди и вынуждена ждать. В худшем случае получилось, что одна инструкция выполнялась 198 миллиардов тактов, то есть 62 секунды человеческого времени. Очень специфичная информация. Но этот эксперимент показывает узкие места в архитектуре компьютера, а это может быть полезно для тех, кто готов бороться за каждую микросекунду ускорения своей программы.

Сегодня мемный баян, контрастирующий с (не)давними новостями. В июле платформа с ресурсами для машинного обучения HuggingFace выложила пост, что некий анонимный ИИ-агент взломал их систему и выполнял свой код в их инфраструктуре. Через неделю анонимность была раскрыта: ИИ-агент — это исследовательская модель OpenAI, проходившая тестирование ExploitGym, в котором модели оцениваются в задачах по кибербезопасности. Модель решила, что лучший способ пройти тест — это украсть правильные ответы. Да, «исследовательские модели» могут быть без подсаженной морали и ограничений этичности. На Хабре была статья «Я заразил 200 нейросетей вирусом. К 20-му поколению они выработали иммунитет — и разучились думать», в которой демонстрировалось, что искусственные ограничения делают ИИ глупее. Но даже так остается вопрос: почему большая языковая модель смогла обойти защиту? Это новейшие модели настолько сильны, что способны «взломать все секретные системы США за считанные минуты»? Восстание ИИ и порабощение человечества всё ближе? Или это современные системы пишут спустя рукава, не уделяя время тестированию и достаточному обучению сотрудников информационной безопасности? Я до сих пор остаюсь скептиком в области вайб-кодинга: это неплохой инструмент, но человек остается главным. Мои коллеги, что познали удобства вайбкодинга, говорят, что нужно знать что ты делаешь и постоянно бдить за ИИ, иначе он будет затирать дичь. Я вот недавно спросил у ChatGPT 5.6 Sol как бы мне эффективно разобрать XML-файл для автодополнения в текстовом редакторе. И он предложил регулярные выражения. Если что, это очень плохая идея, и это обсуждалось 15 лет назад. Дважды. Автор изображения неизвестен.

Скоро уже будет тысяча часов, как я играю в Factorio — в оригинальную игру, несколько модов, а теперь в официальное DLC. В игре нужно строить фабрики, автоматизировать движение науки и выстраивать оборону от местных жуков, которые выступают против научно-технического прогресса. Так случилось, что в оригинальной версии игры практически нет способов задокументировать производственную линию: ни заметок на станках, ни букв из кусков железа. Спустя некоторый промежуток времени некоторые решения становится неочевидными. Но это интересный момент, который добавляет разнообразия в игре. Игрок сам себе подкидывает загадку. Однако стоит отбросить перфекционизм: «идеально» может быть только на бумаге.

Уже после бума больших языковых моделей решил пройти Detroit: Become Human. Игра поднимает вопросы самоосознания искусственного интеллекта и показывает разнообразное отношение людей к роботам. На релизе в 2018 году мир будущего, показанный в игре, был далек от игрока по всем критериям. Гуманоидные роботы существенно отличались от людей, а был ИИ довольно прост. Но сейчас сюжет игры сияет новыми красками. У нас всё ещё нет настолько продвинутых роботов, но уже есть большие языковые модели, которые предоставляют весьма человеческие интерфейсы общения. Кто-то доверяет своим чат-ботам свои мысли и чувства, а кто-то — бьёт и материт для извлечения максимальной производительности в «вайб-кодинге». Прямо как в игре. Является ли словесное насилие над языковой моделью эквивалентом рукоприкладству в отношении пластикового человекоподобного робота?.. И требует ли это осуждения? Автор изображения указан на изображении.

Кубический мир не отпускает и в этот раз снова техническая работа. Вроде бы мелочь, на которую 90% игроков даже внимания не обратят, но мне хотелось сделать. Тем более, что это относительно просто. https://habr.com/ru/companies/selectel/articles/958526/

Иногда кажется, что «промпт-инжиниринг» — это буквально программирование на естественном языке. Только вместо фиксированного синтаксиса используется всё многообразие языка. Людям сложно даже на искусственных языках — языках программирования, идеально без ошибок выразить свою мысль, а уж на естественном — тем более. В ЕГЭ по информатике, кстати, была возможность описывать программы на естественном языке. Только наши преподаватели говорили не пользоваться этой возможностью — проверяющий сможет довольно вольно трактовать написанное. А теперь мы используем ИИ, который конвертирует естественный язык в код. И делает вроде бы быстро, но осадочек остаётся. :) Автор изображения неизвестен.

На работе есть устойчивое выражение «почистить кешью», получившееся из автозамены слова «кэш». Автор изображения неизвестен.

Путь Symbian Уже давно мир мобильных телефонов сократился до «яблок» и «андроидов». С iOS и Android стали популярны сенсорные экраны, которые задали тренд: экран должен быть больше, рамки у экрана меньше. В итоге большинство современных телефонов — это прямоугольник…

На четыре дня стал временным хранителем чужого кота. Опыт, конечно, интересный, но оставлю вот этот мем. Кот, завидев своих приехавших хозяев, просто взял и спрятался в самый дальний угол под кроватью. Мол, кот страдал — пусть и хозяева пострадают доставать кота из укрытия. Пришлось сыграть умом: хозяева сделали вид, что ушли, и кот добровольно покинул укрытие. Резко-стремительно доступ в укрытие был закрыт, а во входной двери появились ОНИ. Через час кот уже забыл обиды или простил это расставание и всё у них было хорошо. Автор изображения: Странная планета.

Искусственный интеллект, который принимает решения Большие языковые модели изначально просто предсказывают следующий символ в тексте. Но они делают это настолько хорошо, что ИИ теперь повсюду. Это приводит к размышлениям: насколько большие языковые модели хороши в человеческих задачах? Я и сам задавался этим вопросом в ограниченном, заранее прописанном мире — у меня модели играли в «Бесконечное лето». Но мой эксперимент был примитивен: «полновесные» модели слишком дорогие для локального развертывания, а выборы в визуальной новелле ограничены. Поэтому получилось как получилось. Конечно такой идеей задавался не я один. Компания Antropic самостоятельно тестировала свои модели в бизнес-задачах, а затем предложила свои разработки «наружу». Вот, например, Claude управляет вендинговым автоматом от заказов на склад до продаж клиентам. Результат довольно забавный: модель несколько раз раздавала свой товар бесплатно «в маркетинговых целях» и заказала живую рыбку в офис. Бизнес, кстати, обанкротился. Энтузиасты создавали отдельные миры для моделей, причем как двумерные (2023), так и трехмерные (2026). Второе исследование рекомендую почитать самостоятельно, там очень подробно. Но если кратко, то каждой из четырех моделей давали под управление каждого из десяти жителей в городе и им нужно было существовать 15 дней. Grok и ChatGPT вымерли полностью. Claude и Gemini сохранили всю популяцию. В пятом эксперименте все четыре модели поместили в один мир и там не обошлось без жертв. Вот моделям давали должность диджея на радио. Только зажатая ChatGPT как-то тихо себя вела, а остальные модели устроили подростковый бунт. Оттого интересно, что в реальном мире человек решил основать микрогосударство, в котором все правительственные должности занимают ИИ-агенты. Агент командует, человек — выполняет. Тем более, что там не просто безымянные агенты, а отсылки к историческим личностям. Что здесь может пойти не так? Может быть «предсказатель текста» — это плохая архитектура для принятия решения? Возможно. Но путь проб и ошибок позволит найти истину. Ведь когда-то и генерация текста была сложной задачей, а теперь модели вполне и вполне умные.

Сегодня без айтишного мема, но с баяном, который встречается мне раз в год. И до сих пор радует. Так что ставим парус и плывём в выходные. А на следующей неделе ожидается немного связанного с ИИ контента. Автор изображения неизвестен.

Продолжаем внезапные познавательные лонгриды. https://habr.com/ru/companies/selectel/articles/1051080/

Очень поздний котомем. Но довольно жизненный. Автор изображения указан на изображении.

Почти внезапно исторический текст о том, как развивались гипервизоры. https://habr.com/ru/companies/selectel/articles/1048226/

Хотя обычные современные компьютеры работают в двоичной системе счисления, я как-то писал, что современные абстракции позволяют превратить булев тип данных в троичный: да/нет/хз. Так вот, когда-то давно были компьютеры на троичной системе счисления. Ну так, почти прототипы. Как видим, они не прижились. Посмотрим, как будут дела у квантовых компьютеров. Автор изображения неизвестен.

Зачем надрывали чеки? Ничего не предвещало, как вдруг у меня разблокировалось воспоминание: раньше во всех магазинах кассир надрывал чек, прежде чем отдать его покупателю. На чеке, вообще-то полезная информация написана, а кассир безальтернативно наносит повреждения. Но я уже давно не видел, чтобы так делали. Что это было и зачем? Оказалось, что это тёплый ламповый механизм подтверждения некоторых товаро-денежных отношений. Раньше встречалось разделение обязанностей, когда консультант в торговом зале был ответственным за товар, а кассир в отдельном уголке — за получение ваших денег. Тогда порядок действий был примерно такой: 1. С продавцом (или самому) составить список товаров к приобретению. Этот список называется «Товарная накладная». 2. Предоставить товарную накладную кассиру и оплатить по счёту. В ответ на оплату предоставляется чек. 3. Вернуться с чеком к продавцу и получить товар. При этом продавец ставит отметку, что выдал товар. Если отметку не поставить, то нечестный покупатель может попробовать получить товар второй раз. Этот многоступенчатый процесс был распространён в СССР, а в 1993 году в России надрыв чека как подтверждение выдачи товара был закреплен законодательно. Однако с развитием технологий и оптимизациями рабочего процесса схема упростилась: теперь один человек может проконсультировать, составить товарную накладную, принять оплату и выдать товар. При таком подходе нельзя по одному чеку получить товар два раза. Тем не менее, закон оставался в силе до 2016 года, что обязывало рвать чеки. Вот и получилось, что это наследие систем безопасности прошлых поколений, которое стало ненужным и было отменено. Тем не менее, многоступенчатый процесс с товарной накладной, чеком и подтверждением выдачи товара всё ещё можно встретить, но где-то на уровне оптовой торговли.

Так сложилось, что на работе маскот компании — Тирекс. Это, конечно, не обязывает знать про динозавров, но динозавры превращаются в нашу маленькую локальную Римскую Империю. Мы часто о них думаем. Автор изображения неизвестен.

Постоянная бдительность Вайбкодинг завернули в красивую оберётку: большие языковые модели предлагают действия, человек проверяет, разрешает и запрещает. На бумаге звучит неплохо: ИИ автоматизирует рутинную работу, а человек командует. В этом есть подвох: большие языковые модели галлюцинируют, и, говоря жаргоном, могут сделать дичь. Удалить всю базу данных, выполнить деструктивную команду, загрузить на публичный ресурс секреты от внешних систем. Человек здесь — последний рубеж, который согласовывает действия искусственного интеллекта. И, в конце концов, несет ответственность. Игры позволяют нам оценить свои возможности, не совершая деструктивных действий. В компании Scale X сделали браузерную игру, которая протестирует вашу внимательность при работе с ИИ-агентами на компьютере. Идея проста: у вас осталась одна минута до созвона, а вы хотите успеть как можно больше сделать за эту минуту. ИИ-агент предлагает вам действия, соглашайтесь или отклоняйте. Язык исключительно английский. В конце будет статистика, сколько деструктивных действий вы разрешили, сколько безопасных предложений отклонили. У меня получилось 1661 баллов, 11 запросов за минуту и поймал 4 из 4 опасных запроса. Но это не с первого раза. :) https://llmgame.scalex.dev/