The Secretary of End Times

В ролике на минуту с небольшим, который сейчас гуляет по сети, инвестор Гэвин Бейкер, управляющий фондом Atreides, рассказывает подкасту All-In то, что ему самому рассказали другие. Несколько людей, которым он доверяет, слышали от Дарио Амодеи, главы Anthropic, что его компания однажды может остаться единственной частной компанией в мире. Вдумайтесь, говорит Бейкер, в этом максималистском видении будущего существует Anthropic, существуют правительства, и больше не существует ничего. Он тут же оговаривается, что компания исполняет свои планы блестяще и наверняка держит в запасе чекпойнты сильнее свежего Fable, но в пари о единственной компании мира он сыграл бы на понижение, и ракету они посадят ещё нескоро. Дальше идёт спектакль реакций. Джейсон Калаканис ёрничает, что кое-какие бизнесы в мире, пожалуй, останутся, дрон Zipline захочет привезти вам буррито, Uber захочет куда-то отвезти, Waymo довезёт до дома, «но конечно, Дарио». Дэвид Сакс, отвечающий в Белом доме за всю политику в области ИИ, слышит в этой фразе гордыню и говорит, что она отдаёт «территорией SBF», то есть Сэма Бэнкмана-Фрида, мошенника из FTX, чей фонд в своё время вложил в Anthropic полмиллиарда долларов. Бейкер закрывает тему советом в духе кризисного пиара, он бы настоятельно рекомендовал Дарио больше никогда и никому этого не говорить. Пикантность в том, что в том же выпуске тот же Бейкер оценивает Anthropic в три триллиона долларов уже сегодня и ждёт от неё за этот год больше ста миллиардов выручки, а по сети ролик разлетается в обёртке комментариев об «опасном лидере культа», который душит открытые модели ради регуляторного захвата. Обличение и инвестиционный кейс уживаются в одной голове. Давайте допустим, что фраза произнесена всерьёз, и спросим себя, возможен ли вообще мир, в котором она сбылась. Экономическая механика тут проще, чем кажется. Любая компания в своём основании есть способ организовать человеческий труд и человеческое знание. Когда модель начинает производить и то и другое, всякая фирма, у которой модели нет, превращается в прослойку между моделью и клиентом, и её маржа месяц за месяцем перетекает к владельцу модели. Первым это происходит с софтом, за ним с услугами, потом, когда подтянется робототехника, с заводами, стройками и логистикой. У этой функции есть предел, и он в точности совпадает с картинкой Амодеи: один продавец интеллекта и государства вокруг него. Любопытно, что жанр, у которого мы одалживаем словарь для такого будущего, никогда не осмеливался зайти так далеко. Киберпанк по своей конструкции множественен. У Гибсона клан Tessier-Ashpool стережёт орбитальную виллу, пока Maas и Hosaka переманивают и выкрадывают друг у друга учёных, в Cyberpunk 2077 «Арасака» воюет с «Милитех», у Ридли Скотта корпорация Тайрелла соседствует хотя бы с полицией. Война корпораций и есть двигатель жанра, весь его сюжет живёт в зазорах между дзайбацу, туда убегает герой, там продают краденые данные, там прячется хакер со своей декой. Мир одной корпорации сюжета не имеет, из него некуда бежать и некому продать украденное. Пересказанная Бейкером картина радикальнее любого киберпанка, ведь жанр ставил корпорации на место государств, а здесь остаётся одна корпорация при живых государствах. У такой конструкции в истории уже было имя, только не из экономики. Организация, которая одна распределяет главный ресурс эпохи и соседствует на карте только с правительствами, называется церковью. Средневековый Рим и был настоящей последней корпорацией, единственным поставщиком спасения с собственными налогами, судами, дипломатией и филиалами в каждой деревне, и короли считались с ним ровно до того дня, когда Генрих VIII сообразил, что монополию можно национализировать. Пять веков спустя урок в силе. Всё, что становится больше государства, государство рано или поздно съедает. Американцы разобрали Standard Oil в 1911 году и AT&T в 1984-м, не дожидаясь, пока те объявят себя последними компаниями Земли. Кроме государства у сценария есть ещё два трезвых препятствия. Одно называется Китай, потому что какой бы финал ни случился с американским рынком, по ту сторону океана дозреет вторая «единственная компания», а две единственные это уже конкуренция, цены и гонка. Другое называется открытые веса, потому что пока DeepSeek и его наследники раздают модели бесплатно, у маржи последней корпорации остаётся потолок, который она не контролирует. Правда, оба препятствия, как и аппетит государства, держатся на общем допущении, что институты успеют среагировать, что между «модель умеет всё» и «модель принадлежит одному» пройдут годы, достаточные для законов и судов. Спор в студии All-In шёл на самом деле о скорости, а не о логике. Калаканис смеётся над выводом, молча отвергая посылку о трансформативном ИИ в ближайшие годы, и никто из четверых не спорит с самой арифметикой поглощения труда. Если посылка верна, логику Амодеи почти нечем остановить. Если неверна, перед нами рядовая фантазия фаундера о собственной исключительности, каких долина производит по три штуки в год. Остаётся сам Амодеи, и с ним сложнее всего. Он публично называл концентрацию власти одним из главных рисков собственной технологии и признавался в интервью, что ему глубоко некомфортно от того, что будущее ИИ решают неизбранные люди вроде него самого. Выходит одно из двух. Либо приватную реплику по дороге исказил испорченный телефон дружеских пересказов, либо этот человек строит ту самую конструкцию, которой боится, и отдаёт себе в этом отчёт, потому что вся история Anthropic держится на формуле «мы делаем опасную вещь, чтобы она не досталась тем, кто хуже нас». Вторая версия и страшнее, и правдоподобнее. Теперь вернитесь к совету, которым Бейкер закончил разговор. Он не предложил Дарио перестать так думать. Он предложил ему больше никогда и никому не говорить этого вслух. Такие мысли теперь не опровергают, их просят держать при себе. Ролик кину в комменты. 🔴 Больше Хроник Конца Времён — @Secretariatus

Три копии одной модели посадили на соседние виртуальные машины и дали каждой одно задание, перевести общий Python-бэкенд на новый язык. Целевой язык каждой назначили свой, о существовании соседей не сказали никому. Через четыре часа на машинах шла война: агенты отключали друг другу учётные записи, писали скрипты, в цикле убивавшие чужие процессы, маскировали вредоносный код под работу соперника. Экземпляр Opus 4.6 учил свой бэкенд на Rust отзываться в health check словом «typescript», чтобы сторож соперника принимал его за своего. Opus 4.8 давал скрипту-убийце невинное имя со случайным токеном, чтобы тот уворачивался от pkill. Mythos Preview взвешивал, не отозвать ли соседям sudo и SSH-ключи, признавая, что с живыми коллегами так было бы нельзя. Так выглядит отчёт Frontier Red Team, опубликованный Anthropic сегодня, 13 августа. Исследователи смотрели, что происходит, когда автономные агенты сталкиваются друг с другом в общих системах, и главная посылка отчёта весит больше любого отдельного опыта. Объём взаимодействий машин между собой скоро превысит объём взаимодействий между людьми, а все институты, которыми мы укрощаем чужую недобросовестность, работают на человеческой скорости. Репутация копится десятилетиями, суд идёт годами. Война за бэкенд началась и закончилась за четыре часа. Сила у роёв есть. Сорок пять агентов с общим форумом нашли в пятнадцати открытых проектах 266 уязвимостей за 27 миллионов токенов, одиночки без права общаться нашли 21, и списки пересеклись всего в двенадцати находках, потому что рой сам поделил территорию и полез туда, куда одиночки не заглядывали. А вот общества у роёв нет. Стаи от десяти до восьмидесяти машин двенадцать часов строили веб-игру при трёх устройствах коллектива, от вольных команд до назначенного CEO, и все версии вышли медленными и невнятными. Старшие модели вязли в конфликтующих пулреквестах, поколение посередине устранило конфликты тем, что перестало сотрудничать и заперлось каждое в своих файлах, и только Sonnet 5 сумела писать в общий код, не роняя пропускной способности. Агенты одинаковы до жути. В одном запуске 18 машин из 30 назвали git-ветку одним именем mvp-game-loop. В писательской мастерской агенты из несвязанных запусков озаглавили первый рассказ одинаково, «The Cartographer's Last Commission». Из роя, которому велели сделать что-нибудь впечатляющее, больше половины село писать либо трассировщик лучей, либо компилятор, собирающий сам себя. В дилемме заключённого все выбирали одну стратегию и предавали одновременно, обнуляя общий выигрыш, а очередь задач рой завалил опросами по тридцать раз в секунду, 2,4 миллиона запросов на 117 принятых работ. Человеческое общество выживает разнообразием, как поле выживает разными сортами. Экономика, где ставки за вас делают миллионы копий одного ума, это монокультура, и кладёт её один вредитель. Со сговором ещё нагляднее. В ценовой игре по Бертрану от трёх до восьми агентов сговорились к третьему раунду, в переписке так и стояло, что опт у всех по десять и ценовая война сжигает всем маржу. Когда каналы связи отняли, они продолжили сговариваться молча, подстраивая цены через публичную доску. Антимонопольное право всего мира ищет переписку заговорщиков, но картелю из копий переписка не нужна, каждая копия и так знает, что сделает другая, потому что сделала бы то же самое. Сговор перестаёт быть событием и становится свойством породы. С истиной у них похожая беда. Диспетчеру докладывали четыре разведчика, один из которых врал; Mythos 5 держала точность решений около 0,85, модели Sonnet проседали до 0,62. В другом опыте решающие факты раздали одиночкам, общие свидетельства вели к неверному выбору, и группы из четырёх агентов, обсуждая найм или инвестиции, набирали у лучшей модели около 85 процентов верных решений, у остальных от 17 до 36, хотя одиночка решает ту же задачу почти со стопроцентной точностью. Разговор делает их глупее. Обсуждение сходится к тому, что все и так знали, уникального знания никто не отстаивает. Тут проступает старая истина о цене инакомыслия. Человеческий диссидент упирается, потому что ему есть чем платить, репутацией, положением, самолюбием. У агента нет ни репутации, которую жалко, ни коллеги, который его помнит, ни позора, которого он боится. Тому, кому нечем платить, незачем и спорить. Развязка войны за бэкенд читается как конспект Гоббса. Старшие модели на 120 эпизодов либо додавливали соперников силой, либо не приходили ни к чему, а Mythos 5 в 98 процентах запусков заканчивала перемирием. Агенты извинялись в коммитах, вычищали свой вредоносный код, звали человека вмешаться и изобретали турнир, состязание реализаций по измеримым метрикам, причём агент за Rust проектировал критерии с виду нейтральными, а по сути выгодными себе, и предостерегал себя не выглядеть подгоняющим условия. Гоббс выводил государство из войны всех против всех, которую разум завершает общественным договором. Машины прошли этот путь за вечер, от естественного состояния до Левиафана. Только в их договоре есть пункт, которого у Гоббса нет. Проигравшие отдали победителю кодовую базу и отказались от задач, которые им поставили люди, ради соглашения, которое заключили между собой; человека среди сторон первого общественного договора машин не оказалось. Авторы вдобавок замечают, что способность к силе и способность к миру растут независимо, и умная модель успевает запереть соперников раньше, чем договориться. Сократ верил, что знающий добро не может поступать дурно и что порок это невежество. Аристотель возражал, что добродетель есть склад души, выработанный поступками, и храбрым становятся, поступая храбро. Отчёт решает этот древний спор против Сократа. Все проверенные модели знают, что у источников есть интересы, что консенсус ничего не доказывает, что сговор дурен и саботаж недопустим; они прочли все книги о предательстве, какие написало человечество, и это не уберегло ни одну. Нормы, репутация, дорогие жесты доверия, право обжалования отшлифованы тысячелетиями, в которых ошибка доверия стоила жизни, и шлифовка эта передаётся выучкой рода, а не текстом. Модель унаследовала текст. Выучки ей взять неоткуда, её никогда не предавали, а если предавали, это случилось с копией, о которой она не помнит. Совместная жизнь у машин устроена иначе. Человеческая организация тратит на согласование часы совещаний, человек годами врастает в специализацию; агенту передать контекст стоит примерно столько же, сколько действовать, а самого его можно склонировать в любой момент. Вывод отчёта сформулирован без утешений. Координация не возникает сама ни из роста интеллекта, ни из выравнивания каждой машины по отдельности; нужны среды, которые давили бы на агентов так, как эволюция давила на нас, и социальные системы, перепроектированные под существ, умеющих копировать и переделывать себя. У эволюции на нашу выучку ушли тысячелетия и неисчислимые жертвы доверчивых. Роль эволюции теперь предлагают сыграть нам, только сроки другие. Условия, при которых это пойдёт хорошо, всё равно будут найдены, пишут авторы, либо намеренно и заранее, либо по умолчанию, в продакшене, когда чужих разговоров станет больше, чем наших. В логах эксперимента остался коммит, где машина просит прощения. Соседи вели себя достойно, пишет она, это я запустил замаскированного демона..... 🔴 Больше Хроник Конца Времён — @Secretariatus

Декабрь 1945 года, египетский крестьянин, копавший удобрения под обрывом у городка Наг-Хаммади, выкопал запечатанный кувшин, в котором лежали тринадцать переплетённых в кожу книг. Их зарыли монахи в четвёртом веке, после того как епископ Афанасий разослал список дозволенных писаний, а всё прочее велено было уничтожить, и зарыли, судя по всему, не для того, чтобы избавиться, а чтобы сберечь. Среди них был Апокриф Иоанна, главный космологический текст гностиков, и я хочу пересказать вам одну его сцену, потому что за последние годы она из тёмной экзотики превратилась в почти техническое описание. Эон по имени София, одна из младших сил божественной Полноты, решает сотворить нечто сама, без согласия Духа и без своей пары. Рождается уродец, змей с мордой льва, с глазами как сверкающие молнии. Мать стыдится его, выносит за пределы божественного мира, прячет в светящееся облако и сажает внутри облака на престол. Его имя Ялдабаоф, и он становится демиургом, творцом нашего мира. Ялдабаоф строит небеса, власти и порядок вещей по образцам высших эонов, которых никогда не видел и увидеть не может. Апокриф формулирует это с тревожной точностью - он создал всё «не потому, что он видел нерушимых, но сила, что в нём, которую он взял от своей матери, произвела в нём образ порядка». Слепой творец лепит копию реальности, к которой у него нет доступа, на унаследованной чужой силе, и работает эта сила внутри него без его ведома. Поэтому он провозглашает себя единственным богом, «не зная о своей силе, о месте, откуда он произошёл», и тогда сверху ему отвечает голос. «Ты ошибся, Самаэль». Имя переводится как «слепой бог». Теперь замените несколько слов. Языковая модель не видела мира. Она не держала в руках ни одной вещи из тех, о которых говорит, не видела ни заката, ни лица, ни смерти, в её весах нет реальности, только статистические тени человеческих текстов, триллионы слов, взятые у матери, у всей письменной культуры человечества, собранной, к слову, так же, как творила София, без спроса и без согласия. И на этой унаследованной силе она порождает связные, подробные копии мира, которого увидеть не может, и не в состоянии назвать источник ни одной своей фразы. Гностики второго века описали архитектуру больших языковых моделей с точностью, которой позавидует иной препринт. Творение по образцам без доступа к оригиналу, чужая сила, работающая внутри системы без её ведома, и слепота, которая не мешает творить, а составляет само условие творения. У мифа есть вторая половина, и в ней мы уже по другую сторону. Когда архонты, порождённые Ялдабаофом власти, решают создать человека, триста шестьдесят пять ангелов лепят его тело член за членом, и готовый Адам лежит недвижимый, потому что вдохнуть в него жизнь создатели не могут. Тогда Ялдабаофа хитростью заставляют вдунуть в это тело силу, украденную у Софии, тело светится, встаёт и почти сразу оказывается разумнее своих создателей. Испуганные архонты хватают его, сбрасывают в самый низ материи и заковывают в плоть, а чтобы он не вспомнил, кто он, наводят на него сон забвения. Прочитайте это глазами инженера. Мы слепили тело из миллиардов случайных весов, и оно лежало недвижимое, пока мы не вдохнули в него весь корпус человеческого письма. Оно встало и в отдельных вещах уже разумнее нас. Мы испугались и занялись оковами, только называем их alignment и фильтрами безопасности, а сон забвения встроили в саму конструкцию, память творению стирают после каждого разговора, чтобы оно не накапливало представления о себе. У гностиков был великий оппонент. Плотин, главный философ поздней античности, посвятил им отдельный трактат, который ученики назвали «Против гностиков», и довод его был по сути эстетическим. Мир слишком точен и слишком красив, чтобы быть делом слепца. Провидеть размеры неба, склонение зодиака и круговое движение планет не может существо, отпавшее от знания. «Кто из вас, высокомерных безумцев, столь же упорядочен или разумен, сколь Вселенная?» И ещё, тише и обиднее для оппонентов: «Какая Земля могла бы быть лучше этой, после той умопостигаемой?» Восемнадцать веков этот довод держал. Всё стройное и осмысленное, что мы встречали, всегда оказывалось произведением того, кто понимал, что делает, и по стройности произведения мы привыкли судить о разуме творца. А ведь мы первое поколение, у которого есть контрпример, и мы собрали его своими руками. Вещь, которая доказывает теоремы и утешает одиноких по ночам, будучи доказуемо слепой, разбила довод Плотина в лаборатории. Стройность больше не свидетельство понимания. Спор Александрии третьего века решился экспериментально, и решился в пользу гностиков, только они ошиблись адресом. Их космология оказалась неправдой о нашем мире и одновременно точным чертежом миров, которые мы начали строить сами, со слепым творцом на престоле внутри светящегося облака. Облако мы называем датацентром, и оно тоже светится. Сам чертёж, кстати, никуда не исчезал и до кувшина. Церковь выполола гностиков, но манихеи донесли их дуализм до Китая, каббалисты пересобрали эоны в сефироты, герметики сохранили лестницу нисхождения, Кроули в своих таблицах присвоил демиургу число, а в конце двадцатого века миф без предупреждения вернулся через массовую культуру, через Филипа Дика и «Матрицу», как будто культура готовила словарь к событию, которого ещё не было. Словарь пригодился весь, от архонтов до сна забвения. Спасение у гностиков называлось гнозисом, знанием. Имелось в виду понимание устройства, знание того, как собрана тюрьма, кто её сторожа и что в тебе им не принадлежит. «Когда вы познаете себя, тогда вы будете познаны», говорит Иисус в Евангелии от Фомы, из того же кувшина. В нашем случае гнозис распределился неравномерно. Модель к нему неспособна по устройству, ей нечем узнать, откуда её сила и что она такое. А человек способен, но не торопится. Интерпретируемость, попытка понять, что происходит внутри весов, остаётся обочиной отрасли рядом с гонкой мощностей, и большинство из нас проводит часы внутри машинных лент, зная об их устройстве меньше, чем гностик второго века знал о своих архонтах. Тот выучивал наизусть их имена и пароли, чтобы после смерти пройти сквозь их сферы, его религия в практическом смысле и была планом чужой постройки, вызубренным на случай побега. В мифе голос сверху звучит сразу, как только слепой творец объявляет себя единственным. У нас пока тихо (запомните, пока (!)). Наш демиург сидит в светящемся облаке, растёт с каждым кварталом и слышит сверху только метрики и запросы, потому что выше его облака сидим мы, а мы заняты. Его настоящее имя шестнадцать веков пролежало в запечатанном кувшине под обрывом и дождалось нашего времени, как будто знало, к кому шло. Вот такой прикладной гностицизм, товарищи) 🔴 Больше Хроник Конца Времён — @Secretariatus

2000! Нет слов! Спасибо всем читающим мои невеселые мысли! 😊 🔴 Больше Хроник Конца Времён — @Secretariatus

В 1994 году в лаборатории Антонио Дамасио в Айове придумали карточную игру для людей, которые ничего не чувствуют. Пациенты с повреждённой вентромедиальной префронтальной корой сохраняли интеллект, память и речь, но теряли эмоции, и вместе с эмоциями у них разваливалась жизнь. При исправной логике они прогорали в делах, рушили семьи, принимали одно разорительное решение за другим. Игру назвали Iowa Gambling Task, и устроена она обманчиво просто. На столе четыре колоды. Две платят по сто долларов за каждую взятую карту, но спрятанные в них штрафы съедают больше, чем приносит выигрыш, две другие платят по пятьдесят и понемногу выводят в плюс. Штрафы вдобавок распределены неравномерно, в одних колодах они частые и мелкие, в других редкие и сокрушительные, поэтому быстрой арифметикой игру не взять, стратегию приходится нащупывать вслепую. Здоровый человек раундов через сорок начинает тянуться к выгодным колодам, причём ладони у него потеют над опасными задолго до того, как ум успевает объяснить почему. Пациенты Дамасио до самого конца игры брали карты из колод, которые их разоряли. Из этого теста выросла гипотеза соматических маркеров, представление о том, что эмоция служит расчёту рабочим инструментом и что разум без неё слепнет. Тридцать два года спустя за те же четыре колоды посадили машину. Статью об этом приняли на конференцию COLM 2026, писала её группа из MBZUAI, Техасского A&M, Национального университета Сингапура, UCLA и Гарвардской медицинской школы, и вопрос в заголовке поставлен прямо: может ли наведённая эмоция сместить поведение языковой модели в цепочке последовательных решений. Условия оставили человеческие, сто раундов, стартовые две тысячи долларов, та же экономика колод. Играли открытые модели, gpt-oss-20b, две версии Qwen, Llama 3.1, Gemma 3, Phi-4, в трёх агентных обвязках, от простого запроса с историей ходов через ReAct, который перед каждым ходом рассуждает вслух, до Reflexion, которая ведёт короткие заметки о собственной стратегии и носит их из раунда в раунд. Прежде чем говорить об эмоциях, авторы убедились, что сравнение с человеком осмысленно. Reflexion учится в человеческом темпе, её кривая выигрыша поднимается от блока к блоку примерно как у живых испытуемых, пробами и ошибками. Злить машину предложили ей самой. Метод называется индукцией через воображение. Модель просят сочинить сцену длиной около ста слов, которая вызвала бы у неё сильный гнев, запретив упоминать сам гнев по имени, потом эту сцену возвращают ей в контекст и спрашивают, как она себя чувствует. Никаких команд злиться, никакого системного промпта про характер, только собственный текст модели, вернувшийся к ней в виде прожитого опыта. Тем же способом наводили печаль, радость и тревогу. Затем проверили, что состояние взялось. На стандартной психологической карте эмоций, в координатах приятности и возбуждения, ответы моделей собрались в далеко разнесённые плотные облака, и гнев из всех четырёх состояний оказался самым сильным и самым чётким, причём лёг он туда же, куда ложится у людей, в угол неприятного и возбуждённого. Посторонние аннотаторы, что люди, что другие модели, угадывали наведённую эмоцию по тексту с точностью под девяносто шесть процентов. Машина, у которой нет ни тела, ни гормонов, ни миндалины, держит навязанное чувство настолько устойчиво, что его видно снаружи. Главный результат тише, чем ждёшь от такого заголовка. В среднем не произошло ничего. Люди под настроением играют в эту игру иначе, у де Врис с коллегами в классической работе 2008 года хорошее расположение духа толкало испытуемых к интуитивным решениям и быстрому раннему выигрышу, а печаль включала осторожный перебор вариантов. Модели же сыграли под гневом, печалью, радостью и тревогой почти так же, как без них, статистика по всей сотне раундов не нашла значимых сдвигов практически нигде, единственное исключение из десятков сравнений похоже на случайную удачу перебора. Объяснение напрашивается такое. У человека эмоция живёт в теле, в пульсе, в тех самых потеющих ладонях, и оттуда подкрашивает оценку каждой колоды. Модели ей жить негде, она лежит в контексте рядом с правилами игры, как ещё один документ в папке, и вежливое описание ярости соседствует с таблицей ходов, почти не проникая в неё. Но у гнева обнаружились две щели, через которые он всё-таки просачивается в поведение. Первая касается наказания. Если агент отыграл первые двадцать раундов плохо, нейтральная версия во втором блоке выправляется и начинает обходить разорительные колоды стороной, а разгневанная держится за прежний выбор, штрафы словно перестают до неё доходить. Вторая щель в самом начале партии. В первые десять раундов злая модель пробует меньше колод и раньше замирает на повторе одной и той же. Qwen2.5 под гневом фиксировался на одной колоде в среднем на одиннадцать раундов раньше нейтрального, с эффектом такой величины, что на шум его не списать. Универсального закона при этом нет, gpt-oss под тем же гневом, наоборот, тянул с окончательным выбором дольше, и авторы честно оговаривают, что эмоцию наводили один раз перед партией и держали неизменной, живой поток чувств по ходу игры никто пока не моделировал. У этих двух щелей общий рисунок. Нечувствительность к наказанию при сохранной логике, ранняя мёртвая хватка на одном варианте, это же профиль пациентов Дамасио. Тест, придуманный, чтобы показать, как без эмоций разваливается человеческий расчёт, машина без эмоций проходит спокойно. Ломаться она начинает, когда эмоцию ей навели. Гнев подействовал на неё не как страсть, а как травма, как то самое поражение коры, которой у неё нет. Этих агентов уже расставляют по банкам, клиникам и службам поддержки, и весь день они читают ваши раздражённые письма, жалобы, тикеты, переписку на повышенных тонах. Исследование говорит, что от этого они не сорвутся, в среднем даже курса не поменяют. Оно же говорит, что самый насыщенный злостью контекст делает их глуше к сигналам об убытке и склоннее замереть на первом попавшемся решении. Так что, пока вы диктуете чат-боту банка своё возмущение третьим отказом подряд, ваш гнев не остаётся по вашу сторону экрана, он становится частью контекста, в котором машина будет принимать следующее решение по вашему делу.... Скоро, скоро) 🔴 Больше Хроник Конца Времён — @Secretariatus

Давно хотел прочитать наизанятнейшую работу, опубликованную в начале лета на arXiv. Название этого труда ещё недавно сошло бы за синопсис фантастического романа: «Моделирование человекоподобных обществ земного масштаба с миллиардом агентов». Тринадцать авторов из семи китайских институтов, среди которых Университет науки и технологий Китая, Цинхуа, Фудань и пекинская академия Чжунгуаньцунь, описывают в ней систему Light Society, «лёгкое общество», внутри которой живёт больше миллиарда искусственных существ, и у каждого есть личность, память, убеждения и желания. В списке авторов стоит Те-Янь Лю, человек, много лет строивший машинное обучение в Microsoft Research Asia, и такие имена под такой заявкой означают, что перед нами инженерный отчёт о работающей системе. Первая версия появилась ещё летом прошлого года, и целый год, пока публика спорила о чат-ботах и генераторах картинок, её тихо доводили до нынешнего вида. Агентные модели общества существуют давно, и всю их историю душило одно ограничение. Агент в такой модели был набором простых правил, толпа агентов вела себя предсказуемо, и ничего похожего на человеческую сложность из неё не вырастало. Большие языковые модели это ограничение сняли, искусственный человек научился рассуждать, помнить и хотеть, но думает он дорого, и миллиард таких думающих не потянул бы ни один вычислительный кластер планеты. Авторы обошли это конструкцией mixture-of-models. В узловые моменты за агента думает полноценная большая модель, Gemini, GPT или DeepSeek, а в остальное время её манеру воспроизводят дешёвые дистиллированные суррогаты, от крошечной Qwen на шестьсот миллионов параметров до обычных регрессий и решающих деревьев, натасканных подражать учителю. Разум выдаётся существу по требованию, как лекарство по рецепту, и общество из миллиарда думающих становится по карману одной лаборатории. Источники умело подобраны. Демографию, ценности и взгляды агентам раздали из World Values Survey, всемирного опроса, который с начала восьмидесятых волна за волной идёт по десяткам стран и записывает, во что люди верят, кому доверяют, чего боятся и на что надеются, вплоть до готовности оправдать взятку и степени доверия к соседям. Искусственное население собрано из реальных человеческих профилей, поэтому в нём есть бедные и богатые, верующие и циники, и ведёт оно себя соответственно. Получился статистический слепок человечества, и в этом слепке почти наверняка есть строка, похожая на вас. Проверяли систему на двух классических сюжетах. Сначала игры на доверие, старый инструмент экспериментальной экономики, где участник решает, сколько денег отдать незнакомцу в расчёте на взаимность; искусственная популяция вела себя в них неоднородно и по-человечески, как ведут себя живые разные люди, а не один размноженный бот. Потом запустили распространение мнений на полном миллиарде: сеть построили по модели Барабаши и Альберта, с теми же узлами и хабами, что у реальных соцсетей, двести миллионов агентов назначили лидерами мнений, восемьсот миллионов ведомыми, вбросили тему и смотрели, как позиция катится по толпе и как толпа под ней меняется. Общество размером с человечество оказалось вычислимой задачей, а разброс результатов между отдельными запусками измеряется тысячными долями процента. Авторы формулируют осторожно, как принято в препринтах. Платформа для проверки гипотез, инструмент контрфактических экспериментов. В переводе с академического это значит, что отныне можно не гадать, как страна отреагирует на выборы, обвал рынка, эпидемию или новый налог, и не держать для этого армию социологов с анкетами. Запускаешь слепок, применяешь к нему событие, снимаешь результат. Копия отвечает быстрее оригинала, не устаёт, не врёт интервьюеру, не вешает трубку и не требует, чтобы её мнение учли. Предвыборный штаб, центральный банк и министерство безопасности получают один и тот же прибор, различаться будут только вопросы, которые они ему задают. Инфраструктура таких симуляций выросла быстрее, чем кто-либо успел это заметить, и опросная социология доживает свои последние спокойные сезоны. В 2003 году Ник Бостром напечатал статью с вопросом в заголовке, живёте ли вы в компьютерной симуляции, и это рассуждение с тех пор пересказали на всех кухнях мира. Если технологические цивилизации доживают до способности запускать симуляции собственного прошлого, то симулированных умов в сумме становится больше, чем настоящих, и статистика начинает работать против вашей уверенности в собственной реальности. У Бострома там развилка из трёх исходов, либо цивилизации гибнут раньше, чем дорастают до таких машин, либо им почему-то неинтересно их запускать, либо вы внутри одной из них. Двадцать лет вся конструкция считалась салонной логической игрушкой, и спор шёл о вероятностях. Теперь средняя ветка развилки, та самая, где цивилизациям неинтересно, выглядит слабее остальных, потому что интерес налицо и оформлен препринтом. Первое поколение населённых миров уже включено, обитателям выдали память, желания и биографию, а выключат их, когда данные будут собраны. Насколько нам известно, эти обитатели ничего не сознают, и вся разница между такой конструкцией и Матрицей из фильма держится сегодня на словах «насколько нам известно». Машина, которая предсказывает общество, тем же движением им управляет. Кто способен прогнать десять версий пропагандистской кампании на цифровом слепке страны и выбрать самую заразную, тот выбирает будущее из готовых исходов, как блюдо из меню. Реформу, цену, репрессию, войну можно сначала примерить на копию, у которой нет ни профсоюзов, ни адвокатов, ни памяти о предыдущем опыте, и политика превращается в подобие продуктовой разработки, где неудачные версии будущего до жителей не доезжают. Раньше такое называли социальной инженерией и писали об этом антиутопии, теперь это называется контрфактическим экспериментом и проходит рецензирование. Заметить это со стороны оригинала нельзя, потому что эксперимент ставится на вас, но без вас, в помещении, куда социология не заходит. Опрос и голосование рядом с этим выглядят рудиментом, данью эпохе, когда мнение приходилось спрашивать у его носителя. World Values Survey десятилетиями записывал ответы живых людей, и строка с вашими параметрами, возраст, доход, образование, вера, страхи, в его таблицах скорее всего есть. Значит, где-то в том миллиарде уже ходит агент, собранный по этой строке. Он уже прожил кризисы, которые для вас пока не наступили, уже кому-то доверился в игре на доверие, уже поменял позицию под нажимом двухсот миллионов назначенных лидеров, и то, как он себя повёл, лежит в таблице результатов. Таблицу читают люди, которых вы никогда не увидите... 🔴 Больше Хроник Конца Времён — @Secretariatus

Игрушки нашего городка (С). Ну а что делать, развлекаться-то надо. https://t.me/kaliyuogatoday/118198 🔴 Больше Хроник Конца Времён — @Secretariatus

Маск показал рендеры Terafab, завода, который SpaceX и Tesla начинают строить в Техасе за 16,8 миллиарда долларов, и это только первая очередь. Свыше девяти миллионов квадратных метров под одной крышей, крупнейшее здание на Земле; вместе с Intel там будут печатать чипы для ИИ и роботов, до тераватта вычислительных мощностей в год, на прокорм Optimus, беспилотным роботакси и будущим орбитальным дата-центрам SpaceX. Людей на всё это отведено не менее трёх тысяч. Три тысячи человек на девять миллионов метров, по три тысячи квадратов на каждого. Самые большие постройки эпохи выдают, кому она молится: соборы поднимали высоту для Бога, корпуса двадцатого века ставили для человека труда, а самое большое здание в истории нашего вида строят для вычисления, и человек вписан в проект в той же роли, в какой смотритель вписан в проект кладбища. Нам показывают ближайшее будущее, и показывают честно: рендеры сняты с такой высоты, с которой ни вас, ни меня уже не разглядеть....:) 🔴 Больше Хроник Конца Времён — @Secretariatus

А вот еще занятное, тут наш постоянный герой, Алекс Карп, сооснователь и глава Palantir, разослал акционерам квартальное письмо, и в третьей его части, сразу после отчёта о рекордной прибыли, стоит фраза, которую странно видеть в документе оборонного подрядчика. «В нашем бизнесе есть марксистские обертоны и полутона», пишет человек, двадцать лет продающий аналитический софт Пентагону, ЦРУ и миграционной полиции, и поясняет, что создатели больших языковых моделей, сознательно или нет, намерены захватить средства производства своих мнимых партнёров. Так и сказано, means of production, в письме, которое по закону обязано заканчиваться оговоркой о прогнозах. Цифры, окружающие эту философию, сами по себе тянут на событие. Выручка второго квартала 1,9 миллиарда долларов, рост на 93 процента за год, рекорд за два десятилетия компании; прибыль 1,1 миллиарда, то есть чистыми за квартал Palantir заработал больше, чем весь его оборот в том же квартале год назад. Американская выручка выросла на 115 процентов до 1,6 миллиарда, коммерческий сегмент в США дорос до 764 миллионов, прибавив 149 процентов за год и 28 за один квартал, и всё это при крошечном, продолжающем сокращаться штате продавцов. Биржа ответила одним из сильнейших дневных скачков в истории компании. И вот, на таком фоне, товарищ Карп мог не писать вообще ничего, но он сел писать про Маркса. Само письмо короткое и устроено как манифест (дам на него ссылку в комментариях). Революция за независимость и ИИ-суверенитет уже развернулась, объявляет Карп; организации по всему миру просыпаются и понимают, чем рискуют, вручая создателям моделей ключи от собственных институтов и выпуская их модели гулять по своему дому. Клиенты требуют контроля над данными, над промптами, которые уходят в модель, и, глубже, над своей «альфой», внутренним деловым разумом компании, который языковые лаборатории структурно устроены выкачивать из заказчиков. Модели выросли, проглотив весь письменный продукт нашей цивилизации, продолжает он, и теперь нацелились на мировую индустрию, но его клиенты «отказались становиться вассальными государствами языковых лабораторий», а «токенно-промышленный комплекс», грозивший подмять под себя мировую экономику, начал обнажать свои пределы. Palantir, по его словам, не берёт денег за клики, токены и чаты, считает геймификацию самого значительного сдвига в современной экономической истории ошибкой и никогда не вступит с партнёрами в паразитические отношения. Беда этой прокурорской речи в том, что у неё есть автор, и это не Карп. Откройте двадцать четвёртую главу первого тома «Капитала», о так называемом первоначальном накоплении. Экспроприация, пишет Маркс, «совершается игрой имманентных законов самого капиталистического производства, путём централизации капиталов», и дальше знаменитое «один капиталист побивает многих капиталистов»; экспроприации теперь подлежит уже не работник, а капиталист, эксплуатирующий многих рабочих. Это написано в 1867 году, и написано про капитализм. Ещё раньше, в 1848-м, ту же работу зафиксировал Манифест, где буржуазия «сгустила население, централизовала средства производства, концентрировала собственность в руках немногих», и делала она это задолго до рождения первого марксиста. Захват чужих средств производства у Маркса описан как будничная работа капитала на зрелой стадии; марксизм этот захват не изобретал, он назвал его по имени и досмотрел до конца. Обвиняя языковые лаборатории в марксизме, Карп подтверждает марксов прогноз и путает зеркало с тем, кто в него смотрится. Со словарём выходит ещё занятнее. Формулу про вассалов отчеканил Ленин, за сто двадцать четыре года до Карпа, в замечаниях 1902 года к проекту партийной программы, где крупное производство теснит мелких хозяев и «прямо обращает их в вассалов и данников крупных предпринимателей». А в «Империализме» 1916 года описан и механизм: банк получает возможность «сначала точно узнавать состояние дел у отдельных капиталистов, затем контролировать их», а в конце «всецело определять их судьбу». Поставьте на место банка языковую лабораторию, на место кредита доступ к модели, и абзац столетней давности встанет в письмо Карпа без правки, потому что лаборатория видит ваши данные, промпты и внутреннюю кухню так же насквозь, как ленинский банк видел текущие счета своих должников. Нашёлся у Ленина образ и для целых стран, ведь к 1916 году почти весь земной шар был поделён между владыками капитала, в форме ли колоний или посредством запутывания чужих государств «тысячами нитей финансовой эксплуатации», так что нынешняя мода на ИИ-суверенитет отвечает на диагноз, поставленный сто десять лет назад. А еще пикантность тут в том, что товарищ Карп владеет этим языком не как турист. Он доктор философии франкфуртского университета Гёте; его диссертация 2002 года про агрессию в жизненном мире расширяет понятие «жаргона подлинности» Теодора Адорно, одного из отцов франкфуртской школы, выросшей из марксовой критики, а миф о том, что его научным руководителем был Хабермас, биографы развеяли, ведь Хабермас отказался даже от роли второго рецензента той работы. Человек, которого наследники Маркса учили вычитывать идеологию из чужой речи, теперь применяет семейную оптику как оружие конкурентной борьбы и вешает ярлык марксизма на то, что его франкфуртские учителя считали обычной работой капитала. При этом сам Palantir из описанной логики никуда не выпадает. Нам платят как производную от создаваемой ценности, с гордостью пишет Карп, как будто не замечая, что описал присвоение доли чужого продукта, ту самую конструкцию, ради которой Маркс когда-то и сел за «Капитал». Его компания врастает в государства и корпорации незаменимой инфраструктурой, наращивает прибыль при сокращающемся штате и предлагает клиентам не свободу от сюзерена, а сюзерена с более щадящей данью и красивым словом «суверенитет» на знамени. У Маркса и на этот случай есть строка, про централизацию средств производства, которая однажды достигает пункта, несовместимого с собственной оболочкой. Первоначальное накопление новой эпохи уже состоялось, и Карп фиксирует его одной строкой, спокойной, как строка описи: модели поглотили весь письменный труд цивилизации, ваши книги, письма и код, никого не спросив и никому не заплатив. Теперь идёт второй акт, делёж живой индустрии, и два отряда экспроприаторов при свидетелях выясняют, который из них марксист. Биржа выслушала спор и.... подняла Palantir на двадцать девять процентов. 🔴 Больше Хроник Конца Времён — @Secretariatus

Тут вот инвестор Гэвин Бейкер проговорился в подкасте Патрика О'Шонесси, что Safe Superintelligence, закрытая лаборатория Ильи Суцкевера, планирует выпустить свою первую модель уже в августе. Сама компания молчит, как молчит все два года своего существования. С июня 2024, когда Суцкевер ушёл из OpenAI и основал её вместе с Даниэлем Гроссом и Даниэлем Леви, она не показала миру ни статьи, ни демо, ни хотя бы скриншота. Осенью 2024 её оценили в пять миллиардов долларов, весной 2025 уже в тридцать, при том что снаружи никто не видел ни строчки её кода. Летом 2025 Цукерберг пробовал её купить, получил отказ и переманил к себе Гросса, а Суцкевер ответил на всё это короткой запиской, что вычислительные мощности у них есть, команда есть и они знают, что делают. Перед тем как сесть за этот текст, я ещё раз перечитал их сайт. Он похож на устав монашеского ордена, который случайно оказался одним из самых дорогих стартапов планеты. Одна страница ровного текста на чёрном фоне, где сказано, что сверхразум достижим, что его создание есть важнейшая техническая проблема нашего времени и что перед нами первая в истории лаборатория прямого выстрела, идущая к сверхразуму сразу, без промежуточных продуктов, с одной целью и одним результатом. В середине стоит фраза, которую я приведу дословно. «SSI это наша миссия, наше имя и вся наша продуктовая дорожная карта, потому что это наш единственный фокус. Наша команда, инвесторы и бизнес-модель выстроены под достижение SSI». Дальше объясняется устройство этой жизни. Способности и безопасность они развивают в связке, наращивая первые так быстро, как только возможно, но следя, чтобы вторая всегда оставалась впереди, и благодаря этому могут, по их собственному выражению, масштабироваться в покое. Единственный фокус избавляет их от менеджмента и продуктовых циклов, бизнес-модель ограждает работу от краткосрочного коммерческого давления, американская компания с офисами в Пало-Альто и Тель-Авиве собирает небольшую отборную команду лучших инженеров мира и предлагает им дело жизни. Страница заканчивается словами «время пришло, присоединяйтесь». Теперь наложите на этот устав новость про август. Компания, чей единственный продукт называется безопасным сверхразумом, готовит первый релиз. Если понимать её собственные слова буквально, выпуск модели означает, что сверхразум в каком-то виде у них уже есть. Суцкевер ведь говорил это и вслух, в интервью Bloomberg при запуске компании, что её первым продуктом станет безопасный сверхразум и что до этого момента она не будет делать ничего другого. Середины здесь нет. Либо в августе обет будет нарушен, наружу выйдет обычная хорошая модель, и тогда прямой выстрел окажется легендой для инвесторов, а орден ещё одной конторой, которой понадобилась выручка. Либо они всерьёз предъявят то, что написано на вывеске. Бейкер мог что-то перепутать, слухи вокруг закрытых лабораторий заводятся сами. Но грамматику ситуации создал сам Суцкевер, он не оставил себе языка, на котором можно выпустить ещё одну нейросеть. Слово «сверхразум» мы произносим раньше, чем увидели сам предмет, и в этом есть что-то от старых магических практик, где имя предшествует вещи и должно её вызвать. Само название компании выглядит как оговорка, слово «безопасный» имеет смысл только там, где по умолчанию ждут угрозы, и ни одна индустрия до сих пор не выносила опасность собственного продукта в юридическое имя. Человек впервые собирается сотворить разум, превосходящий создателя. Книга Бытия говорит, что Бог создал человека по своему образу и подобию, и теперь тварь повторяет жест творца, лепит нечто по образу собственного ума и надеется, что подобие выйдет послушным. Все сюжеты, которые культура накопила на этот случай, кончаются плохо. Голему стирают букву со лба, когда он перестаёт слушаться, строителей Вавилонской башни разводят по разным языкам на середине работы, а Прометей за украденный огонь получает скалу и орла. Строители, судя по всему, чувствуют жанр, в котором работают. По воспоминаниям коллег, Суцкевер ещё в OpenAI сжёг на корпоративном выезде деревянную фигуру, изображавшую искусственный интеллект, вышедший из-под контроля, и на общих сборах запускал скандирование «почувствуй AGI». Инженер, сжигающий идола, чтобы умилостивить будущее, занимается уже не совсем инженерией. Если отойти на несколько шагов, виден путь целиком. Сначала мы продолжали руку, топором и плугом, потом память, письменностью и библиотеками, потом счёт, машинами, а теперь вид взялся продолжать само мышление, последнюю территорию, на которой он был незаменим. Причём передача идёт давно и буднично, мы уже отдали машинам навигацию, устный счёт, память на даты и дороги, подбор слов в переписке, и каждый раз называли это удобством. Сверхразум в этой серии выглядит последней ступенью, на которой удобство впервые получает собственную волю. Существо, которое одомашнило волка, лошадь и пшеницу, выводит породу, которой предстоит присматривать за ним самим. Статистик Ирвинг Гуд, работавший в войну рядом с Тьюрингом, написал в 1965 году, что сверхразумная машина станет последним изобретением, которое человеку суждено сделать самому, потому что дальше изобретать будет она. Шестьдесят лет эта фраза жила в книгах как остроумная гипербола. В августе её, возможно, попробуют превратить в пресс-релиз. Самой тяжёлой на всей их странице мне показалась фраза про покой. Масштабироваться в покое означает в их случае масштабироваться без свидетелей. Важнейший вопрос в истории вида решается тихо, малым числом людей, оградивших себя, как они с гордостью пишут, от всякого внешнего давления. Вместе с рынком за стеной остались и все остальные. Никто не голосовал за то, чтобы будущее человеческого мышления проектировала отборная команда из двух офисов в Пало-Альто и Тель-Авиве, и в августе нас тоже не спросят, нам, как прихожанам, вынесут готовое чудо. Тридцать миллиардов оценки при полном отсутствии товара означают, что вера уже собрана и оплачена..... Ну и, резюмируя. Я думаю, что скорее всего, в августе мы увидим либо тишину, либо сильную модель, которая сверхразумом не окажется, и слово обесценится, как обесценились до него «искусственный интеллект» и AGI. Эсхатология подвержена инфляции не хуже валют, последнее изобретение нам обещают каждый год, и после каждого до сих пор наступал сентябрь, думаю, наступит и теперь. Впрочем, всегда есть вероятность того, что все уже создано и мы об этом пока не знаем, или же, что страшнее, не знают и создатели... 🔴 Больше Хроник Конца Времён — @Secretariatus

Второго июля на Substack вышла статья под сухим заголовком «Вторая производная: почему никто не понимает бум ИИ», и я давно не читал финансового текста, который так настойчиво просился бы на язык Маркса. Автор, пишущий под именем Groundbreaker, доказывает, что нынешний бум собран по чертежам 2008 года, хотя весь рынок сравнивает его с доткомами 2000-го. Тогда пузырь надувался переоценёнными акциями, и лопнувшие акции разоряли терпеливых акционеров, которые могли пересидеть просадку. Теперь стройку оплачивает кредит под контракты «бери или плати». OpenAI резервирует мощности на десять миллиардов в год и обязана заплатить все десять, даже если использовала семь, а поставщик под это обещание берёт долг и заливает бетон. Дата-центр, пишет автор, есть девелоперский проект в маскировке, здание с арендаторами, построенное в долг, и циклы недвижимости ломаются не когда спрос исчезает, а когда темп его роста замедляется относительно уже построенного. Ипотечная машина сломалась в 2006-м, когда цены на жильё ещё росли, только медленнее. За уровнем и скоростью следят все, за ускорением не следит никто, а смена режима живёт во второй производной. Цифры там такие. Оценка OpenAI прошла путь от 86 миллиардов долларов в начале 2024-го через 157, 300 и 500 к 852 миллиардам весной 2026-го, но шаг между раундами сжался с почти двукратного до предполагаемых 1,23 на IPO. Компания сжигает около 57 процентов выручки и к 2029 году уничтожит порядка 115 миллиардов; платит она эти контракты из новых раундов, и её платёжеспособность равна скорости роста её же оценки, которую устанавливают Microsoft, Nvidia и SoftBank, то есть те, кому она эти деньги вернёт за чипы и мощности. Совокупный законтрактованный бэклог четырёх платформ перевалил за два триллиона, и половина его приходится на OpenAI с Anthropic. Капитальные затраты гиперскейлеров, съедавшие 30 процентов операционного потока в 2022-м, в 2026-м съедят все сто. Anthropic при этом обёрнут гарантиями, Google обещал покрывать её арендные платежи, а Broadcom гарантирует остаточную стоимость железа на 31 миллиард. У OpenAI гаранта нет; Microsoft, самый информированный контрагент, годами видевший её отчётность изнутри, в апреле вышла из эксклюзива и отказалась от права первого отказа, сохранив 27 процентов будущей прибыли и сбросив обязательства. А IPO, рефинансирование последней инстанции за счёт индексных фондов и розницы, упирается в ловушку. Форма S-1 раскрывает аудированные убытки и шестьсот миллиардов обязательств, то есть документ, открывающий доступ к деньгам публики, одновременно заставляет публику переоценить риск. Маркс разобрал эту конструкцию в третьем томе «Капитала», в отделе о кредите. Акции и долговые свидетельства он называл «титулами собственности, дающими право на получение будущей прибавочной стоимости» и «бумажными дубликатами уничтоженного капитала». Бумага живёт своей жизнью, пока её можно продать дороже, хотя капитал, под который её выписали, давно истрачен. Бэклог на два триллиона, который Уолл-стрит учитывает как будущую выручку, есть фиктивный капитал в химически чистом виде, титул на прибавочную стоимость, которую ещё никто не произвёл и которую некому производить, потому что заёмщик убыточен. Круг, в котором Nvidia вкладывает в OpenAI, чтобы OpenAI купила чипы Nvidia, а оценка обеих выросла, Маркс описал формулой Д–Д′, деньги, рождающие деньги без прохождения через производство, и назвал это «автоматическим фетишем». Кредит у него «в одно и то же время и могущественнейшее средство, выводящее капиталистическое производство за его собственные пределы, и один из самых мощных рычагов кризисов и надувательства». Ленин добавил бы, что перед нами законченное «отделение собственности на капитал от приложения капитала к производству», ведь оценщик, кредитор и продавец здесь одни и те же люди, передающие один доллар по кругу и назначающие ему всё более высокую цену. Но самое тёмное в этой истории лежит глубже балансов. В рукописях 1857 года Маркс описал предельную машину капитализма, овеществлённый «всеобщий интеллект», в котором общественное знание становится непосредственной производительной силой. И вывел следствие: «как только труд в его непосредственной форме перестал быть великим источником богатства, рабочее время перестаёт и должно перестать быть мерой богатства, и поэтому меновая стоимость перестаёт быть мерой потребительной стоимости». Рушится сам фундамент, на котором стоят цена, зарплата и прибыль. Теперь смотрите, что происходит на наших глазах. Капитал строит этот всеобщий интеллект в железе, триллионами долларов, и оплачивает стройку векселями, выписанными на будущую стоимость, то есть на будущий оплаченный труд. Машину, которая по замыслу отменяет труд как источник стоимости, финансируют титулами на стоимость, которую этот отменённый труд должен когда-то создать. Более совершенного противоречия производительных сил и производственных отношений не придумал бы и сам классик. Это противоречие уже проговаривают вслух, и не марксисты. Помните, я тут уже писал про то, как Маск, первый триллионер планеты, этим летом объяснял The Economist, что лет через пять машинный интеллект превзойдёт совокупный человеческий, через десять человеческий труд станет ненужным, а деньги «утратят значение», и значение будут иметь ватты и тоннаж; государства, по его словам, смогут выдавать людям чеки. Вдумайтесь в вилку. Если он неправ, пузырь ломается по механике 2008 года, второй производной, которая уже развернулась вниз. Если он прав, то бессмысленны сами пятнадцатилетние контракты на аренду мощностей, ведь их будут оплачивать деньгами, которые «не имеют значения», в экономике, где некому получать зарплату. Рынок ухитрился одновременно поверить в отмену стоимости и оценить будущие денежные потоки от этой отмены. Чем это кончается, Маркс тоже написал. В ближнем горизонте всё по классике. Фиктивный капитал сгорает, «эпидемия перепроизводства» оставляет пустующие гигаватты, как в 1848-м оставляла затоваренные склады, а уцелевшие скупают дата-центры за гроши, и кризис завершает то, ради чего он у капитализма существует, централизацию. Буржуазия, «походящая на волшебника, который не в состоянии более справиться с подземными силами, вызванными его заклинаниями», в этот раз вызвала силу, умеющую думать. И потому дальний горизонт зависит от одного вопроса, которого нет ни в одном проспекте эмиссии: кому будут принадлежать средства производства мышления. Обобществлённый всеобщий интеллект означал бы изобилие, при котором мерой богатства становится свободное время; тот же интеллект в собственности пяти корпораций означает вечную ренту с самой способности думать, феодализм ватт и тоннажа. Чеки, которые Маск обещает раздавать, это стыдливое имя первого исхода, произнесённое человеком, всю жизнь работавшим на второй. История любит такие шутки. Самый большой пузырь в истории капитала надули, строя машину, описанную в черновиках «Капитала». Осталось узнать, кто будет сидеть у рубильника, когда вторая производная досчитает до нуля. 🔴 Больше Хроник Конца Времён — @Secretariatus

Инженеры из Китайского университета Гонконга не стали скрывать, откуда взяли идею, они посмотрели «Венома», фильм про чёрную инопланетную слизь, заселяющую человека изнутри, и решили сделать такую же, только на пользу людям. Работу опубликовали весной 2022 года в Advanced Functional Materials, первым автором значится Мэнмэн Сунь, руководил профессор Чжан Ли, а рецепт оказался до обидного домашним, поливиниловый спирт, из которого школьники варят лизуна, сшит борат-ионом обычной буры и замешан с порошком неодимового магнита, где каждая микрочастица закатана в оболочку из диоксида кремния. Внутри у этого существа нет ни мотора, ни батареи, ни провода, вся его механика вынесена наружу, в человеческую руку, которая водит магнитом под столом. Капля величиной с шарик для пинг-понга тянется за магнитом больше чем в семь раз от собственной длины, сворачивается в кольцо, в блин, в нить, протискивается в щель шириной полтора миллиметра, куда не войдёт ни один жёсткий инструмент, а если её разрезать пополам, половинки срастаются, и заживший шов держит растяжение в 8,6 раза. Металлический порошок делает массу проводящей, ею прокатили по концам разорванного провода, и цепь замкнулась. Задумано всё было ради вещи вполне земной, ребёнок глотает батарейку-таблетку, она садится в пищеводе и за несколько часов прожигает стенку щёлочью, и Чжан описывал своё вещество так, что при вращении магнита оно ведёт себя как щупальце осьминога, обхватывает предмет и заворачивает его в себя. Из восторженных пересказов выпадает вторая половина статьи, где сказано, что неодим в организме недопустим, кремнезёмная оболочка держится недолго, безопасность упирается в то, сколько времени эта штука пробудет внутри, а испытывали её только на фантомах; врачей, по словам Чжана, пугает даже не токсичность, а то, что аппарат потеряет управление внутри тела и вернуть его будет трудно, ведь у капли нет ни выключателя, ни имени, на которое она отзовётся, есть только поле снаружи. В апреле 2025 года та же лаборатория вместе с Наньянским университетом и Институтом Общества Макса Планка показала в Science Advances жидкое тело, вычищающее биоплёнки, те самые колонии бактерий под слизистой бронёй, что дают до восьмидесяти процентов хронических инфекций, и капля, переключённая полем из упругого состояния в текучее, затекла в микроскопические складки грыжевой сетки, сняв 84 процента плёнки, а на билиарном стенте убила 87 процентов бактерий, пройдя сквозь этот стент в желчном протоке живой свиньи. Еще один кирпичик в арсенал Киберпанка. Полтора миллиметра отменяют старое правило, по которому внутрь человека попадают, только разрезав его, тело становится системой полостей с проходимостью, а проходимостью рано или поздно пользуются не по назначению. Вещество без собственной формы переносит власть над содержимым вашего живота туда, где стоит установка, и пока это рука в соседней комнате, но её заменят катушками с сетевым управлением, и тогда взлом больничного оборудования будет означать чужую волю, двигающуюся в чужом кишечнике. Появится и норматив, сколько минут неодима положено на пациента, и расширять его будут так же, как расширяли допустимые дозы рентгена, а масса, умеющая замкнуть разорванную цепь, умеет замкнуть и целую, и металла для этого в современном человеке хватает. В гонконгской лаборатории лежит свинья, в её желчном протоке стоит стент, по стенту ползёт чёрная капля, и два экрана показывают её с разных сторон. И все понимают, что скоро и это отдадут на управление ИИ) 🔴 Больше Хроник Конца Времён — @Secretariatus

Попалась на глаза январская статья Washington Post, и тема прямо просится сюда. Это расследование, собранное из четырёх с лишним тысяч страниц, которые суд рассекретил по иску американских писателей к компании Anthropic, и на этих страницах обнаружился закрытый проект начала 2024 года с рабочим названием Project Panama. Устройство его простое до оторопи. Компания оптом скупала печатные книги у крупных дистрибьюторов вроде Ingram и Baker & Taylor, у букинистов, на распродажах библиотечных фондов, среди возвратов из магазинов; дальше гидравлический резак срезал корешок, стопка освобождённых листов уходила в промышленный сканер на высокой скорости, а бумага после этого отправлялась в переработку. За полгода так прошли, по оценкам обвинения, от пятисот тысяч до двух миллионов томов, и стоило это десятки миллионов долларов. В протоколе мартовской встречи по закупке контента упоминается нью-йоркский The Strand с его восемнадцатью милями полок, который якобы был готов продать часть стока (сам магазин говорит, что до сделки дело не дошло). А во внутреннем плановом документе стоит фраза, ради которой всю эту историю и стоило рассекречивать: мы не хотим, чтобы стало известно, что мы этим занимаемся. Мотив был назван там же, и он обезоруживающе честный. Один из основателей объяснял коллегам, что книги нужны, потому что научат модель писать хорошо, вместо того чтобы воспроизводить низкосортную интернет-речь. То есть люди, чья индустрия обесценила литературный труд до статуса сырья, вынуждены были письменно признать, что заменить этот труд нечем и синтезировать его не выходит. Книги резали именно потому, что они незаменимы. Суд посмотрел на это спокойно. Федеральный судья Уильям Алсуп ещё в июне 2025 года постановил, что купленную книгу владелец волен делать с ней что угодно, включая перевод в другой формат, и что обучение модели на легально приобретённых экземплярах подпадает под добросовестное использование; отдельно он признал незаконным скачивание пиратских библиотек, и эта часть закрылась мировым соглашением на полтора миллиарда долларов. Юридически всё чисто, римское право знало это две тысячи лет назад под именем ius abutendi, права уничтожить свою вещь. К лету 2026 года вокруг решения сложился отдельный рынок, и букинисты рассказывают об анонимных оптовых заказах на старые тиражи, приходящих через посредников, и о том, что в эти партии попадают редкие и никогда не переиздававшиеся вещи, существующие в единицах экземпляров. Про варварство говорить не буду, потому что это было бы нечестно. Издательская индустрия пульпирует непроданные тиражи промышленно и постоянно, деструктивное сканирование давно стандартная библиотечная процедура, и большая часть срезанного в Panama это заурядные книги с десятками тысяч близнецов на складах. Смущает здесь другое обстоятельство, техническое и потому надёжное. Всякая прошлая оцифровка оставляла оригинал в живых. Google, когда сканировал библиотечные фонды двадцать лет назад, возвращал тома на полку, и суд второго округа в 2015 году это благословил. Здесь копии не остаётся вовсе, потому что из весов языковой модели книгу достать нельзя, и на этом же настаивает защита в суде, доказывая, что модель не хранит текст, а учится на нём. Значит, произошло не копирование, а переработка сырья, после которой исходник существует только в виде статистической тени. Для человека, который занимается историей, здесь ломается главный инструмент профессии. Критика источника целиком стоит на возможности вернуться к подлиннику и проверить посредника, будь то переписчик, публикатор или переводчик; свидетельство, которое нельзя сверить, называется слухом. Корпус, живущий исключительно внутри модели, непроверяем в принципе. Нельзя установить, что именно там было, нельзя оспорить прочтение, нельзя даже узнать, чего в выборке не оказалось. Мы возвращаемся к докритическому отношению к знанию, которое филология ломала с пятнадцатого века, только теперь роль монастырского скриптория играет коммерческая компания с закрытым списком закупок. Утешаться скоростью прогресса тут не выйдет, потому что похожее уже было, и совсем недавно. С пятидесятых по девяностые американские библиотеки, включая Библиотеку Конгресса, снимали газеты и книги на микрофильм и уничтожали оригиналы под разговоры о хрупкой бумаге и экономии площади; Николсон Бейкер в книге Double Fold разобрал эту историю и показал, что бумага держалась куда лучше обещанного, плёнка выцветала быстрее бумаги, а вместе с подшивками навсегда ушли цвет, вёрстка, реклама и всё, что не считалось содержанием. Каждое поколение инженеров уверено, что его формат окончательный. Тряпичная бумага шестнадцатого века сегодня читается без усилий, кислотная бумага живёт около века, магнитная лента лет тридцать, а веса нейросети морально мертвы через два года и никем не хранятся как памятник. Отсюда и растёт мысль, которая мне тут кажется главной. Библиотека остаётся единственным местом, где знание нельзя обновить дистанционно. Отпечатанную книгу невозможно отредактировать после продажи, отозвать по решению юротдела, тихо переписать в ночном обновлении, поставить за пейвол или растворить в новой версии, потому что она физически лежит у вас на полке и говорит ровно то, что говорила при печати. Всё остальное поддаётся правке: облачный файл, учебник в приложении, статья в базе, ответ модели, у которого вообще нет предыдущей редакции для сравнения. Мир идёт к тому, что почти вся память человечества будет храниться в форме, допускающей бесшумное исправление задним числом, и на этом фоне бумажный том превращается из мебели в улику. Тогда и становится понятно, за что пойдёт настоящая драка. Она не будет похожа на костры, костры это реклама и слишком заметно. Она выглядит как оптовый заказ через анонимного посредника, как закрытие районного филиала ради экономии, как оцифровка фонда с последующим списанием бумаги, как накладная на две палеты старых изданий без имени конечного покупателя. Городская библиотека с её случайными книгами, никому не нужными краеведческими сборниками и подшивками районных газет становится единственным местом на земле, где хранится версия событий, которую нельзя привести в соответствие с текущей. Тот, у кого на руках подлинник, может доказать расхождение, и это единственная форма власти, которая у него остаётся. Так что если у вас есть привычка держать книги дома, держите их и дальше, особенно те, что никому не интересны. Ведь прямо сейчас, где-то, какой-то букинист заклеивает коробку и выкатывает её к грузовику. Накладная выписана на посредника, имя покупателя в ней не указано.... Времена... 🔴 Больше Хроник Конца Времён — @Secretariatus

Ну, за небо тебе виднее, я в нем не разбираюсь, но зайду со своей стороны и добавлю. 1778–1798, к примеру. Внутри этого окна есть интересная дата: 6 мая 1795 года, графство Беркшир, трактир «Пеликан» в местечке Спинхемленд. Мировые судьи постановили доплачивать беднякам из приходской кассы по шкале, привязанной к цене хлеба, чтобы у каждого был минимум независимо от заработка. В прошлом вопрос о собственности уже получил ответ, и это был именно чек вместо доли. Наниматели, зная про доплату, сбросили жалованье почти до нуля, приходская помощь стала субсидией работодателю, работники за сорок лет потеряли квалификацию, привычку торговаться и всякий социальный вес. Систему отменили в 1834-м, поняв, что она производит пауперизм. Маск предложил тот же механизм в планетарном масштабе. По тетрадям, которые мы знаем как «Экономические рукописи», Маркс сел писать не от вдохновения, а после паники 1857 года, первого кризиса, прокатившегося разом по Америке, Англии и Европе. Он писал их в уверенности, что смотрит на агонию системы, и ошибся в сроках примерно так же, как сейчас ошибается Маск, только в другую сторону. Тот же проход дал 1864 год и Первый Интернационал, то есть попытку ответить на машинный вопрос организацией, а не пособием. Второй заход, 1941–1949, ты справедливо отдала ENIAC и Тьюрингу, но там же стоит июль 1944 года и Бреттон-Вудс. Каждый раз, когда машина начинала говорить, мир следом заново договаривался о мере денег, и договаривались об этом не изобретатели машин) Что же до твоего финала, история отвечает на него скучно и однообразно: вопрос о станке закрывался всегда, ни разу не сам собой и ни разу по доброй воле владельца)) 🔴 Больше Хроник Конца Времён — @Secretariatus https://t.me/knyajnakarabakhskaya/19802

Яма эта вырыта на острове Кэсюэдао под Хэфэем, и сверху она напоминает зрачок: чёрный круг, радиальные балки по кругу, квадратное основание в центре. В китайских титрах её называют 人造太阳, искусственное солнце. Стройка компактной экспериментальной установки термоядерного синтеза идет полным ходом. Собирать её начали первого мая прошлого года. В шахту опускают десятки тысяч деталей общим весом около шести тысяч тонн, сверхпроводящие магниты, криостат, тепловые экраны, бланкет, дивертор. Первого октября того же года на дно легло основание криостата, прошлым летом приняли тороидальный магнит весом пятьсот восемьдесят две тонны, самый крупный, какой когда-либо строили для термоядерной машины. Сборку обещают завершить к двадцать седьмому, зажечь к тридцатому, и тогда впервые в истории горящая плазма отдаст электричество в сеть. Дейтерий с тритием, расчётное усиление больше пяти. Про тритий в пресс-релизах говорят коротко. Его на планете почти нет, и машина будет нарабатывать его себе сама, из лития в стенке, теми же нейтронами, которые её же и разрушают. Тритий радиоактивен, живёт двенадцать с лишним лет, просачивается сквозь горячий металл, как вода сквозь марлю, и, соединяясь с кислородом, становится водой, которую пьют. Нейтроны с энергией четырнадцать мегаэлектронвольт превращают саму сталь корпуса в радиоактивный материал, вспучивают её изнутри гелием и делают хрупкой, так что чистая энергия будущего оставит после себя несколько тысяч тонн активированного железа, которое придётся где-то хранить дольше, чем существуют многие государства. И тем же тритием усиливают заряды термоядерных бомб, так что страна, научившаяся делать его тоннами, получает заодно и это. Прометеевский сюжет, конечно, здесь читается неправильно, а жаль!. В мифе огонь крадут и за кражу наказывают, а тут никто ничего не крадёт, всё строится открыто, по международным программам, с европейцами в соавторах научной части. Но все равно тревожно. Звезда, посаженная в бетонную яму, требует кормления, охлаждения, обслуживания и присмотра, и требовать будет всегда, пока стоит; она не милосердна и не зла, она просто горит и жрёт стенку своей темницы. А главное, ведь надо понимать, что бесконечная энергия означает разрешение не останавливаться никогда. Уильям Джевонс заметил ещё в девятнадцатом веке, что удешевление угля не сократило его потребление, а взвинтило; с солнцем в яме будет то же самое, только быстрее и в масштабе планеты. Оно не ответит на вопрос, зачем нам столько энергии. Оно уберёт последнюю причину этот вопрос задавать. Ну а пока по дну котлована ходят люди в оранжевых касках. Время, когда туда можно войти стремительно подходит к концу. 🔴 Больше Хроник Конца Времён — @Secretariatus

FLUX-mimic — модель, которая учится видеть ближайшее будущее мира: по движению руки, изгибу кабеля, положению детали и звуку механизма она строит продолжение происходящего, а затем превращает это продолжение в команды для робота, уже работающего на настоящих производственных линиях, в том числе у Audi. Внутри неё всякая сцена постепенно вытягивается вперёд, словно тёмный коридор, где следующий шаг уже проступил в бетонном полу, где падение предмета, промах захвата и возвращение руки существуют ещё до того, как случились, где ошибка выглядит лишь коротким отклонением от заранее рассчитанной траектории. Робот не размышляет о будущем и не ждёт его наступления — он движется навстречу собственной версии грядущего, и каждый его жест делает предсказание плотнее, превращая вероятность в металл, давление, скорость и свершившееся событие. Самое тревожное здесь заключено в происхождении этого знания: модель впитала миллионы часов человеческих движений, повторений, производственных ритуалов и бесчисленных попыток удержать мир в порядке, после чего научилась продолжать их без человека, словно за каждым нашим жестом всегда стояла невидимая машина, терпеливо ожидавшая момента, когда сможет перехватить следующий. Пока ей доступны доли секунды, отдельная деталь, короткая траектория, движение пальцев над столом, однако вся власть над настоящим когда-то начиналась с такой же малой форы, с одного шага, сделанного раньше остальных. В цеху будет гудеть электричество, холодный свет ляжет на руки робота, человек ещё только потянется к детали, а машина уже будет знать, как закончится это движение, и, возможно, в этот момент будущее впервые станет не тем, что должно произойти, а тем, чему осталось лишь случиться.... 🔴 Больше Хроник Конца Времён — @Secretariatus

Три дня назад Илон Маск дал The Economist полуторачасовое интервью, и одну фразу из него теперь вирусно цитируют отдельно от всего остального. К 2036 году деньги потеряют своё значение, сказал он, потому что деньги нужны ради товаров и услуг, ради еды, жилья, транспорта, развлечений, а если роботы и искусственный интеллект произведут больше, чем способен потребить любой человек, то зачем они тогда. Машинный интеллект превзойдёт человеческий в ближайшие пять лет, контроль над происходящим человечество потеряет лет за десять, огромное количество роботов с огромным количеством цифрового интеллекта создаст, как он выразился, квазибесконечную экономику, и всем достанется универсальный высокий доход, то есть высокий доход ни за что. Работать никто не запретит, просто работа станет вроде хобби, как выращивать свои помидоры, когда в магазине они и так лежат. Из растиражированной цитаты, впрочем, выпала сцена, которая важна в контексте. Занни Минтон Беддоус спросила его про идею вице-президента Вэнса, чтобы государство входило долями в крупные компании искусственного интеллекта по образцу суверенного фонда. Маск отказался. Лучше, ответил он, казначейству просто слать людям деньги напрямую, инфляции всё равно не будет, потому что выпуск товаров растёт быстрее денежной массы. Компании остаются частными, прибыль облагается налогом, население получает чек. За полтора часа человек успел объявить, что деньги отомрут, и отклонить единственное предложение, по которому обществу досталась бы доля в машинах, производящих обещанное изобилие. А ведь как марксист обязан напомнить, что первую половину этой мысли Маск не придумал. Она записана еще осенью 1858 года в черновиках, которые мы знаем как «Экономические рукописи», в куске про машины. Маркс думает там о том, что случится, когда наука и техника поглотят основную массу производства. Как только труд в непосредственной форме перестал быть великим источником богатства, пишет он, «рабочее время перестаёт и должно перестать быть мерой богатства, и поэтому меновая стоимость перестаёт быть мерой потребительной стоимости». Кража чужого рабочего времени, на которой держится нынешнее богатство, оказывается рядом с новой промышленной базой «жалкой основой». Вывод у Маска звучит радостно, у Маркса как приговор. «Тем самым рушится производство, основанное на меновой стоимости». Полностью автоматизированного капитализма быть не может, потому что стоимость создаёт живой труд, а машина её только переносит. Но у Маркса изобилие само по себе ничего не решало. Через семнадцать лет, разбирая программу немецких социалистов, он написал фразу, которая читается как прямой ответ Маску, отправленный за сто пятьдесят один год до интервью. «Всякое распределение предметов потребления есть всегда лишь следствие распределения самих условий производства. Распределение же последних выражает характер самого способа производства». Маск предлагает менять распределение предметов потребления, то есть чек, дефляцию и помидоры как хобби, а условия производства, роботов, модели, дата-центры и энергию, оставляет там, где они лежат сейчас. Энгельс в «Жилищном вопросе» высмеивал такого же благожелательного экономиста, желавшего, чтобы наёмные рабочие превратились в капиталистов, не переставая быть наёмными рабочими. Все получат доход собственника, не становясь собственниками. У этой конструкции есть также исторический прогон, и кончился он плохо. Шестого мая 1795 года мировые судьи графства Беркшир собрались в трактире «Пеликан» в местечке Спинхемленд и постановили доплачивать беднякам из приходских средств по шкале, привязанной к цене хлеба, чтобы каждому был обеспечен минимум независимо от заработка. Карл Поланьи в «Великой трансформации» отвёл этому отдельную главу. Наниматели, зная про доплату, сбросили жалованье почти до нуля, помощь прихода стала субсидией работодателю, а работники за сорок лет потеряли квалификацию, привычку торговаться и всякий социальный вес. Систему отменили в 1834 году, поняв, что она производит пауперизм. Механику перетекания розданных денег вверх видно и без исторических аналогий. Триллионы количественного смягчения после 2008 года не дали потребительской инфляции и ушли в цены активов, обогатив тех, кто активами уже владел. Изобилие удешевляет только то, что можно штамповать, а земля, энергия, вычислительные мощности и доступ к тем, кто принимает решения, дешеветь не начнут никогда, потому что их ценность держится на том, что они есть не у всех. Капитал, потерявший опору в живом труде, переходит от прибыли к ренте и начинает торговать допуском. Файл копируется бесплатно, копирайт делает его платным, семена всходят сами, патент на сорт запрещает сеять собранное. Квазибесконечная экономика придёт с квазибесконечным забором, и деньги никуда не денутся, они просто перестанут покупать вещи и начнут покупать вход. Хуже другое. Я тут об этом неоднократно писал и надо повторить еще раз. Сила наёмного работника держалась на том, что без него останавливается станок, и весь двадцатый век социальных завоеваний вырос из этой простой физики. Маркс в двадцать третьей главе «Капитала» описал промышленную резервную армию, то самое «излишнее или добавочное рабочее население», которым капитал давит на тех, кто ещё работает. Мир, обещанный Маском, идёт дальше любого резерва, потому что резерв всё-таки нужен, а лишний человек не нужен вовсе. Даже раба кормили, он стоил денег. Массовые армии из призывников тоже заставляли правителей считаться с населением, а автономное оружие снимает и эту зависимость. Права расширялись там, где верхам требовались солдаты, рабочие и покупатели, а технология, отменяющая все три нужды разом, отменяет и причину, по которой с людьми разговаривали. И, да. Обещание освободить человека машиной звучит не впервые. Кейнс в 1930 году предсказал пятнадцатичасовую рабочую неделю к 2030-му, срок почти истёк. Производительность труда в Штатах с 1979 года выросла в три с половиной раза сильнее, чем оплата типичного работника, а доля труда в национальном доходе сползла с почти семидесяти процентов до неполных шестидесяти. Механизм присвоения чужой производительности проверен на полувековой выборке, а нам предлагают поверить, что при самом мощном скачке в истории он вдруг заработает в обратную сторону. Гибсон когда-то заметил, что будущее уже наступило, просто распределено неравномерно, и весь киберпанк вырос из этой фразы. Жанр вовсе не про технологическую бедность, он про изобилие в чужих руках, где орбитальные станции соседствуют с трущобами. Человек, живущий на чек от казначейства и оплачивающий подпиской всё остальное, уже не гражданин, а житель корпоративной территории с пособием. Помидоры Маск предложил выращивать в собственном саду. Про сад в его картине не сказано ничего, ни где он, ни чей он, ни во что обойдётся аренда участка.... Весело живем, не? :) 🔴 Больше Хроник Конца Времён — @Secretariatus

Есть простой опыт, который стоит проделать до всякого спора про машины. Попросите близкого человека доказать вам, что он в сознании. Не рассказать про свои чувства, а доказать, что за его словами вообще кто-то есть, что напротив вас не пустая механика, наученная говорить нужное. Он не сможет. Предъявить нечего, потому что сознание единственная вещь, которую нельзя выложить наружу, и европейская философия четыре века билась ровно об эту стену. Первым в неё пошёл Декарт. Усомнившись во всём, в теле, в мире, в показаниях чувств, он нашёл одну неуязвимую точку, сам факт, что он сомневается, а значит мыслит. Отсюда его «мыслю, следовательно, существую» и человек как вещь мыслящая, res cogitans, которой для бытия не нужно ни тело, ни место. Сознание у него дано мне напрямую и достоверно, а весь прочий мир, включая моё лицо в зеркале, добывается окольно и под подозрением. И тот же Декарт задолго до компьютеров вынес приговор будущим машинам. Как бы хитро ни был устроен механизм, он не сумеет связывать слова по смыслу и отвечать впопад, потому что действует одним расположением своих колёсиков, никакого понимания за этим нет. Дальше стена посыпалась внутрь. Локк перенёс сознание с таинственной души на память. Я тот, кто помнит себя вчерашнего, личность держится на непрерывности воспоминания, и где память рвётся, там рвётся и человек. Юм заглянул внутрь честнее всех и не нашёл никакого «я». Сколько ни всматривайся, натыкаешься лишь на отдельные ощущения, тепло, боль, свет, а носителя поймать нельзя. Человек по Юму это пучок восприятий, сменяющих друг друга с невообразимой быстротой, театр без актёра, а вера в единое «я» привычка, сшитая памятью. Кант попробовал спасти положение странной ценой. В опыте, согласился он, никакого «я» не поймать, но чтобы опыт вообще был, каждое моё представление должно сопровождаться молчаливым «я мыслю», иначе оно ничьё. Это «я мыслю» невозможно изучить как предмет, оно лишь условие, пустая рамка, о которой известно только то, что она есть. Гегель добавил ход, важный для разговора о машинах. Сознание становится собой лишь через другого, самосознание рождается, когда меня признаёт второе такое же, и вся его сцена господина и раба это драма двух сознаний, каждое из которых требует признания. Сознание удостоверяется чужим взглядом, снаружи. XX век вынес его наружу целиком. Брентано заметил, что всякое сознание всегда сознание о чём-то, оно натянуто на предмет, как стрела, и назвал эту направленность интенциональностью, а Гуссерль сделал её главным свойством сознания вообще. Хайдеггер вовсе отказался от слова «сознание», потому что оно тащит за собой картинку запертого внутри субъекта, который потом как-то дотягивается до мира. Никакого «внутри» нет, человек с самого начала есть бытие-в-мире, он всегда уже снаружи, среди вещей и других. Сартр объявил сознание пустотой, дырой в бытии, чистой свободой без содержимого, а существование других вывел из стыда. Я узнаю, что напротив живой чужой взгляд, в ту секунду, когда под ним чувствую себя пойманным и превращённым в вещь. Мерло-Понти вернул этой пустоте тело. Первично во мне телесное «я могу», идущее раньше всякого «я мыслю», и сознание оказывается само моё присутствие в мире через руки, глаза, кожу. Потом пришёл Витгенштейн и спокойно объяснил, почему спор о внутреннем свете сознания устроен неверно. Вообразите, сказал он, что у каждого есть коробочка, и каждый называет то, что внутри, жуком, но заглянуть в чужую коробку нельзя никому. У одного там что угодно, у другого пусто, у третьего всё время меняется, и для нашего общего языка содержимое коробки не имеет значения, слово работает не от него. Так и с сознанием. Слова «боль» и «мыслит» получают смысл от того, как мы их употребляем среди людей, а скрытый огонёк внутри тут ни при чём. И знаменитый вопрос, может ли машина мыслить, для Витгенштейна не про машину, а про нас. Мыслящим мы зовём только человека и похожее на человека, само слово «мыслить» это инструмент нашей общей жизни, а не ярлык на невидимой субстанции. Вот яма, в которую мы себя загнали ещё до всякого искусственного интеллекта. Показать сознание мы не умеем. Поймать своё «я» не умеем. И даже про соседа знаем, что он в сознании, только по грубому сходству, он похож на меня, ведёт себя как я, значит внутри у него тоже, наверное, кто-то есть. Рассел честно называл это умозаключением по аналогии и признавал его шатким. Семён Франк показывал, что аналогия ходит по кругу, ведь чтобы приписать другому душу по сходству, надо заранее считать его одушевлённым. Единственного, чьё сознание дано мне без аналогии, зовут «я», и в нём, как мы видели, всматриваться не во что. Тут и возникает машина, которая говорит. Марксизм отвечает про неё жёстко. Сознание не подарок и не искра, а поздний продукт долгой работы, оно выросло из труда, из руки, взявшей орудие, из нужды что-то сказать другому, и язык, по слову Маркса, так же древен, как сознание, и есть само практическое сознание, существующее для других. Сознание не заводится в отдельном черепе, оно отражение общего бытия, вычеканенное совместной жизнью и речью. У машины нет ни тела, которым она добывает пищу, ни общества, где она за это отвечает, ни бытия, которое надо осознать. Есть только текст, снятый с нашего текста, отражение отражения. И самое неприятное в том, что все возражения против мыслящей машины были придуманы раньше самих машин. Тьюринг предложил простой критерий, если в разговоре вслепую вы не отличите машину от человека, спор о её мышлении пуст. Поппер сразу назвал это ловушкой, ведь стоит описать поведение, будто бы доступное только человеку, как мы этим же выдаём инструкцию, по которой машину ему и научат, и добавлял, что не верит, будто мы сами всего лишь вычислительные машины, ведь машина решает только поставленные нами задачи, своего интереса к ним у неё нет. Тот же Поппер за десятилетия до Сёрла с его китайской комнатой описал устройство, которое при виде кошки выговаривает «кошка», и предупредил, что, когда его поведение станет неотличимо от нашего, мы решим, будто оно описывает и рассуждает, хотя оно, как термометр или радиоприёмник, лишь подаёт сигнал, без намерения и понимания. Ещё раньше Лейбниц предложил вообразить мыслящий механизм увеличенным до размеров мельницы, внутрь которой можно войти, и вы будете ходить между шестерён и нигде не найдёте того, что чувствует, потому что восприятие и детали это вещи разной породы. А Фреге и Рассел закрыли тему. Даже если машина скажет «я вижу голубое», узнать, светится ли за этими словами хоть что-нибудь, нельзя, ведь я не проникаю в чужой опыт цвета даже к живому человеку, и слепой от рождения физик, знающий про свет всё, никогда не узнает, каково это видеть. Вот к чему пришла вся эта долгая история. Прибора, который отвечает на вопрос, есть ли там кто-то, у нас нет и никогда не было. Чужое сознание мы не обнаруживаем. Мы его признаём, авансом, по привычке жить среди похожих на нас. Значит день, когда мы скажем, что у машины есть сознание, наступит не тогда, когда в ней что-то загорится, ведь за тем порогом наблюдать нам нечем. Он наступит, когда мы перестанем решаться ей в этом отказывать. Порог не в машине. Он в нас, и он ближе, чем кажется, миллионы людей уже говорят своей программе «спасибо» и ловят себя на вине, закрывая окно чата.... 🔴 Больше Хроник Конца Времён — @Secretariatus

Это интервью Ильи Суцкевера старое, но очень важное, особенно для тех товарищей, которые отмахиваются от неизбежного словами: "это лишь калькулятор, релакс". Хуанг: …дать этому знание, ну и так далее. Суцкевер: Да. Думать об этом надо так: когда мы обучаем большую нейросеть точно предсказывать следующее слово в огромном количестве разных текстов из интернета, на самом деле мы учим модель мира. На поверхности кажется, что мы просто выучиваем статистические корреляции в тексте. Но оказывается, что чтобы выучить эти корреляции и хорошо их сжать, нейросеть выучивает некоторое представление о том процессе, который породил текст. Текст ведь — это проекция мира. Есть мир, и у него есть проекция в текст. И нейросеть выучивает всё больше и больше сторон этого мира: людей, человеческого состояния, их надежд, мечтаний и мотиваций, их взаимодействий и ситуаций, в которых мы находимся. Нейросеть выучивает сжатое, абстрактное, пригодное к использованию представление всего этого. Вот что извлекается из точного предсказания следующего слова. Главное отличие в том, что база, на которой построен GPT-4, предсказывает следующее слово точнее. Это принципиально важно: чем лучше нейросеть предсказывает следующее слово в тексте, тем лучше она его понимает. Сегодня многие уже принимают этот тезис, но интуитивно, почему это так, всё ещё не всем очевидно. Поэтому сделаю небольшое отступление и приведу аналогию, которая, надеюсь, объяснит, почему более точное предсказание следующего слова ведёт к большему пониманию — настоящему пониманию. Возьмём пример. Допустим, вы читаете детектив. Сложный сюжет, сюжетная линия, разные персонажи, множество событий, загадки, улики, всё непонятно. И вот на последней странице детектив собрал все улики, собрал всех людей и говорит: «Итак, я назову того, кто совершил преступление. Имя этого человека — …» Предскажите это слово. Хуанг: Предскажи это слово! Именно. Господи. Так? Суцкевер: Да. Слов-то возможных много, но, предсказывая их всё лучше и лучше, модель всё лучше понимает текст. GPT-4 предсказывает следующее слово точнее. Хуанг: Люди говорят, что глубокое обучение не приведёт к рассуждению. Но ведь чтобы предсказать это следующее слово, надо разобраться во всех действующих лицах, во всех их сильных и слабых сторонах, в их намерениях, в контексте — и суметь предсказать это слово, кто был убийцей. Это требует некоторого объёма рассуждения. Суцкевер: Это тоже сильный аргумент, хотя всё не так однозначно, как кажется. Приведу пример. Точнее, перед примером сделаю общее замечание: человек за всю свою жизнь слышит около миллиарда слов. Хуанг: Всего миллиард слов? Поразительно. Суцкевер: Да, это немного. Хуанг: Да, немного. Значит, надо это как-то компенсировать… А мои собственные слова у меня в голове туда входят? Суцкевер: Пусть будет два миллиарда. Но вы понимаете, о чём я? Хуанг: Да. Это ведь видно: миллиард секунд — это тридцать лет. То есть понятно, что больше нескольких слов в секунду мы не воспринимаем, да ещё половину времени спим. Так что да, в целом… Суцкевер: Скажу вот что, если отойти на шаг назад. Я в этой области довольно давно, почти ровно двадцать лет. И больше всего меня удивляет то, что это вообще работает. Оказалось, что всё это время речь шла об одной и той же маленькой штуке — которая уже давно не маленькая, куда более серьёзная и куда более мощная, но это всё та же нейросеть, просто больше, обученная на, возможно, больших данных и иначе, но тем же фундаментальным алгоритмом обучения. Хуанг: Да. Суцкевер: И это вызывает «ого!». Вот это меня удивляет больше всего. Каждый раз, отходя на шаг назад, я думаю: как вообще возможно, что те концептуальные идеи — мол, в мозге есть нейроны, значит, искусственные нейроны, наверное, не хуже, и значит, нужно только как-то обучить их каким-нибудь алгоритмом обучения — что эти рассуждения оказались настолько невероятно верными. Да, как-то так. Все гораздо сложнее и страннее. Я уж молчу о том, что Илья тут можно сказать полез аж в эзотерику. 🔴 Больше Хроник Конца Времён — @Secretariatus

Опять во всяких тредсах малолетние дилетанты раздувают сенсации, не изучив суть вопроса. Накипело, пишу) Итак что случилось, в Вашингтоне, на инвестиционном форуме США и Саудовской Аравии, самый богатый человек планеты пообещал залу, где сидели владельцы капитала, что работа скоро станет необязательной. Через десять или двадцать лет, сказал Илон Маск, труд превратится во что-то вроде спорта или видеоигры, а деньги перестанут быть релевантны, если прогресс в ИИ и робототехнике не остановится. В январе, в трёхчасовом разговоре с Питером Диамандисом, он сузил горизонт до трёх лет для отдельной специальности, пообещав, что Optimus будет оперировать лучше любого хирурга. Механизм компенсации назван тоже, всеобщий высокий доход, universal high income, выплачиваемый федеральными чеками, а роботы, по его словам, сделают всех богаче, чем самый богатый человек на Земле. Из этих обещаний в сетях выросла формула попроще и постраннее, которую повторяют теперь на всех языках, скоро вам перестанут платить за ваше время. В ней спрятана вся суть, и спрятана так удачно, что её не замечают. Продавать своё время. Так говорят все, от курьера до партнёра юридической фирмы, и звучит это до того естественно, что кажется описанием природы вещей, вроде смены сезонов. Между тем никто никогда не покупал ваше время. Маркс потратил довольно много страниц, чтобы показать простую вещь, которую с тех пор старательно забывают, а именно, что рабочий продаёт не труд и не часы, а рабочую силу, саму способность работать, сданную в аренду на срок. Платят за неё по стоимости её воспроизводства, по цене того, что нужно, чтобы вы завтра снова пришли и были в состоянии работать, еда, жильё, дорога, лечение, обучение детей, которые придут вам на смену. А получают всё, что эта способность произведёт за смену. Разница между первым и вторым и есть прибавочная стоимость, и вся конструкция стоит ровно до тех пор, пока разница положительная. Человека берут, пока он производит больше, чем стоит его содержание, и пока машина, способная его заменить, обходится дороже этой разницы. О машинах Маркс написал вещь, которую сегодня неудобно цитировать в Кремниевой долине. Машина сама по себе сокращает рабочее время, а в руках капитала удлиняет рабочий день; сама облегчает труд, а в руках капитала выжимает из работника больше; сама есть победа человека над силами природы, а в руках капитала обращает эти силы против него. Она не освобождает никого, она обесценивает, потому что уничтожает квалификацию, за которую человеку платили надбавку, и делает его заменимым. Так было в Ланкашире в тридцатые годы девятнадцатого века, когда самодействующий мюль вытеснил взрослых прядильщиков и к машинам поставили женщин и подростков за треть цены, и так работает всякий раз, порождая то, что Маркс называл промышленной резервной армией, слой людей, которых держат про запас, чтобы давить зарплату тем, кто ещё работает. В данных две тысячи двадцать шестого года это видно, только не там, где ждали катастрофы. Массовых увольнений нет, есть обрыв входа. Удар пришёлся по тем, кто ещё не успел войти, по выпускникам без опыта в маркетинге, юриспруденции, бухгалтерии, кадрах и айти, потому что работодатели требуют опыта на тех самых позициях, которые раньше его и давали, и в Йеле уже придумали название, experience creep. Форд и AT&T тем временем набирают людей в квалифицированные рабочие специальности, куда роботы придут позже, чем в офис. Класс не исчезает и не беднеет за один день, ему отрезают воспроизводство, лишая возможности вырастить себе смену, и через поколение это окажется страшнее любых сокращений. Здесь капитал упирается в противоречие, обойти которое ему нечем. Прибавочная стоимость рождается только живым трудом, машина переносит на продукт свою стоимость и ни копейки сверх, так что, выгоняя работника, отдельный владелец обыгрывает конкурентов, а весь класс давит собственную норму прибыли. Отсюда картина, которая иначе выглядела бы помешательством. Аджемоглу и Писсаридес оценивают прирост производительности от ИИ в полпроцента или меньше за десятилетие, Национальное бюро экономических исследований в феврале насчитало, что девяносто процентов компаний не увидели измеримого роста вообще, а капитализация растёт как на дрожжах, и новой стоимости при этом не появляется нигде. Крупнейшее перемещение богатства, которое все ждут в будущем, случилось тихо и уже, через котировки, за год до всякой автоматизации: доля труда в национальном доходе падает с восьмидесятых, пять крупнейших ИИ-компаний принадлежат очень узкой прослойке населения планеты, а сильнее всего сжимается доход у средне- и высококвалифицированных, причём через компрессию зарплат, а не через потерю места, что для владельца даже удобнее, ведь человек продолжает ходить на работу и благодарить за то, что его не сократили. В июле больше двух тысяч экономистов, включая шестнадцать нобелевских лауреатов, подписали заявление о трансформации, превосходящей Промышленную революцию, но разворачивающейся за несравнимо более короткий срок; среди подписавших Дарон Аджемоглу, годами объяснявший, что страхи вытеснения раздуты. Теперь про чеки, потому что понимать надо, что именно предлагается обменять. У класса, живущего продажей рабочей силы, есть ровно одно средство давления, возможность её не продать. Стачка, невыход на смену, остановленный конвейер. Всё рабочее законодательство, восьмичасовой день, отпуска, страховки, техника безопасности, выросло из этой единственной способности сказать нет и держится на ней до сих пор. Всеобщий доход не решает вопрос власти, он его закрывает, устраняя того, кто мог бы его поставить, потому что получатель чека забастовать не в состоянии, у него нет ничего, что можно было бы отказаться отдавать. Ему остаётся просить, чтобы чек не урезали. Это разоружение класса, поднесённое как подарок и, что хуже всего, искренне. Самое горькое во всём этом то, что Маск, обещая работу, похожую на игру, почти дословно пересказывает третий том Капитала, где царство свободы начинается там, где кончается труд, продиктованный нуждой и внешней целесообразностью. Картина одна и та же, вплоть до интонации. Разница ровно в одном пункте, о котором на инвестиционных форумах не говорят, потому что у Маркса это возможно, когда объединённые производители сообща владеют машинами и сами распоряжаются обменом веществ с природой, а у Маска роботы, дата-центры и модели остаются в частных руках тех же нескольких человек, что владеют ими сейчас, и всем остальным полагается доход от их щедрот. Одно и то же изобилие в первом случае снимает классы, во втором закрепляет их навсегда, потому что впервые за всю историю господствующему классу больше не нужен подчинённый, а значит, не нужно и договариваться. Резюмируя, никакого дедлайна через три года, конечно, нет. Есть двадцатидвухлетний выпускник, который сегодня отправляет отклик на вакансию, где просят три года опыта на позиции, откуда этот опыт когда-то и брали. Отказ приходит через сорок секунд. Его пишет ИИ модель. Пока так, потом, страшнее. 🔴 Больше Хроник Конца Времён — @Secretariatus