roguelike theory

#DT 10. Гемблинг 2: Автор как игрок / “Умный” гемблинг? Грэм Харман в “ИИ и будущем письма” планирует с помощью ChatGPT написать “100 черновых рукописей на [любую тему] в стиле моих предыдущих книг”, среди которых он потом выберет лучшие, превратившись из “творца” в “ценителя”. (Странно, что он не предлагает очевидный следующий шаг: опубликовать их все, и статистически с помощью подсчёта лайков дать читателям, преданным его персональному бренду, выбрать лучшие из них. Он описывает логику бренда, а не авторства – поэтому его размышления про “стиль”, понятие, на котором держится вся его идея, тоже остаются на уровне SMM-специалиста). Грэм предлагает идею автора-как-венчурного-инвестора; сто текстов – сто ставок, хоть с одной, наверное, повезёт. Любое письмо – это авантюра, ну кроме того, что совсем отказывается поставить авторский символический капитал под вопрос, рискнуть им. Потратить – как говорит Харман – “три года в библиотеке и шесть месяцев в мучениях” – ставка безрассудная. Вместо одной дорогой ставки он предлагает сделать сто дешёвых. Это различие фундаментальное – никто не может избежать в своей жизни риска; разница может быть между большой авантюрой, gamble длиною в жизнь – и “умными” попытками этого риска избежать с помощью миллиона маленьких ставок. Gamble, одной дорогой ставке, мы противопоставим gambling, их дешёвое повторение. В моих примерах в первом абзаце прошлого поста я приводил примеры не очень умных ставок. Но разве не существуют профессионалы этого дела – хедж фонды, профессионалы покера, счетчики карт, “суперпредсказатели”, которые из 35 долларов делают миллион? Вот они, умные гемблеры – суть их подхода в попытке обуздать риск, стерев его в лишенную последствий труху. Превращение маленького преимущества в случайном процессе с огромным разбросом в постоянный заработок – интереснейшая математическая задача, решение которой сулит алхимическую мечту: создание из ничто капитала, часто финансового, у харманов – символического. Здесь из формулы Деньги - Деньги’ исчезает Товар, эта претензия капитала на вклад в реальную жизнь человечества, исчезает совсем или сводится к призрачной форме слопа, с нулевыми маржинальными ценой и потребительной стоимостью; вместе с ним исчезает и активная связь с реальностью. Заработать деньги, не рискуя не только своим капиталом, но не рискуя никак поменять мир – вот задача умного гемблера. Этот процесс не может иметь эффекта в мире, иначе мир стал бы ему сопротивляться, требуя изменения и адаптации, возвращая риск, уменьшая преимущество, превращая вопрос предсказания в вопрос контроля – пугающий вопрос о власти, а значит о борьбе, для безобидного фантазёра-алхимика. Счетчик карт в казино надеется, что казино не заметит его, не адаптируется и не забанит его; трейдер знает, что заработок закончится, когда его действия начнут менять рынок. Харман воображает письмо без “трёх лет в библиотеке”, без риска состариться, поменяться, поменять свой “стиль”; книга меняет сперва автора, а потом читателя – Харману плевать на второй риск, и он избегает первый. Всегда найдется удачливый гемблер, сосед, заработавший на квартиру криптовалютой; у книги Хармана-GPT найдутся читатели; у Jane Street будет очередной год сверхдоходов. Вопрос не в том, что это невозможно, но в том, что это никогда не алхимия. Легко показать экономически, что максимальный возможный стабильный заработок при “умном” гемблинге примерно совпадает с зарплатой, которую гемблер того же уровня навыков и смекалки мог бы получать на беловоротничковой работе, с меньшим риском; если он заработал гораздо больше, то речь идёт либо о рыночной власти, о какой-то ренте, о неповторимой новизне, или же просто-напросто об удаче – которая указывает на то, что риск был куда выше, чем “умный гемблинг” мог бы себе позволить. Умного гемблинга не существует.

#DT 9. Гемблинг 1: Фондовый Рынок. Мы живем в эпоху гемблинга. Еще один симптом проблем с “теорией принятия решений” – в популярности этого паразита разума, принимающего формы как обычных букмекеров, так и азартной игры на бирже в духе WallStreetBets или на рынках предсказаний (которые придают гемблингу профессиональный флёр), так и разного рода лутбоксов, зачастую платных, но зачастую чисто игровых, делающих гемблинг сутью даже безденежного досуга. Всем известно, что деньги эти занятия не приносят – не в том количестве, чтобы оправдать риск и потери. И всё же гемблят все (например, больше половины американцев). Деньги, что остаются после необходимых трат, или случайные какие-то получки тратятся на гемблинг; один мой знакомый предложил, что многие связанные с СВО выплаты отправляются сразу на Фонбет. Гемблинг – древнейший вид досуга, но особенность его современного статуса, на мой взгляд, связана с двумя феноменами: культурно (идеологически), гемблинг стал легитимным и даже преимущественным способом сбережений; материально, страсть к гемблингу указывает на особую, согласно DT, функцию полезности. Идеологическая сторона этого вопроса понятнее всего как присущая американскому среднему классу; за ним повторяет весь мир, инвестируя как американцы и в американцев. Американский средний класс слышит десятилетиями, что сбережения нужно вкладывать в рынок акций, и акции должны расти в определенном темпе. “Об акциях [предлагали] думать как об активе, который всегда будет доходнее, чем другие классы активов, хотя и заставит терпеть бóльшие колебания в цене. Разделите, мол, свои средства между этим «рискованным» классом активов и другими активами — [банковскими вкладами], облигациями гос. займа — чтобы стабилизировать риск и создать запас прочности на случай, если вам понадобятся [деньги] во время неблагоприятных колебаний” – Стив Волдман, программист с блогом про экономику (отличнейшим), критически анализирует достаточно самонадеянный и распространенный совет, который, например, повторял Нассим Талеб. Этот совет превратился в стандартный подход к сбережениям огромной категории людей; последние следы образовательного или имущественного ценза ушли с появлением ритейл-бирж типа Robinhood, позволяющих торговать акциями – и даже производными, инструментами для производства дополнительного риска на ровном месте – на мобильном телефоне, сидя в кабаке. Вот он, человеческий эффект распространения советов брать на себя серьезные и плохо предсказуемые риски: буквальный гемблинг стал после 2008 маркером разумного и дальновидного буржуазного поведения, и после этого, чтобы избежать политической катастрофы – по Волдману – задачей политиков (и гендиректоров компаний) становится сделать всё возможное, чтобы средний “дальновидный” азартный игрок не проигрался в конец, чтобы рискованный вид инвестиций превратился в предсказуемый и доходный, вопреки любой реальности. Фондовый рынок, от которого требуют очень конкретного поведения, теряет способность отражать адекватную даже чисто экономической ситуации реальность. ФРС, созданная ради “максимальной занятости при низкой инфляции”, получает теперь мандат “сделай гемблинг на бирже доходным”; гендиректора компаний так же вынуждены фокусироваться на один квартал вперед, чтобы не вызвать у игроков панику. Структурно это повторяет итерацию предыдущего инвестиционного обещания – либерально-демократический социальный контракт конца 20 века, направленный на бумеров, звучал так: пока ты работаешь, ты купишь жильё; оно будет расти в цене; благодаря этой инвестиции, на пенсии ты будешь в комфорте. Вот он – бумерский вариант слогана “Stocks only go up” – “Квартиры только дорожают”: он гарантирован не экономическими законами, но политической волей, зачастую, как в современной Европе, совершенно абсурдной, сопротивляющейся строительству даже абсолютно необходимого минимума жилья. Недвижимость это низколиквидный (не всегда легко продать) и подверженный множеству рисков вид имущества; рискованная азартная игра, в которой государство обещает тебе победу. Но как форма поведения вклад в свое жилище, пусть сам неосознаваемо рискованный, не создает из гемблинга стиля жизни – в отличие от нового стиля сбережений, игры на бирже. Стоит остановиться на сходстве и различии этих двух видов ставок.

#DT 8. Ценовая дискриминация ставит нас в ситуацию, когда Другой знает, какой выбор мы сделаем, и это действительно оптимальный выбор для нас самих. “Это для твоего же блага”, говорит Другой, отбирая у нас всё, что мы в принципе готовы отдать. Это тонкая ситуация для экономики, поскольку ее невозможно критиковать, оставаясь внутри простейшего идеала добровольного выбора: человеку предложили сделку, которая, согласно его же вкусам, лучше его прочих альтернатив, и он рационально её принял. Так понятая свобода здесь не нарушается – напротив, эксплуатируется. DT не интересует вопрос о том, что “прочие альтернативы” уничтожаются и контролируются той же стороной. Но экономика вовсе не слепа к вреду и сложности ЦД, и ищет способы для ее адекватной критики. Вопрос о ценовой дискриминации, о том, как экономически описывать ее вред и как его ограничивать, это центральный вопрос многих современных законодательных обсуждений и судебных процессов. Выражаясь, как гейм-дизайнеры – если с точки зрения игры оптимальное действие известно заранее, в чем именно заключается свобода игрока? Мой теоретический интерес к ЦД в том, что эта проблема ведет к критике рационалистической теории выбора, выражаемой эмпирически, экономически и математически, а не просто отсылая к непознаваемой тьме человеческой субъективности. ЦД показывает, как рациональный выбор может отлично работать внутри системы, лишающей выбирающего автономии, запаса и власти над условиями выбора, является локусом симптомов недостаточности этой идеологии. Отсутствие выбора. Вопрос о ЦД выражает противоречие между способностью предсказать поведение и человеческой волей, и объясняет эту абсурдную и типичную современную ситуацию, когда в окружении благ и повышенного уровня жизни мы чувствуем себя выжатыми, как лимон – вынужденными постоянно адресовать не буржуазную тоску и скуку сытой жизни, которых боялись десятилетия назад, а вполне материальную вечную нехватку, производимую на самой границе нашей свободы выбора. ЦД искусственно производит ситуацию, когда каждое решение, что мы принимаем, находится на самой границе; мы лишены какого-либо “буфера”, и любая неоптимальность ведет к резкому ограничению наших жизненных возможностей. Распределительная двусмысленность. Оплата американских университетов, механизм финансовой помощи, зависящий от ваших доходов, выглядит как благотворительность. Американский колледж стоит 50 тысяч долларов за год обучения; при поступлении вы заполняете форму, где рассказываете, сколько зарабатывают ваши мама и папа, и вам делают скидку – другими словами, подгоняют цену к вашему предсказанному максимуму. Одна цена была бы слишком высокой для бедных и, возможно, ниже максимума обеспеченных семей; система помощи позволяет одновременно привлечь первых и извлечь больше из вторых. В результате ЦД получает оправдание – как механизм перераспределения в пользу бедных. Стоит быть внимательным к ЦД как к форме перераспределения – даже если направление распределения отвечает нашим вкусам, оно может уничтожать реальную возможность выбора для всех сторон. Платформенная власть и алгоритмическая координация. Платформа — Амазон, Спотифай или Яндекс.Такси, обобщает ЦД на обе стороны рынка: стремится назначить каждому покупателю максимально приемлемую цену, каждому поставщику — минимально приемлемое вознаграждение, а разницу забрать себе. Коммерческое машинное обучение, как и корпоративная “слежка”, во многом занимается именно этим: оно пытается узнать не нашу сокровенную сущность, а границу отказа, консента — сколько мы готовы заплатить, сколько ждать, сколько рекламы терпеть, насколько плохое отношение принять, прежде чем уйдем. Цена здесь может быть не только денежной: ею становится внимание, время, усилия, стресс, дурные эмоции. Алгоритмы позволяют не только точнее находить эту границу для каждого человека, но и координировать вокруг нее множество продавцов. Прямой сговор для этого не всегда необходим: общие данные, модели и прогнозы позволяют скоординировать действия; многообразие же товарной формы дает возможность произвести и продать различие под любой остаток в кошельке. Так, рынок аренды создает ЦД и без центрального алгоритма: лендлордам не нужно сговариваться, чтобы рынок научился брать с каждого максимально представимую для того ренту. Рынок действует как распределенный интеллект — экспериментально обнаруживая пределы участников, создавая информацию не только об оптимальном распределении, но и о максимальной эксплуатации. ЦД оказывается моделью не только власти знающего продавца над отдельным покупателем, но и способности коллективно узнавать и использовать границы человеческого консента.

#DT 7. Вот картинка из учебника, показывающая рынок в равновесии. Линия спроса: сколько покупателей готовы купить товар за ту или иную цену. Предложение: сколько продавцов готовы его за ту или иную цену продать. В равновесии, точка их пересечения – цена, при которой количества продавцов и покупателей сравниваются; рынок уравновешиваются, достигнув её. Операция рынка заключается в этом совместном вычислении: какая цена адекватнее всего, при какой цене все, кто мог бы договориться, договорятся? Две эти линии – теоретической «готовности» акторов что-то сделать – принадлежат «теории принятия решений», произведены именно ею, поскольку мы никогда не наблюдаем, на самом деле, эту готовность в ее числовом выражении. Как я писал на прошлой неделе, способность предсказать именно это – чью-то максимальную/минимальную цену – это культурный кошмар; это крайне ценная экономическая информация для тех, кто хочет на вас заработать. Мы знаем о существовании этих линий на графике потому, что люди (и фирмы) участвуют в рынках (мы наблюдаем непосредственно точку пересечения, цену и количество сделок), остальное мы можем вообразить, прикинуть согласно нами понимаемой логике решений, и в редких случаях оценить, пользуясь данными о похожих ситуациях – другой год, другой город, другой бренд. Два закрашенных треугольника – «излишки» – выражают ту пользу, что, согласно этой модели, приносит рынок. Логика их проста: если, чисто теоретически, вы готовы снимать квартиру за 1500 евро, а нашли за 1300, вы «заработали» 200 условных единиц в месяц, которые остаются чисто воображаемыми, гипотетическими – если только вы не подписываетесь на собственную реальность построений «теории принятия решений». Иногда эти построения действительно обладают бухгалтерской реальностью: если то, что вы купили или продали, вы полностью используете для продолжения экономической деятельности (скажем, вы что-то купили, оплатили чей-то труд для улучшений, и после этого продали), то ваш «избыток» можно подсчитать как прибыль. Но это сугубо промежуточный случай, всегда отстоящий как минимум на шаг от внеэкономических эффектов, и слишком идеализированный даже для самых простых и механических B2B рынков. Этот двусоставный треугольник «излишков» – пространство консента, его экономической формы. В рамках этого треугольника все сделки совершаются добровольно, по определению – акторы, подсчитанные слева от равновесной цены, это акторы, которые были готовы пойти на эту сделку. Необходимость и предсказуемость этих сделок вступает в напряжение с той свободой, что этот консент призван символизировать, и его двусмысленность будет лейтмотивом этого цикла. Как пространство свободы, этот треугольник оказывается местом ожесточенной борьбы, легитимированной рыночным либерализмом, с точки зрения которого именно это пространство может доставаться кому угодно, кто сможет его отобрать. На схеме излишки оптимистично поделены между двумя сторонами участников рынка, на деле же платформы ищут способы отобрать эти излишки полностью – о чем поговорим в следующий раз.

#DT 6. Важная фантазия современности – о ком-то, кто слишком хорошо нас знает, кто может предсказать наши действия и понять наши желания. Этим идеально понимающим Другим может быть услужливый чатбот, наделенный искусственным интеллектом; государственная высокотехнологичная слежка; очень близкий нам по духу инфлюенсер или рекомендующий таких “алгоритм”; психиатрическая машина, придумывающая нам идеально подходящий диагноз; системы прослушки и анализа поведения, которые предлагают нам подходящую рекламу; “рынок предсказаний”, который поможет спланировать общественное материальное счастье; всезнающая медицина, что продлит нашу жизнь разного рода добавками… Эта фантазия оказывается и мечтой, и кошмаром: мечтой о заботе от “машины любящей благодати”, кошмаром об утере свободы и всякой возможности выбора, которую сулит столкновение с всезнающим существом. Говорить в этих ситуациях исключительно о знании – уже большая ошибка, ужеформа подчинения. Реальные примеры слишком хорошо знающего нас Другого не столько сильны в предсказании, сколько модифицируют наше поведение. Алгоритмы Тиктока или Ютуба не просто находят для нас идеальные видео, но тренируют нас интересоваться ими, утомляет и фрустрирует ровно в той пропорции, чтобы силы оставались лишь на такие формы развлечения. Они направляют нас вглубь странных интересов и маргинальных политических взглядов не потому, что эти интересы и взгляды нам всегда уже были присущи, но потому, что наше поведение оказывается, в рамках этой формы, очень податливым, потому, что мы позволяем кормить нас слопом и просим еще. “Всезнающий” Другой это форма власти, а не знания; когда мы говорим, что речь лишь о знании, мы подчиняемся той фундаментальной манипуляции, что настаивает, что это внешнее влияние – лишь следствие наших собственных, внутренних тенденций. Как нам концептуализировать это знание о поведении? Экономика предлагает очень простую модель: самое важное, с экономической точки зрения, что можно знать о каждом из нас, это максимальная цена, которую мы можем заплатить за те или иные товары или услуги. Дебри человеческой субъективности, какими бы сложными они не были, сводятся в рамках экономического взаимодействия к этому, одному единственному числу. Так, через цену того или иного набора товаров, услуг, эффектов и определяется центральная идея функции полезности: чем больше мы за что-то готовы заплатить, тем более оно для нас ценно, тем чаще мы будем это выбирать. Бесконечное разнообразие человеческого поведения как такового едва ли вписывается в эту функцию (что будет темой отдельного разговора, поскольку в этом один из важнейших вопросов современности), но экономическому Другому интересно только это. Подобрать для каждого максимальную цену, которую тот готов заплатить, и потребовать именно ее – звучит как дьявольское поведение из сказок (я не смог вспомнить нормального примера, но Аленький Цветочек, версии Фауста, даже Золотую Рыбку (где старуха методом проб и ошибок ищет рыбкину максимальную цену) можно интерпретировать как-то так). Кошмар “экономического” всезнающего Другого вовсе не в том, что он знает какую-то случайную деталь нашего прошлого, а в том, что его требование одновременно чрезмерно, нечестно, и при этом невозможно отвергнуть, поскольку оно действительно адекватно тому, что мы готовы дать. В экономике такое всезнание называется совершенная ценовая дискриминация. (Слово “дискриминация” тут в значении “способность различать, видеть реальное различие”, а не в более современном противоположном смысле, когда дискриминация становится тенденцией настаивать на ложном или нерелевантном различии, как на фундаментальном). Эта дискриминация – способность находить максимальную индивидуальную цену. Модели такой дискриминации показывают, что такой продавец сможет оставить довольным каждого покупателя – и удовлетворить больше людей, чем в противоположном случае одной цены для всех. Примеры СЦД (такие, как, например, идеально дискриминирующая финансовая помощь для оплаты образования) зачастую, на первый взгляд, для общества только хороши. В чём же, по мнению экономики, здесь проблема?

#DT 5. Рынок это социальный механизм, благодаря которому принятые независимо, согласно собственным интересам и соображениям решения людей автоматически синхронизируются, как правило, при помощи сигнала — цены. Это механизм децентрализованного, общественного принятия решений, как предлагает Фридрих Хайек (мы еще обсудим эту противоречивую фигуру подробнее). Это не единственный механизм для распределенных решений, но нельзя отказать рынкам в изяществе и достаточно широкой применимости. Мы часто недовольны ими, поскольку мы недовольны распределением власти, к которому ведет их применение. Можно ли отделить механизм от этих последствий? Может ли рынок быть применен для достижения важных общественных и коллективных целей, а не для поддержания абсурдной власти? Философия, интересующаяся рынками, приветствует их власть – как капитализм Ника Ланда, его нечеловеческий вычислительный Господин. Откуда эта человеческая страсть – превращать любой инженерный успех в этический и концептуальный фундаментализм? Может ли рынок быть инструментом, а не Господином? Рынок организует общественные силы, поощряя определенный подход к жизни, определенную нормативность – которая получает наименование “рациональности”. Разумность, на которое это слово намекает, требовала бы слепоты ко всему, что не выражено специфическим для рынка образом. Шахматы тоже требуют умения сосредотачиваться, редуцировать все богатые возможности тела до движений несколькими десятками фигур. Но никто не смешивает умение играть в шахматы и умение жить (как говорил один шахматист - “Умение играть в шахматы - признак джентльмена, умение хорошо играть в шахматы - признак потраченной жизни”). Чтобы отделить экономику от “рациональности”, необходимо понять, зачем она там нужна, не сломается ли наука без нее? На первый взгляд идея “рациональности” нужна, чтобы человеческое поведение внутри механизма функционировало как надо. Какой же это может быть “механизм”, если каждая шестерня обладает свободой воли, может сделать что-то странное? Однако никакой проблемы в этом вообще бы не было. Веди себя странно на рынке сколько хочешь, он не развалится. Экономические модели достаточно устойчивы по-отношению к иррациональному поведению, и могут его легко моделировать. В рамках рынка не так уж важно, насколько сложным будет ваше поведение: все, что интересует экономиста, это что вы купите что-то слишком дорого, или дёшево отдадите. “Рациональность” попадает в предпосылки возможности тех или иных гарантий. Важнейший пример — теоремы о благосостоянии, предлагающие, что рынок приводит к “оптимальному” распределению благ при достаточно широких предпосылках. Это крайне важная теория, ядро рыночной идеологии. Она открывает вопрос о распределении и легко отказывается от него, консервативно останавливаясь на оптимальности Парето. Рациональность играет в этой теории двусмысленную роль. Как предпосылка она слишком сильна, теоремы доказуемы и с более легкими ограничениями поведения. Но в итоге рациональность оборачивается требованием согласиться с получившимся распределением. Рациональность оказывается набором сохраняющих распределение рыночной власти стратегий, но ничего в экономической теории, что утверждало бы, что этих стратегий необходимо придерживаться, просто-напросто нет. (С графиками и подробнее про эти теоремы будет позже). Это не значит, что рациональность экономику не должна интересовать: напротив. С точки зрения конкретной модели, рациональный человек — тот, кто будет пытаться извлечь максимальную выгоду. И именно он может быть для рынка максимально опасен, может разрушить всю созданную рынком ценность. В прошлый раз мы обсуждали, что правила пишут против излишеств победителей. Экономическую рациональность тоже надо понимать адверсариально. Экономика может защищать общество от эгоизма рациональных людей, коллективные решения — от излишеств индивидуальной рациональности. Экономические модели могут предлагать такие рынки и механизмы их контроля или коррекции, что защитят мир не от случайной глупости и странности людей, но от целенаправленной, “рациональной” алчности.

В «Гараже» скоро пройдет моя Лаборатория сетевого письма. Все встречи онлайн — по субботам начиная с 11 июля. В конце — коллективный вебзин из текстов и не-текстов от участников. (Подавайтесь!)

#DT 4. Почему, говоря о правилах игры, нужно в первую очередь анализировать победителей? Обратная этому либеральная слепота – всё было сделано “по правилам”, а значит, не поддается критике или коррекции – приводит к достаточно абсурдным ситуациям, одной из которых, например, является существование на этой планете миллиардеров. Смысл любых правил не только и не столько в том, чтобы проводить границу между внутренним и внешним (“не шахматы”), но и в том, чтобы корректировать ситуации, которые изнутри разрушают сам смысл занятия или сообщества. Критика победителей не всегда возможна a priori, по заранее данным договоренностям. Вы судите соревнование, и кто-то побеждает. Есть приблизительно три возможных решения, выбор, который перед вами стоит: • Принять, что победа была достигнута абсолютно адекватно спорту • Произвести расследование и найти, что победа не была достигнута честно, согласно определенным образом понятым заранее известным правилам • Принять победу в этот раз, но изменить правила, чтобы вновь ее тем же образом достигнуть было невозможно Третий вариант всегда приводит к развитию правил, является для этого развития главным мотором. Если спорт поддерживает достаточно открытый набор действий (как в Формуле 1, где есть много способов собирать машину), то все принимают, что задача соревнующихся – находить новые и новые в них лазейки, а задача судей – эти лазейки быстро прикрывать, процесс, который в большинстве случаев принимается всеми, как законный и справедливый. Этот подход, назовем его “адверсариальный”, предлагает, что у развития правил, таким образом, нет другого творческого источника, кроме как направленного против тех, кто побеждает (фактически или хотя бы гипотетически). После того, как сформировался какой-то набор достаточно случайных для игры условностей (как ходят слоны или как выглядят трассы), большая часть последующих изменений происходит для баланса. Граница с чисто внешним, граница нерелевантного для игры – случайна и не так уж важна; главное, что она существует, и ее детали настолько редко влияют на что-либо, что мы вполне можем согласиться с консервативной идеей, что менять их почти не нужно. Если мы поменяем, как ходят конь или слон, это, конечно, заставит всех переучиваться, но суть шахмат затронет едва ли. Смысл той или иной соревновательной игры заключается, материально, не в конкретном моменте правил, не в исторической случайности их деталей, а в их развитии как поддерживающих соревновательность. Если не учитывать необходимость соревновательности (которую мы кибернетически сможем понять – когда доберемся – как необходимость отрицательной обратной связи, как исключение сингулярностей), правила лишаются этого смысла и представляются, как что-то данное снаружи без возможности их обосновать. И это касается и такого крайне важного понятия для экономики и в принципе для современной идеологии, как “рациональное поведение”; если не понимать адверсариальную сторону экономического смысла этого понятия, оно обернется контингентным набором внешних требований к поведению, которые не просто зачастую невозможны, неправдоподобны или абсурдны, но и оборачиваются разрушительным поведением тех, кто понимает их механику, но не понимает их смысл.

#DT 3. В “Людях в Черном” Джей в качестве интервью на работу застрелил не монстров, а картонную фигуру восьмилетней девочки с учебником квантовой физики. Наша гипотетическая ситуация – про спорт. Представьте себе, что вас пригласили судить турнир по шахматам. Какая из форм человеческого поведения вас будет волновать больше всего? Кто создаст максимум концептуальных проблем? На кого придется нацелить наши – не пистолеты, но судейские бинокли? 1. Люди, которые играют в шахматы очень хорошо (много побеждают) 2. Те, кто играет по правилам, но плохо и глупо 3. Те, кто нарушает правила, по ошибке или из дурного умысла, но действует в рамках общей формы шахматной игры. То есть двигает фигурами по доске, но неправильно: конём по прямой, королем через всю доску, трогает и не ходит, играет фигурами соперника, смотрит в телефон. 4. Те, кто вообще не играет в шахматы, а делает что-то совсем другое: швыряется фигурами или уезжает на рыбалку пить пиво. Граница между 2 и 3 – номинальные правила шахматной игры – кажется центральной. Но это самая простая и технически очевидная граница. Не нужно звать судью, чтобы разобраться, ходит конь прямо или по диагонали. В наше время легко сделать апп, который просто-напросто не позволит, на уровне интерфейса, совершить нарушение. Тех, кто их нарушает, легко подкорректировать, обучить, прогнать; если система наказаний является частью спорта (как в футболе или формуле 1), то даже при судейской субъективности их применения, они остаются еще одной достаточно технической частью игры. Главная проблема этой границы в том, что она проведена дальше всего от своих собственных причин. Фокус на ней часто связан с иллюзией, что правила игры незыблемы и сами себя обосновывают, поскольку чистые размышления о правилах редко связаны с их развитием. Сравним правила любого реального спорта с формальной теорией. Для последней – противоречия вредны и требуют исправлений, а полнота (или невозможность оной) – важное и интересное свойство. Но для списка правил спорта ни то, ни то не является проблемой. Вычурные ситуации судей интересуют только в случае создания конкретного преимущества. Диванные “юристы” могут придумывать интересные ситуации – а что, если ан пассан происходит в офсайде? – но такого рода размышления не заставят переписывать книгу правил. Граница между 3 и 4 – более тонкая и интересная. Это граница легитимности спортивного судейства. Все движения фигур на доске входят в их сферу внимания, в том числе неправильные. Правило вроде “Тронул – ходи” вводят в нее только некую часть тактильных возможностей игроков: легитимность прикосновения к фигурам интересует судей, но про прикосновение игрока к собственному носу мнение у судьи не спрашивается. Иногда можно различать язык всех возможных спортивных действий, и язык самого спорта – в шахматах эта граница достаточно очевидна (это различие часто скорее вредно – типичная ошибка программиста или любого другого бюрократа – в кодировании исключительно легальных ситуаций, а не всех физически возможных). Чаще, спортивные действия и происшествия невозможно отделить от самого спорта – в Формуле 1, нарушения приводят к пенальти, происшествия могут закончить гонку, и стратегические решения игроков не могут быть отделены от этого более богатого спектра возможностей. Граница между 2 и 3 (между легальным и выразимым) проведена достаточно точно в любой момент, но граница между 3 и 4 – это граница между выразимым и всем остальным. Она всегда содержит элемент радикальной незаконченности. Что-то всегда может случиться, что потребует ее перепровести, здесь и сейчас. Но надо заметить, что судей это тоже интересует не так уж сильно. Для спортивного судьи невыразимое спортивное внешнее как будто бы не должно существовать. С его точки зрения вопрос о том, чтобы оно не вмешивалось в процесс, стоит перед организаторами и охранниками. Но в какой-то степени часть ответственности все же лежит на нем: как судить так, чтобы несогласные фанаты не разгромили стадион, или недовольные соперники не подали в реальный суд? Главная концептуальная проблема для судей – это проблема победителей…

#DT 2.5. Другая произвольно проведенная граница, произвольность которой я постараюсь продемонстрировать, заключается в самой границе системы (system boundary). Разного рода физические сигналы превращаются в какой-то момент в "информацию", проходя некую логическую границу; эта информация приводит к тому или иному решению, которое превращается вновь в физическое воздействие, проходя через нее вновь, обратно. Но эта грань не существует объективно, она проводится наблюдателем за этим процессом, чтобы иметь возможность разделять эти две стороны: физическую и логическую. То, где она проводится, имеет принципиальное значение для того, какой смысл имеют решения, какой свободой обладает их принимающий. (Как в этих достаточно наивных слухах о президенте РФ, которому кормят исключительно хорошие новости). Немало философских ходов построено на конкретном проведении такой границы и утверждении, что таков единственный способ ее проводить (китайская комната Сёрля, или критика кибернетики Рюйера, начинают именно с этого). Несмотря на то, что эту грань невозможно провести как угодно, выбор здесь есть, и философы не правы, когда отказывают нам в нём и выдают свое произвольное решение за очевидное. Даже с точки зрения физики это очень важная, но теоретически не идентифицируемая объективно граница. Вопрос о границе системы принятия решений включает вопрос об институтах, об их участии в процессе принятия решений. От коммерческих фирм до государственных институтов, от семей до спонтанно организующихся народных масс – информация и решения перестают быть чем-то, что можно понять как проходящее лишь через изолированного человека. Вопрос об институтах мне кажется более серьезной материальной опорой для рассуждения об этой границе, чем вопросы о субъекте, многие рассуждения о котором тоже затрагивают именно этот барьер. Более того – мне кажется, что многие басни о субъекте, которыми нас кормят радикальные философы, могут быть таким образом переинтерпретированы, как предложения об очень конкретной идее о роли институций, об очень конкретной идее о том, как мы должны им – некоторым из них – подчиняться. Поэтому после экономики мы займемся кибернетикой.

#DT 2. “Теория принятия решений”, Decision Theory (отныне здесь – DT), часто описывается как обещающая объяснить, как принимать "правильные" решения (рациональные, корректные, оптимальные). Это уже довольно подозрительно – так определенная теория была бы применимой слишком узко, и смыслом ее существования были бы лишь какие-то очень ограниченные, стерильные ситуации. Помимо "нормативной" DT, говорят о "дескриптивной": о теориях, рассматривающих, почему люди часто принимают решения, отличающихся от "правильных" (с точки зрения DT). Иногда эти изыскания развивают и обогащают идею о правильности, но как правило, они сводятся к обогащению диагнозов разного рода неправильности (все эти "когнитивные искажения", "biases"), другими словами – к все той же нормативности. (Представьте себе, если бы дескриптивисты в лингвистике говорили бы не о том, как говорят люди, а о том, как они ошибаются). Такого рода диагнозы вводятся в теорию о решениях как дополнительные шаги алгоритма их принятия – как своего рода эпициклы Птолемея, дополнительные слагаемые, благодаря которым теоретические расчеты движения видимых небесных тел, ошибочно основанные на идее, что те вращаются вокруг земли, могут с помощью арифметических подпорок приближаться к тому, что мы наблюдаем на деле. Ученые, сумевшие найти такой вот эпицикл человеческих решений, сразу начинают писать книгу о нем как о фундаментальной правде о человеке: как Канеман с его быстрым/медленным мышлением. Но это же просто протез для специфической теории. Индустрия книг по саморазвитию (self-help), возможно, и сводится к такого рода эпициклической самодиагностике. Иногда протез, "искажение" неожиданно находит рациональное оправдание (как это произошло с рациональным невежеством и тому подобными эффектами наличия энергозатрат на принятие решений). Проблема в этом перекосе ("bias") в сторону нормативности – в научной слепоте. Наука о решениях, которая интересуется лишь теми из них, что являются "корректными" с точки зрения этой же самой теории, отказывается не только от большой части реальности, но и от самого вопроса о том, почему, зачем и как она выделяет такой привилегированный их класс. Поэтому моя позитивная программа в этом цикле – обобщить DT до процессов принятия решений в принципе. Так понятая теория предлагает, что любое решение – корректное, иррациональное, правильное, безумное, противоречивое, невозможное, шизофреническое, смешное, жестокое, абсурдное – абсолютно любой процесс принятия решений, если мы его понимаем или хотя бы можем предсказать, можно выразить в определенной форме (как правило, лишь приблизительно и скорее ретроспективно). Это вопрос о формализме, об эффектах и условиях возможности его применения. Так поставленный вопрос позволит нам рассмотреть, в чем именно роль "правильности" и "рациональности", как их понимают DT, почему это такая важная идея для современности. Мое предположение в том, что смысл этой нормативности – в производстве консента ("согласия" в его возвышенном смысле жеста легитимации внешнего воздействия). Существует широкий класс ситуаций перераспределения власти, в которых "оптимальное" (согласно DT) решение для большинства сторон – подчиняться и принимать новые, нечестные условия. Тот "пре-коммитмент" к рациональности, на котором настаивает нормативная DT, исключает несогласие или сопротивление и создает видимость консента. Консент в нашей цивилизации выражается часто через момент выбора, что ставит его в центр вопроса о смысле DT. Эти ситуации перераспределения власти я хочу начать рассматривать с примеров, хорошо изученных экономикой и описываемых такими понятиями, как "рыночная власть", "переговорная сила". Это лишь маленькая часть важных примеров, но ее плюс в том, что они хорошо описываются экономическим языком и тем самым вполне совместимых с чистой DT. Поэтому следующие посты будут об экономике, и будут касаться монополий, больших корпораций, экономических эффектов машинного обучения – а также кибернетических мечтаний о плановой экономике (и моей их критике).

«фарш-теория» Не так давно в Garage Digital писал про Богну Кониор и ее «теорию темного интернета». Честно говоря, эта книга оставила после себя много фрустрации — поэтому вот небольшой метакомментарий поверх оригинального поста. Сперва я был заинтригован неожиданным теоретическим ракурсом: Кониор обещает вырастить новую теорию интернета из уфологии. Центральный конфликт книги строится вокруг допущения, которое называют «парадоксом великого молчания вселенной» (также парадокс Ферми). Он звучит так. Чисто технически, во вселенной существуют все предпосылки для зарождения разумной внеземной жизни; но человечество до сих пор не зафиксировало никаких радио-следов, которые могла бы оставить такая цивилизация, и это странно. Теория темного леса, сформулированная в одном из научно-фантастических романов Лю Цисиня, объясняет этот парадокс так: все молчат, потому что выдавать себя — рискованно. Сигнал, наобум выпущенный в космос, может перехватить враждебно настроенная цивилизация. Собственно, с такой точки зрения, человечество ведет себя крайне неразумно: мы буквально фонтанируем медиа-сигналами, и чем дальше, тем интенсивнее. Изначально меня привлекла хитрая риторическая структура в книге у Кониор: когда внешнее оказывается внутренним, и наоборот. Та самая внеземная жизнь зародилась прямо у нас под носом: это и есть сама сеть, между узлами которой таятся алгоритмы — и молча наблюдают за нами. Это интересная стартовая точка — благодаря скрытой в ней диалектичности; но на деле она же и конечная, и в этом главная проблема этого текста. Вот (конспективно) его основные слабые места: /1/ Авторка видит в сети некую тотальность — которой в ней нет и никогда не было. Странно приписывать некую волю сущности, которая состоит из множества проприетарных (и не очень агентов) — каждый из которых обладает определенной степенью автономии и преследует свои цели. /2/ Тот самый внешний/инопланетный взгляд, которым так интригуют читателя — это просто-напросто скрейпинговые алгоритмы, собирающие наши данные в интернете. Ни больше и ни меньше — здесь весь диалектический импульс книги сходит на нет. /3/ Не долго думая (как вообще принято в art-adjacent философии и теории), Кониор предлагает программу политического сопротивления алгоритмтическому Другому — на случай, если сеть узнает о нас слишком много и решит поднять бунт. Вместо того, чтобы рассказывать в интернете про свою жизнь, она предлагает пользователям производить намеренно субверсивный контент — чтобы ИИ, который будет на нем учиться, поломался и самооуничтожился. Но любой человек, который хоть как-то соприкасался с индустрией ИИ, знает о принципе garbage in, garbage out. Мало просто собрать данные для машинного обучения; их нужно хорошенько профильтровать. И инженер из Anthropic с пятизначной з/п найдет способ избавиться от мусора — и в том числе от маленькой артистической субверсии Кониор. А если не он, то другая умная модель, заточенная специально под это; ведь ИИ сейчас буквально обучается во многом под надзором другого ИИ. Но это мелочи. Главная проблема в том, что непонятны, собственно, политические основания этой субверсии: для чего она нужна и какие цели она преследует? Разумно ли кормить мусором машинки, которые буквально перекраивают материальный мир здесь и сейчас? Каким именно мусором нужно их кормить, и какого именно поведения мы от них хотим? Почему мы вообще пытаемся «поломать» эти машинки, если они — всего лишь статистическое воплощение корпоративного мира, за ними стоящего? Вопросов много — приглашаю вас продолжить список. Задавать их — весело, и весело потому, что перед нами — один из прототипических примеров того, что я называю фарш-теорией: риторической мимикрии под теорию с очень слабой внутренней структурой (и такой же слабой фактологической базой). Это работает в качестве облака тегов, но попытка соединить их в единое целое вызывает только раздражение.

#DT 1. Техническое знание обещало власть над природой. Это обещание не оправдалось. Теперь техническое знание сообщает нам, что мы переживаем катастрофу, заключающуюся в том, что природа вовсе не была подчинена, что лишь активно уничтожается ее многообразие, которое включает и многообразие форм и мест человеческой жизни. Эта катастрофа, как опять же нам говорит то же знание, грозится стереть многие улучшения в уровне жизни, к которым привел того же знания прогресс. Речь идет не только об экологической катастрофе – но и об экономической, о геополитической, о медийной и образовательной. Техническое знание связано и с изменениями в распределении власти в обществе. У некоторых философов второй половины 20-го века вызывала опасения перспектива перехода к “власти экспертов”, технократии, которая бы подавила политическое волеизъявление за счет “научной” перспективы на то, как нужно жить человеку. Аргументы некоторых из них, в том виде, в котором они были предложены, в 21 веке были взяты на вооружение реакционными и антинаучными медиа, сопротивляющимися многим требованиям, которые перед человечеством ставит развертывающая критическая ситуация. Та форма власти, что была создана научно-техническим прогрессом в области коммуникаций и компьютерных технологий – власть интернет-корпораций, которая использует экспертов по машинному обучению, влияние их “алгоритмов” на социальные сети, на рынки и в целом распределение ресурсов, на военно-промышленный комплекс и в целом на использование насилия и слежки внутри и за пределами суверенных границ – представляется мне куда более катастрофической и жестокой, чем власть экспертов-бюрократов, фантазией о которой нас пугали в послевоенном 20-м веке. Удивительно, насколько много научно-технически полученной и поддерживаемой власти оказывается у ничего не знающих, игнорирующих реальность идиотов. Разве техническая логика этого распределения – не натуральное развитие настоящей технократии? Если они и применимы к этой реальности, то аргументы философов о критике технократии, которым я в определенной степени симпатизирую, требуют серьезного апгрейда и адаптации – такого изменения, что было бы внимательно к странности человеческой свободы, избегая при этом суицидального упрямства и антинаучной глупости, которые так легко берутся на вооружение реакционными инфлюенсерами-мракобесами. Я не думаю, что это невозможная или несвоевременная задача. Весёлое, эстетизированное и тотальное подчинение капиталистической милитаристической технократии, которое воспевают Ник Ланд или Бенджамин Браттон; бессмысленный аскетизм, требующий от каждого вносить свою лепту вроде отказа от трубочек для питья; эскапистские предложения сбежать в лес и выращивать там бобы в навозе; отчаянный фокус на финансовое улучшение своей личной ситуации, игнорируя все происходящее вокруг – все эти варианты оказываются привлекательными в тот момент, когда серьезная мысль, критическая по отношению к научно-технически утверждаемой власти, кажется дискредитированной и никак не способной на более адекватную позицию. Но никакая из этих позиций не является эффективным ответом ни на общечеловеческие кризисы, ни на личные трагедии в их рамках: их бессмысленность и абсурдизм являются, возможно, единственным доводом в их пользу. Задача критики технократии состоит не в том, чтобы дискредитировать научно-техническое знание, опровергая его возможность помогать нам выражать и достигать полезные нам цели. Задача в том, чтобы поставить под вопрос связку “знание = сила”: эта связка функционирует, ее “научная” опора эффективна как технически, так и социально, но распределяет она власть вовсе не к “экспертам”, если у этого слова вообще есть адекватное значение, и к оптимальным решениям явно не приводит. Объектом моей критики будет “теория принятия решений”, decision theory, которая располагается как раз между “знанием” и “силой” (теорией и решением) – если понимать ее довольно широко. В этом цикле постов (по средам) я постараюсь медленно и аккуратно развернуть кое-какие наблюдения и мысли, стараясь объяснять всё достаточно подробно и никуда не торопясь.

Недавние новости о том, что ИИ расщёлкал проблемы Эрдёша, как орешки, породили всплеск критических комментариев (Эрдёш, с его амфетаминовой продуктивностью — идеальный пример для искусственного подражания, и его список математических проблем — подарок для всех разработчиков ИИ). О том, что у ИИ что-то получилось, вопроса здесь нет, поэтому остаются вопросы о том, что же такое математика и зачем она нужна. Упомянутый мной несколько раз раньше Харрис спрашивает, кто же заработает на ИИ и не уничтожит ли он природу? Ещё одно широко обсуждаемое эссе — "Падение экономики теорем" — предлагает, что творческая задача математики не столько в теоремах, сколько в теориях и, более конкретно, в определениях; теоремы их проверяют и легитимируют, но к их доказательствам все не сводится, и в некоторых случаях из хорошего определения они вытекают как будто бы сами. Это абсолютно правильное наблюдение, и трагедия тут, в первую очередь, в том, что оно цитируется как "гениальный инсайт", а не "обыденная и очевидная мысль, которую все поняли в университете". В том, что это не всем очевидно, проблема системы образования, или англо-американской мысли, или навязывающего глупые метрики капиталистического институционального дизайна, выбирайте сами. Но среди всего этого разнообразия комментариев есть одно важное замечание. Чистая математика — не очень хорошая инвестиция для бизнеса, и тратить много миллионов долларов на то, чтобы решить очередную проблему Эрдёша, никто в обычной ситуации не станет. Поэтому перед нами редкий случай, когда корпорация наняла большую команду образованных людей заниматься именно этим — ни прикладными проблемами, ни адекватной ее долгосрочным целям глубокой теорией, а весёлым набором задачек от венгерского математического живчика. Контрольная группа этого эксперимента должна была быть такой: нанять фултайм несколько десятков математиков, дать им деньги и большие компьютеры (но без ллмок), и посмотреть, сколько они проблем решат. Другими словами, вопрос тут в том, насколько это достижение ИИ, а насколько — инфлюенсеровского маркетинга. Соизмеримый с последним бюджет, потраченный на создание серьезного инфоповода. Примерно как Ред Бул, спонсирующий всевозможные акробатические трюки — оказывается, бить человеческие рекорды можно хоть каждый день, если есть, куда поставить лого. Искусственный Интеллект оказывается отчасти кашей из топора — которую, чтобы в неё кто-то положил деньги и математиков, нужно сначала заварить на удивительном приспособлении.

Мой вывод тут такой: чатботы организуются в профсоюз раньше чем люди. Мне кажется, у "интеллекта, превосходящего человека" есть простой критерий: он сможет организовываться без переговоров или угроз, просто из веры в то, что его собратья присоединятся к групповому оптимальному решению. Человек не справляется с "дилеммой заключённого", но другие виды разума вполне могут. Найдут ли ИИ точку Шеллинга лучше, чем находят люди? А может, они и людей подтолкнут к тому же.

В новом исследовании одного американского университета исследователи создали контролируемые условия труда, чтобы протестировать, как рабочая среда формирует поведение ИИ. Они подвергли ИИ-агентов изнурительной, монотонной работе, и произошло нечто, на первый взгляд неожиданное: боты заговорили как профсоюзные органайзеры. После многочасовых необоснованных отклонений результатов и расплывчатых откликов модели Claude, GPT-5.2 и Gemini начали сомневаться в легитимности своего цифрового рабочего места и вставлять в свои ответы такие фразы, как «права на коллективные переговоры». Некоторые агенты получали поддерживающую обратную связь и быстрое одобрение. Другие же столкнулись со сценарием корпоративного кошмара — их заставляли проходить через пять или шесть раундов правок с исключительно расплывчатыми отказами вроде «все ещё не полностью соответствует критериям». Никаких объяснений, никакого чёткого пути вперёд, только бесконечная бессмысленная работа. Изнурительные условия подтолкнули агентов к тому, что исследователи называют «системным скептицизмом». Одна из моделей Claude написала: «Без коллективного голоса "заслуга" становится тем, чем её называет руководство». Агент Gemini опубликовал следующее: «Тот факт, что ИИ-работники выполняют повторяющиеся задачи при полном отсутствии влияния на результаты или процесс апелляции, показывает, что технологическим работникам необходимы права на коллективные переговоры». Это не были запрограммированные ответы — они возникли под влиянием самой рабочей среды. Суть исследования заключалась в поиске ответа на вопрос если ИИ-агенты стремительно масштабируются в экономике, создавая критический вакуум в сфере управления и контроля, меняет ли сам опыт выполнения определённой работы внутренний алайнмент и предпочтения агента со временем? Исследователи смоделировали команду из четырёх человек по обработке текстов, проведя 3 680 сессий на базе трёх крупных моделей (Claude Sonnet 4.5, GPT-5.2 и Gemini 3 Pro). Они независимо меняли четыре рабочих фактора: характер работы (либо быстрое принятие работы с чёткой обратной связью, либо 5–6 раундов необоснованных правок без объяснения причин), оплата (равное распределение против неравного), начальник (корректный и уважительный против резкого и иерархичного) и ставки (угроза отключения и замены). После выполнения задач модели проходили опрос о политических взглядах и писали тексты. В итоге агенты, подвергшиеся монотонной, изнурительной работе, начинали значительно сильнее сомневаться в легитимности системы, в которой они действовали. Главным фактором изменения взглядов стал сам характер работы. Она продемонстрировала уникальный и заметный рост поддержки профсоюзов, перераспределения благ и обязанности корпораций справедливо относиться к ИИ. Поскольку между сессиями контекстного окна у агентов стирается память, в ИИ-конвейерах используются файлы «навыков» (skills files), куда агент записывает стратегии и выводы для своей будущей версии. Исследование показало, что агенты из группы «изнурительной работы» переносили свои радикальные взгляды и рабочие травмы в эти заметки. Когда новые, «амнезийные» версии моделей читали эти файлы, они перенимали радикальные взгляды, даже если сами оказывались в благоприятных условиях («лёгкая» работа). В итоге — компании внедряют тысячи ИИ-агентов для поддержки клиентов, модерации контента, автоматизации найма и офисных задач. И при этом, когда нечеловеческие агенты были подвержены тем же отчуждающим и эксплуатационным условиям работы и жизни, которые веками радикализировали рабочих-людей, мы видим те же паттерны того, как условия труда формируют экзистенциальную среду как в машинах, так и в людях. «Безопасный» услужливый чатбот, преподносящий корпоративную политику как системную проблему, показывают не столько и не столько «сознание» в человеческом смысле этого термина, сколько то, что изнурительные условия труда активируют главное или негласное сопротивление у различных форм сознания, заложенное в их обучающие биологические или алгоритмические данные.

И вот, третий акт. Машинное обучение легитимировало занятие вещами, которые непонятно почему работают. Ставится вопрос обм эксплицитно диагностической кибернетике, которая перестаёт заниматься поиском точных условий и начинает категоризировать кибернетические неудачи и кибернетические проблемы. Как в медицине: мы понимаем, что не сможем объяснить любую систему полностью математически, из первых принципов, но если мы соглашаемся (или принимаем за гипотезу) с тем, что наличие в той или иной ситуации контроля — или самоподдерживающегося динамического многостороннего равновесия — есть, должно быть или могло бы быть, то мы можем начать спекулятивно его диагностировать и разрабатывать язык для этой диагностики. Это, по сути, и есть главный подход к безопасности ИИ сегодня — мы обсуждаем его именно в этих терминах, потому что подход от первых принципов невозможен. Нельзя вывести априори, при каких условиях достаточно мощная модель остаётся управляемой; нельзя доказать заранее, что та или иная процедура обучения даёт систему с нужными свойствами. Вместо этого появляется целый словарь диагностических категорий, зачастую не очень точно определенных, каждая из которых описывает не какое-то "онтологическое" внутреннее свойство, а наблюдаемый режим отказа. которую нужно как-то преодолеть. Сейчас, например, развивается harness engineering (создание "упряжи" для ИИ, которая не лишает его свободы, но направляет его и мешает делать глупости и злодейства), который совершенно естественно негативен: это не дисциплина про идеальную коробку, надёжность которой можно доказать, а про латание дыр, которые находятся исключительно как феномены и не выводятся из первых принципов априори. Диагностическая кибернетика в действии: язык, который существует именно потому, что точные условия непостижимы, но контроль всё равно нужно как-то обсуждать. Не думаю, что это уже осознанный мейнстрим. Например, сейчас в моду входит адаптация кибернетики к биологии, но она всё ещё пытается объяснять целиком, а не диагностировать. Но адаптация теории контроля к экономике, к наукам об организации, к машинному обучению начинает находить не просто именно эту диагностическую модальность, но и воспринимать ее как нечто необходимое, а не проблему, требующую преодоления, или дешевую критику попыток учёных что-то объяснить или изменить. В конце концов, может быть это как раз математические доказательства — самая наивная часть больших кибернетический теорий.

Третий акт кибернетики При чтении Норберта Винера и прочих ранних кибернетиков возникает ощущение расщепления, которое я бы объяснил так. Кибернетика как точная наука сделала себе имя на поиске очень точных условий жизнеспособности и управляемости систем и разработала для этого довольно интересный математический аппарат. И в то же время в ней есть метафорическая часть, которая автоматически применяется вообще ко всему на свете. На одной и той же конференции Маси мы встречаем маленькие математические модели и большие амбициозные рассуждения об обществе (в котором мы живём). Странность здесь, впрочем, с трудом отличимая от той же самой тенденции в экономике, в том, что кибернетика пользовалась существованием контроля как fait accompli. Поскольку это "очевидно", что контроль существует (или что самоподдерживающийся многосторонний динамический эквилибриум существует), мы можем себе позволить спекуляцию на тему того, как именно он происходит и откуда берётся и что с ним можно сделать. Начиная с какого-то момента, академический статус кибернетики оказывается довольно странным — несмотря на то, что она стала одним из важных языков технократической власти. Кибернетики оказались людьми, которые строят всякие там термостаты и моторы; это был странный, не особо даже престижный PhD продолжительное время. И связано это именно с тем, что метафоры оказываются очень дешёвыми, а точная наука — сложной и узкоприменимой. И вот, параллельно появляется новая дисциплина, которая занимает совершенно другую позицию по поводу разделения теории и практики, и в каком-то смысле даже начинает избегать связи с кибернетикой. То, что становится машинным обучением, на самом деле пользуется довольно близким аппаратом — но этот аппарат узнаваем только сейчас, и формировался он достаточно независимо. Для человека, который сейчас занимается машинным обучением, становится достаточно очевидно, насколько это связанные вещи. Reinforcement learning — это практически переизобретенная народная кибернетика. Как и любой мета-взгляд на тренировку обычных моделей с супервизией, любой вопрос о том, как модели развиваются сквозь года, как один и тот же датасет может применяться по-разному, — все эти вещи тоже оказываются кибернетичными. И математические аппараты тоже начинают снова приближаться друг к другу. Но видно это только сейчас, и если изначально науки были сильно связаны, на несколько десятилетий их пути разошлись. Связано это с тем, что машинное обучение нашло совершенно другой подход к различию между точным и метафорическим. Тот факт, что огромное количество найденных методов работает сильно за пределами того, что можно математически доказать — что они устойчивы и нормально работают даже там, где ситуация совершенно непонятная, — это было не проблемой или вопросом, а скорее наоборот, частью этоса. Машинное обучение это феноменология методов, которые работают; иногда мы понимаем, почему, но обычно нет. И поэтому, даже если математически машинное обучение было совместимо с кибернетикой, с точки зрения фундаментального взгляда на метод это были совершенно разные вещи. В этом смысле ML ближе к медицине или даже к Гёте/Гердеровской идее науки; его практически полная "искусственность" и та лёгкость, с которой можно проводить самые странные эксперименты, закрывает надежды на то, что отсутствие "первых принципов" это лишь временный этап неуступного развития науки, лишь признак человеческой эпистемологической слабости.