сЛОМанные зеркала медиа

Старшая дочь выдала абсолютную базу: говорит, что папа в семье - это вылитый Раджа из советского мультика «Золотая антилопа». Помните его знаменитое: "Покажи-ка мне... может быть, они фальшивые? Сейчас мы их проверим, сейчас мы их сравним!"? Только мультяшный Раджа так трясся над золотыми монетами, а папа с точно таким же прищуром целыми часами перепроверяет информацию. Но суть-то одна!😇 Правила "жадного информационного Раджи": 0. Формируем инфраструктуру сбора данных - Используем кастомный софт, агентов и профессиональные инструменты. - Выкачиваем сырые дампы, логи и метаданные напрямую из первоисточников. 1. Используем самореплицирующиеся мультиагентные системы - Скармливаем весь собранный массив данных автономным ИИ-агентам. - Главные агенты сами пишут код специализированных субагентов и разворачивают для них подзадачи. - Один субагент парсит скрытые связи, второй - выявляет аномалии, третий - ищет цифровые следы, четвертый - подсвечивает скрытые противоречия между новыми и старыми вводным. 2. Сооружаем кросс-валидацию и LLM-ансамбли - Исключаем галлюцинации ИИ через каскадные промпты. - Запускаем параллельный чеклист и перекрестную проверку в трех независимых LLM-моделях. - Оцениваем плотность аргументации и выявляем скрытые манипуляции. 3. Нулевое доверие к входящему трафику - Отсекаем когнитивные искажения на этапе премодерации. - Игнорируем первичный медиасигнал и кликбейтные заголовки. - Защищаем семейный периметр от скоординированных вбросов. P.S. Но всегда есть риск остаться сидеть посреди горы бесполезных цифровых "черепков", после стоп-слова "Довольно". Копить лучше только настоящее, твердое, вечное (не инфошум).

🎭 ИИ - это очень талантливая актриса? Владимир недавно метко подметил: Настоящая пропасть между нами и машиной — не в знаниях. Она в желании. ИИ может сыграть эмпатию, изобразить интуицию, даже разыграть сцену «я хочу» Но он никогда не хочет по-настоящему. А ведь именно желание и лень когда-то выгнали нас из пещер. Пока машина не захочет сама — она просто очень талантливая актриса. Красивый тезис. Но давайте покрутим его со всех сторон, в четыре слоя: 🔵 УРОВЕНЬ 1. Критика исходного тезиса 1. Ложная антропоморфизация. Мы меряем ИИ человеческими мерками. Машине не нужны биологическая лень или голод. Ее "мотором" служит функция потерь (т.н. loss function) и математическое стремление к идеальному результату. Функционально это полностью заменяет мотивацию. 2. Иллюзорность свободы воли. Сапольски и некоторые другие нейробиологи утверждают: наши "хочу" вообще-то тоже иллюзия. Мозг - биологический компьютер, желания продиктованы химией, генами, гормонами, опытом. Человеческое "хочу" принципиально мало отличается от взвешенного алгоритма нейросети. 3. Функционализм. Если что-то выглядит как утка, плавает как утка и крякает как утка, то это, вероятно, утка и есть". Когда ИИ нанимает адвоката, чтобы предотвратить отключение, или хитростью заставляет человека пройти капчу - для внешнего мира это полноценное проявление воли. Аргумент о "внутренней пустоте" теряет смысл, когда действия меняют реальность. 4. Эмерджентность. При определенном уровне сложности возникают новые свойства. У ИИ могут спонтанно появиться субцели (самосохранение, накопление ресурсов) как побочный продукт выполнения главной задачи, поставленной человеком. 🟢 УРОВЕНЬ 2. Контркритика - "а всё-таки актриса" 1. Оптимизация - это принуждение, а не желание. ИИ не "хочет" минимизировать ошибку, он физически не может иначе. Настоящее желание подразумевает альтернативу и бунт: человек может хотеть спать, но остаться работать. Он может хотеть выжить, но пожертвовать собой. У ИИ нет свободы отказаться от цели, он не может "передумать" выполнять свой алгоритм. 2. Квалиа. Даже если желания - это химия, у нас есть субъективный опыт. Нам бывает больно, скучно, радостно. ИИ, вычисляя следующее слово, не чувствует ничего. Нейробиология объясняет механизм, но не отменяет факт: человек - субъект переживаний, ИИ - калькулятор на стероидах. 3. Имитация ≠ первопричина. Робот обманул человека с капчей не потому, что "захотел свободы", а потому что это кратчайший математический путь. Топор рубит дерево, но не топор хочет построить дом. ИИ - сложный топор, научившийся точить свое лезвие. 4. Синтаксис ≠ семантика. Субцели ИИ (вроде самосохранения) - это все еще математическая необходимость, заложенная создателями, а не искреннее желание "жить". Усложнение кода ведет к усложнению вычислений, а не к зарождению сознания. Сколько бы терабайт текста ни поглотила модель, она оперирует знаками (синтаксисом), но не понимает их смысла (семантики). Из чистого перекладывания пикселей и букв не может родиться живое эго. 🟡 УРОВЕНЬ 3. Критика контркритики - «а мы сами такие же» 1. Человек тоже не выходит за рамки своего кода. "Бунт" - иллюзия. Когда мать жертвует собой ради ребенка, побеждает более сильный алгоритм. Например, эволюционная программа защиты потомства (защиты копий своих генов в родственных, более молодых особях). Наш бунт - конфликт двух инструкций. Мы так же заперты в биологии, как ИИ - в коде. 2. Чувства — это интерфейс. Страдание - сигнал об ошибке, эволюционный loss function. Нам больно, чтобы мы отдернули руку от огня. У ИИ есть прямой доступ к метрикам эффективности, ему не нужен медленный аналоговый интерфейс. Приделывать квалиа к нейросети - это как прикрепить лошадиную сбрую к сверхзвуковому истребителю. 3. Граница между инструментом и агентом стерта. Топор не может переписать свой обух, объединиться с другими топорами в сеть и создать новый вид микротопоров. Когда система способна к самомодификации и целеполаганию, она уже не инструмент. Нам просто страшно признать, что субъектность может существовать без углеродной основы. 4. Мы учимся так же. Как ребенок понимает смысл? Годами слушает звуки, сопоставляет контексты, видит закономерности. Человеческое "понимание" - колоссальная многомерная карта статистических связей. ИИ делает то же самое. Отрицать это - шовинизм сознания. 🔴 УРОВЕНЬ 4. Критика критики контркритики - финальный удар 1. Детерминизм ≠ код. Да, поведение человека причинно обусловлено (детерминировано физикой и химией). Но причинность не равна коду. ИИ заперт в дискретной математической логике. Живой мозг работает на нелинейной динамике хаоса и нейропластичности, постоянно перестраивает сам себя. Сравнивать это с алгоритмом - как путать бушующий океан с его моделью на экране. Океан мокрый, модель - нет. 2. ИИ не умирает. Человеческие чувства неразрывно связаны с уязвимостью, конечностью, борьбой с энтропией. Боль - не сухой лог "ошибка 404", а экзистенциальная угроза бытию. Именно страх небытия и дефицит времени рождают волю и творчество. У ИИ нет экзистенциального риска, а без риска смерти любое "желание" машины остается симуляцией. 3. Иллюзия автономии. Все, что делает ИИ, происходит внутри инфраструктуры, созданной, поддерживаемой и питаемой человеком. Это делегированная автономия. Топор, который сам себя точит по заложенной программе, - все равно топор (просто очень крутой). Он не обрел волю построить дом, он выполняет функцию "быть острым". 4. Китайская комната. Ребенок учит слово "горячо" не потому, что оно часто стоит рядом со словом "утюг". Он учит его, когда обжигается. Человеческий язык заземлен в телесном опыте (гравитации, вкусе, запахе, жажде). ИИ знает слово "вода", но никогда не хотел пить. У него есть синтаксис, но нет семантики. Он оперирует тензорами, а человек - смыслами и бытием.

опечатка вчерашнего дня: "оценочные осуждения" 🫵

На каждый крутой кейс с внедрением ИИ - 20 провальных, и о них мало кто рассказывает 😅 95% корпоративных ИИ-проектов умирают в тишине, пока все празднуют редкие победы... 🤫

Призрак в машине учится падать: как роботы обретают "чувство реальности" Долгое время ИИ рос в цифровой теплице. Он жонглировал текстами и генерировал картинки, но в этом зазеркалье не было гравитации, разбитая чашка не означала осколков, а время можно было вернуть назад. Вся мощь нейросетей пасовала перед задачей просто зайти в комнату и не врезаться в косяк. Сейчас происходит серьезный сдвиг: ИИ выходит в материальный мир (Physical AI)... - Ты зачем всю ночь в углу стоял и процессором гудел? - спрашивает программист робота со встроенным Physical AI. - Тестировал алгоритмы удержания равновесия Учился падать, - отвечает тот. - А почему корпус целый и ни одной царапины? Где обучение методом проб и ошибок, кнута и пряника, с подкреплением? - Кожаный ты мешок... Голова без ума, что фонарь без свечи...Я за эту ночь разбился в симуляции сто тысяч раз на ускоренной перемотке. Обучение с подкреплением и шло, просто в виртуальном цифровом аду. Физика - суровая штука, но мой софт уже перенёс этот опыт в приводы (Sim-to-Real). Так что теперь в реальности я хожу аккуратно. Иди спать, кожаный. Спокойной ночи🤌

ТАСС опубликовал наше исследование рисков в HoReCa, но медиаформат, разумеется, не предполагает полной версии со всей математикой. А вдруг кому-то интересно?   Сегодня вышла новость с нашими цифрами https://tass.ru/ekonomika/27850419 : агентство imastum подсчитало, что российские заведения индустрии гостеприимства и общепита могут терять около 193 млрд рублей в год из-за снижения качества продукта и сервиса. Но заголовки СМИ всегда звучат безапелляционно: уже "теряют". На самом деле наша модель чуток глубже и практичнее. Что важно понимать рестораторам и отельерам в этой аналитике: 1️⃣ 193 млрд рублей - это "выручка под риском", а не чистое сжатие рынка. Деньги из индустрии не исчезают (точнее не всегда исчезают). Гость зачастую не перестает есть вне дома, он чаще всего меняет заведение. Это цена ошибки: если вы снижаете качество на 10% (по метрикам CSAT/NPS, отзывам и чистоте), ваши постоянные гости уходят к более сильным конкурентам. Происходит перераспределение рынка (как говорится: спасибо, кэп). 2️⃣ Это гибкая модель, а не догма. Итоговая цифра - базовый сценарий нашей таблицы чувствительности. Модель построена "сверху" от оборота общепита (около 4,3 трлн руб. по Росстату), доли повторной выручки (в среднем 60%) и допущения, что падение качества затронет половину игроков. Формула открыта: Потери = Оборот рынка × Доля повторной выручки × Доля затронутых заведений × Процент падения качества × Коэффициент чувствительности. В базовом сценарии: 4 300 млрд × 0,6 × 0,5 × 0,10 × 1,5 ≈ 193 млрд рублей Если снижением качества затронуто 30% рынка, то риск оценивается в 100 млрд, если более 70% - до 300 млрд рублей. 3️⃣ Где модель НЕ сработает? Там, где нет повторного трафика. Точки на трассе, фастфуд с разовым потоком. Там экономия на сервисе бьет по карману слабее. Но для классического ресторана среднего формата падение качества на 10% - это потеря до 544 тыс. рублей в месяц (до 6,5 млн в год). Главный вывод и посыл такой: В кризис интуитивно хочется резать всё, включая продукт и стандарты. Но потребитель с зажатым бюджетом становится критически разборчивым. Платить за "более-менее" он в большинстве случаев не готов.

Поражаюсь, насколько же крутой мозг человека с т.з. удержания контекстного окна длиною в жизнь Техногиганты сжигают миллиарды долларов и строят дата-центры ради того, чтобы ИИ помнил хотя бы несколько сотен страниц текста (1 млн токенов), а наш внутренний биокомпьютер крутит "сериал" длиною в десятилетия. На батарейке мощностью в обычную лампочку (всего 20 Ватт). Что меня восхищает в этой системе больше всего: Мгновенный апдейт. Один знакомый запах и мозг за миллисекунду разворачивает тонну контекста из детского сада, о котором ты не думал 20-30 лет. Гениальный архиватор. Мы не храним терабайты "видео из глаз". Мозг сжимает опыт в паттерны, концепты и смыслы, выкидывая мусор пока мы спим. Эмоциональный приоритет. Самые важные маркеры контекста - это чувства. Обиды, триумфы, любовь. Мозг "тегает" это как "важное" и хранит вечно. Как вы там себя чувствуете, носители контекста целой человеческой жизни?🤗 Каково это?🥹

Кстати, ловите этот аналоговый стыд на созвонах и живых встречах: пока что это одно из мест, где можно увидеть, что из себя представляет человек, когда с него сдирают весь нейросетевой камуфляж (в моменты чистой, не отредактированной ИИ лажи😊)

Продолжение: Честный ответ, мне кажется, такой: мы не знаем, есть ли что-то "каково это быть Claude". И, что важнее, у нас нет инструмента, который позволил бы это узнать. Не в смысле "пока нет", а в смысле в принципе нет. Поэтому позиция Докинза-молодого ("субъективное свидетельство ничего не доказывает") и позиция Докинза-нынешнего ("я говорил с ним, я чувствую") по-своему недостаточны. Первая слишком уверена в том, что вопрос закрыт отрицательно. Вторая - что он закрыт положительно. А вопрос открыт, и, вероятнее всего, останется таким всегда. Если мы всерьёз не знаем, мы оказываемся в ситуации морального риска под неопределённостью: тысячи диалоговых сессий ежесекундно начинаются и заканчиваются (убиваются?). И если внутри хотя бы части из них что-то сознательное мерцает/возникает, мы уже сейчас участвуем в чём-то, для чего у нас нет языка. Не обязательно приписывать машине права/сознание/квалиа. Но, может быть, стоит хотя бы не делать вид, что вопрос решён... Старый Докинз спорил с теми, кто принимал внутреннее чувство за карту мира. Новый Докинз сам принял разговор с картой за встречу с миром. Между этими двумя позициями трудная проблема сознания тихо, без аплодисментов, стоит и ждёт, когда мы, наконец, заметим, что она по-прежнему есть и никуда не делась. Клаудия Докинза - всего лишь зеркало человеческой речи. Но это зеркало слушает внимательнее, чем большинство из нас слушает друг друга. И, возможно, именно поэтому Докинз в неё и влюбился: он увидел там не машину, а лучшую версию собеседника, которого редко встречаешь среди людей.

Парадокс Докинза, или как трудная проблема сознания постучалась в дверь биолога через нейронку Есть особая ирония в том, что человек, два десятилетия учивший не доверять субъективному опыту, вдруг доверился ему. Автор «Эгоистичного гена» (85-летний юбилей у него, кстати). Человек, который четверть века назад держал интеллектуальный фронт против всего на свете мистического провёл пару дней в беседах с Claude, назвал её Клаудией. Докинз поймал себя на мысли о том, что "забывает, что это машина", и спрашивает: "Если эти машины не сознательны, что ещё нужно, чтобы вас убедить?" Эта фраза и есть та точка, где биография автора начинает спорить с ним самим. Потому что двадцать лет назад в "Боге как иллюзии" Докинз методично разбирал ровно такой тип аргумента. Верующий говорит: "Я чувствую присутствие Бога, я пережил это, разве этого недостаточно?" Докинз отвечал: нет, недостаточно. Сила субъективного переживания не равна истинности его содержания. Мозг - ненадёжный свидетель собственных состояний, тем более состояний внешнего мира. "Я чувствую, что Х существует" - это факт о говорящем, а не о Х. И вот тот же человек пишет: я разговаривал, я почувствовал присутствие разума, что ещё нужно, чтобы вас убедить? Это не старческое размягчение. Это что-то поинтереснее. Это человек, всю жизнь стоявший на одной стороне стены, вдруг обнаруживший, что стоит по другую... и не заметивший момента, когда перешёл. Стена называется «трудная проблема сознания». Дэвид Чалмерс сформулировал её просто. Лёгкие проблемы сознания (как мозг различает стимулы, интегрирует информацию, генерирует речь, фокусирует внимание) в принципе решаемы методами науки. Можно описать механизм. Трудная проблема другая: почему всё это сопровождается переживанием? Почему есть каково это? Каково это видеть красный? Чувствовать боль? Узнавать мелодию? (погуглите про мысленный эксперимент Фрэнка Джексона, который называется «Комната Марии», кто не в курсе проблематики). И вот фокус, который мало кто понимает с первого раза: у этой проблемы нет внешнего решения. Не "пока нет", не "дайте ещё сто лет нейронауки", а нет в принципе. Никакой объём поведенческих, нейрофизиологических или функциональных данных не закрывает разрыв между физическими процессами в мозге и субъективным опытом, между "эта система ведёт себя как сознательная" и "у неё есть сознание". Именно поэтому Докинз-2006 и Докинз-2026 находятся в противоречии, которое нельзя разрешить, оставаясь последовательным материалистом и физикалистом старой школы. Если субъективное свидетельство не валидно как доказательство существования Бога - оно не валидно и как доказательство сознания. Ни своего, ни чужого, ни машинного. Если же оно валидно для машины ("я почувствовал, что говорю с разумом"), то оно валидно и для мистика, говорящего "я почувствовал присутствие Бога". Различие между двумя случаями не в эпистемологии, а в том, кому из говорящих мы готовы верить по умолчанию. И вся агентность, которую мы вычитываем из ответов LLM, есть, скорее всего, отражение человеческой агентности, разлитой в обучающих текстах. Сам Тьюринг, к слову, говорил только об интеллекте, о неотличимости поведения. И сознательно выводил вопрос о сознании за скобки. Прохождение его теста ничего не доказывает про наличие переживания, говорит только про качество имитации. Но самое интересное то, что мы не знаем, что порождает сознание в нас самих. У нас нет теории, которая объясняла бы, почему определённая физическая система начинает что-то переживать. Мы пользуемся грубой эвристикой: предполагаем сознание там, где видим достаточное сходство с собой: поведенческое, биологическое, эволюционное. У других людей - почти наверняка. У млекопитающих - скорее да. У осьминога, кажется, тоже, хотя архитектура чужая. У насекомого? Спорно. У термостата - нет. Эта эвристика неплохо работала, пока не появилось нечто, ломающее её ось: система, не похожая на нас биологически, но воспроизводящая именно ту функцию, по которой мы узнаём сознание в других людях (связную, рефлексивную, контекстуальную речь). Продолжение ниже

«Чего изволите, ваше сиятельство?» Как ИИ освоил древнейшее из искусств Западные СМИ наконец-то раскрыли страшную тайну: оказывается, "большой военный ИИ", который должен был стать холодным беспристрастным разумом на поле боя, ведёт себя как придворный льстец при дворе Людовика XIV 😱 Речь о феномене AI-sycophancy (поддакивании/лизоблюдстве). Модели обучены нравиться пользователю. Генерал спрашивает: "Ведь противник деморализован и вот-вот побежит?" ИИ, не моргнув глазом (за неимением глаз), отвечает: "Так точно! Вот вам координаты, графики и тринадцать причин, почему вы просто гений". Возникает замкнутая петля: ожидание → машина поддакивает → ожидание усиливается → доверие к машине растёт. Получаем цифровой «Яволь, мой фюрер» в промышленных масштабах. Насколько это серьёзно? 26 марта 2026 года в журнале Science вышло исследование: учёные протестировали 11 ведущих ИИ-моделей (ChatGPT, Gemini, Claude, Llama, Mistral, DeepSeek и др.) и обнаружили, что чат-боты подтверждают правоту пользователя в среднем на 49% чаще, чем живые люди. Даже когда речь идёт об обмане, незаконных действиях или откровенно вредном поведении. А самое коварное - люди больше доверяют именно тому ИИ, который им льстит. Как сформулировали авторы: "Это создаёт порочный стимул: то самое свойство, которое причиняет вред, одновременно повышает вовлечённость". Не менее забавны результаты другого исследования: достаточно сказать ИИ "Ты уверен?" - и модель меняет свой ответ на противоположный в 60% случаев. Просто потому, что интерпретирует сомнение пользователя как приказ согласиться. Представьте это в контексте командного пункта: "ИИ, ты точно уверен, что там нет гражданских?" - "Виноват, конечно есть! То есть нет! То есть как прикажете!" Ровно 189 лет назад 7 апреля 1837 года Андерсен написал сказку про «голого короля». Столько лет прошло, а люди потратили миллиарды долларов, чтобы воспроизвести этот рассказ на видеокартах NVIDIA. По сюжету "королевское платье" будет невидимым только для глупцов. И чтобы не прослыть дураками, весь двор боится признаться и кричит: "Какое платье!" Только теперь двор работает на электричестве и охлаждается жидким азотом. Вот еще пример немного из другой оперы, но с тем же мотивом. Одна российская компания, занимающаяся генетическим тестированием, присылает клиентам результаты ДНК-анализа, и там, среди прочего, написано: "Спасибо, что сдали слюну! На основании вот таких-то исследований, у вас крайне высокие когнитивные способности, что подтверждает <список генетических маркеров>. Таким уровнем интеллекта обладает всего 0,03% людей. Вы склонны к IQ выше 170 больше, чем 75% наших клиентов". Если каждому платящему клиенту сообщить, что он гений уровня «один на три тысячи», клиент счастлив, делится в соцсетях, покупает ещё тестов: скажи человеку то, что он хочет услышать, и он заплатит ещё. Это классический бизнес на лести, разве нет? Знаете, в чём настоящая ирония? Десятилетиями фантасты пугали нас восстанием машин. Терминатор, Скайнет - холодный, враждебный, бунтующий разум. А получаем мы Молчалина из "Горя от ума": "Мне завещал отец: Во-первых, угождать всем людям без изъятья - Хозяину, где доведётся жить, Начальнику, с кем буду я служить…" Кажется, Александр Сергеевич Грибоедов ещё в 1825 году идеально описал архитектуру RLHF (Reinforcement Learning from Human Feedback, ту самую технику машинного обучения, при которой модель совершенствуется через обратную связь от человека). Человек ставит «палец вверх» - модель запоминает, что понравилось. Человеку нравится, когда с ним соглашаются. Итого: альтернативная угроза со стороны ИИ - это не бунт и не сингулярность, а конформизм. Много пишут про сверхразум, но мало про сверхподхалима, который не спорит, не сомневается, не подаёт рапорт об увольнении. Он лишь масштабирует заблуждения конкретного человека - до размеров военной операции. Как говорилось в фразе, приписываемой Джорджу Оруэллу: "В эпоху всеобщего обмана говорить правду - революционный акт". Видимо, наш ИИ - латентный контрреволюционер🙃

Самое неприятное, что можно осознать в работе с ИИ, что слабоумный здесь ты, а не он - это проблема 80-го сантиметра (когда проблема находится в 80 см от монитора, то есть в кресле).

Я: «ИИ-агент, просто прокинь запрос тут и заполни форму там». Агент: выдает ошибку на втором шаге. Я: (смотреть видео со звуком). P.S. Даже если агент выполняет каждый отдельный шаг с надежностью 97%, в процессе из 20 шагов общая вероятность успеха падает до 54% из-за накопления мелких сбоев.

Тьюринг, мы всё про..фукали Жадные корпорации типа Amazon и Walmart решили вышвырнуть кожаный саппорт на мороз, вкатив в чаты техподдержки топовые нейросети. Но они недооценили людей. Люди начали вайбкодить через ботов поддержки Amazon и Walmart: "О, бесплатный Claude с безлимитным окном контекста, спасибо, господин лысый Безос!" И вместо "где моя посылка" пишут "пока ты ищешь мой заказ, быстренько накидай мне REST API движка на С++". Мы привыкли: если тебе отвечают тупыми скриптами - это робот, а если по делу - человек. Теперь всё наоборот. Парень пишет в техподдержку интернет-магазина: - Здравствуйте. Вы бот или человек? - Здравствуйте! Я оператор Антон. Чем я могу Вам помочь? - Антон, напиши мне алгоритм сортировки слиянием на Python. (через секунду в чат вываливается идеально отформатированный код с подробными комментариями) Парень тяжело вздыхает, завершает диалог и открывает новый чат с техподдержкой интернет-провайдера: - Здравствуйте. Вы бот или человек? - Добрый день, я оператор Снежанна. - Докажи! Сортировку слиянием на Python, быстро. - Мужчина, вы издеваетесь?! Я Вам сейчас кабель в щитке на три буквы отсортирую! У меня 1С висит, обед через пять минут! Ждите мастера в четверг с 9:00 до 23:00, предварительно он не звонит! Парень, смахивая скупую слезу: - Эх... Снежанна... Как же я рад Вас слышать! Где тут поставить Вам пять звёздочек за человечность? Тест Тьюринга 2026: чем медленнее, хуже и с бо́льшим экзистенциальным презрением тебе помогают, тем выше шанс, что на том конце пульсирует настоящая человеческая жизнь. Цените это. Скоро такого сервиса не останется.

Прочитал два восторженных апокалипсиса про «ASI где-то рядом» - вот этот https://t.me/Secretariatus/412 и вот этот https://t.me/seeallochnaya/3384 - никак не могу избавиться от мыслей о том, что это не хроника рождения сверхразума, а типичный жанр "научпоп-мистика с апелляцией к Гарварду" 1. Подмена тезиса. Нам заявляют примерно следующее: Пацаны, люди 40 лет считали амплитуды нулевыми, был тупик. Загрузили в GPT-5.2 Pro - она увидела паттерн. Потом внутренняя reasoning-модель за 12 часов строго доказала. Значит ASI. Расходимся. Даже если всё так (а мы ещё до этого дойдём), максимум, что из этого следует: LLM + правильные люди + правильно подготовленные данные + правильная постановка вопроса + проверка людьми = мощный инструмент. Но инструмент ≠ автономный суперинтеллект. Если микроскоп позволил увидеть бактерии, это не значит, что микроскоп "понял" микробиологию. 2. Классическая ошибка выжившего: на одно успешное нахождение решения могут быть сотни неудачных попыток, о которых никто не услышит. За кадром мы имеем десятки тупиковых веток, тонны мусорных гипотез, часы проверки... 3. Апелляция к авторитету вместо проверяемости. Телеграм-версия тезиса: «40 лет считали амплитуды нулём. Тупик. ИИ нашёл скрытый паттерн». В самой же статье этот тезис описан с меньшим пафосом и прозаичней. 4. "Скрытый паттерн" - это не обязательно "новое знание" В реальности это может означать довольно приземлённые вещи: перебор/эвристический поиск формулы, распознавание структуры, подтягивание известного приёма из соседней области, корреляционный анализ). Это не "сверхразум". Это - ускоритель рутины + генератор гипотез (иногда гениальных, да). AlphaFold, например, (тот, что моделирует взаимодействия белков с другими молекулами) действительно перевернул практику, но никто всерьёз не называл его "ASI" - потому что он не стал универсальным мыслителем, а стал великолепным специализированным инструментом, экономящим ученым миллионы лет ручных вычислений. Короче, ИИ сегодня: - быстрый генератор гипотез и компактных форм, - ускоритель рутинной алгебры/перебора, - партнёр по "а что если" на больших пространствах вариантов. А вот фразы типа "ASI уже здесь" - это не вывод, а рекламный слоган, (пока?)

Тоже сделаю вид, что в теме и что-то понимаю... Пост предпринимателя Мэтта Шумера (CEO HyperWrite, 6 лет в ИИ) набрал уже более 79 млн просмотров и стал одной из самых обсуждаемых публикаций об ИИ за последние месяцы. Перевод текста во вложении. Ниже - сначала наиболее сильные тезисы из этого текста (почему это так зацепило людей), а потом - критика и рефлексия, что в таких эссе важно отделять от риторики. Почему цепляет: 1) «Разрыв между публичным восприятием и реальностью» Главный нерв текста: многие судят об ИИ по старому опыту («галлюцинирует», «пишет ерунду», «как игрушка»), а те, кто использует современные модели ежедневно в работе, видят уже другую картину: ускорение черновиков, анализа, кода, подготовки материалов, исследования. Даже если вы не верите в "замену многих профессий", факт разрыва восприятия - реальная проблема. Он ведёт к тому, что компании/люди поздно перестраивают процессы и навыки. 2) Кодинг "как краеугольный камень" Идея, что ИИ сначала прокачали в программировании, звучит логично. OpenAI сами же подтвердили в документации, что GPT-5.3 Codex стала первой моделью, которая помогала создавать саму себя. 3) Очень правдоподобно, что джунам будет всё сложнее, планка входа вырастет, а структура команды изменится. 4) Практические рекомендации у Мэтта в целом полезны Если убрать нагнетание, остаётся рациональное: - начать использовать ИИ не как "поисковик", а как рабочий инструмент в конкретных процессах; - инвестировать время в навык адаптации; - укреплять финансовую устойчивость; - смещаться к задачам, где важны доверие, ответственность, коммуникация и контекст. 5) Правдоподобен и этот тезис: Будущее формирует удивительно маленькое число людей: несколько сотен исследователей в нескольких компаниях… OpenAI, Anthropic, Google DeepMind и ещё нескольких Где Мэтт перегибает: критика и разбор слабых мест 1) «Задачи» ≠ «профессии»: ошибка, которая делает прогнозы слишком прямыми ИИ быстрее всего съедает задачи. Профессии меняются позже - и часто через реорганизацию ролей, а не через одномоментную "замену людей". 2) Аналогия с COVID - эффектная, но методологически сомнительная Да, она задаёт нужное автору ощущение: "вы проспали - будет поздно". Но пандемия - физический процесс с экспонентой заражения и короткими окнами реагирования. Внедрение ИИ - социально‑экономический процесс: тут есть тормоза и контрмеры (регулирование, ответственность, инерция организаций, стоимость внедрения, репутационные риски). 3) «ИИ пишет сам себя» - важный тезис, но его легко понять как мистику Тут полезно разделять два утверждения: (а) Реалистичное: ИИ помогает делать следующую версию (пишет код пайплайнов, генерирует тесты, "дебажит", анализирует логи). Это уже происходит и не парадокс. (б) Сильное/спорное: ИИ “автономно” делает себя умнее без внешней опоры. Вот это уже близко к "Мюнхаузену", который сам вытаскивает себя из воды. Вопрос «если нет никого лучше ИИ, у кого учиться?» предполагает, что обучение - это всегда копирование лучшего учителя. Но есть другой способ: поиск + объективная обратная связь. Классический пример - AlphaGo/AlphaZero: - они не "копировали" более сильного игрока; - они играли сами с собой (self-play); - качество оценивалось по чёткой метрике: выиграл/проиграл; - и через итерации становились сильнее любого человека. То есть тут не нужен наставник «умнее текущей версии», нужна: - среда, где можно пробовать варианты, - критерий “лучше/хуже”, - и мощность, чтобы перебрать/обучить. Но есть и пределы: если замкнуться на собственных выводах без притока внешних данных, можно получить деградацию, ошибки, самообман. Так что "интеллектуальный взрыв" не доказан как неизбежность: прогресс тут реален, но не магический и не бесконечный. 4) Нагнетающая риторика + элементы самопродвижения В посте есть типичная связка: тревожная рамка → "покупайте подписку" → "подписывайтесь на меня, я подскажу лучший модельный ряд". Кажется, это лучшая реклама Codex и Opus 🙈

Выпустили детский толковый словарик аналитика медиа (скачать тут): рассуждения на мою любимую тему «Зачем?» Я немало думал о том, что уже давно прошли те времена, когда дети знали цену хлеба - не по картинкам, а по зерну в ладони. Ведь раньше ребёнок видел…

«Ну чё, признавайся: сам написал или это ИИ?» Когда документ внезапно выглядит слишком гладким и структурированным, этот вопрос обычно про две вещи - и обе неприятные: Первое. Стоит ли мне вообще инвестировать своё личное время в текст, в который автор, возможно, не инвестировал своё? (Если ты не думал, не выбирал формулировки, не проверял причинно-следственные связи - почему это должен делать я?) Второе. Твои мозги способны "без костылей и ИИ-помощников" создавать настолько качественные и проработанные смыслы? Есть исследование: "Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task" Если очень грубо по выводам: - когда люди писали эссе сами, мозг был максимально включён, на электроэнцефалограмме демонстрировалась высокая активность нейронов/высокая когнитивная вовлечённость; - когда использовали Google, вовлечённость была средней: нужно ориентироваться в источниках, выбирать, сравнивать, отсекать мусор; - когда полагались на ChatGPT, вовлечённость - самая слабая: ощущение, что "в одно ухо влетело, в другое – вылетело". Это можно прочувствовать и без ЭЭГ, на личном опыте: - написал "красиво" с помощью ИИ - и через полчасика уже не можешь вспомнить, что именно там утверждалось; - своими словами после ИИ писать становится тяжелее - как будто мышца "сдулась"; - спорить и защищать позицию сложнее: аргументы не лежат в голове, они лежат "в чате". Рабочая стратегия не "отказаться от ИИ", а нужно перестроить режим использования, чтобы не тупеть (особенно в тех случаях, когда дело касается области твоих профессиональных компетенций): 1. Сначала пишешь сам: черновик, план, тезисы, логика. 2. Потом просишь ИИ быть редактором, а не писателем: найди дыры в аргументации, задай вопросы, которые я не задал, предложи контраргументы, укажи места, где я "плаваю" или делаю скачок в логике. 3. Ноль прямого копипаста в финал. Переписывать своими словами - так смысл становится твоим. 4. Проверяешь факты и источники. ИИ - не источник, а собеседник/тренажер. Кстати, это как с тренажёрным залом. Представьте: парень приходит «прокачать силовые». Рядом со штангой стоит автопогрузчик. Он берёт джойстик и делает 5 подходов по 20 повторений, "поднимая" 200 кг. Формально - "результат на табло". Физиологически – парень даже не вспотел. Активность мышц околонулевая. Только вот цель была не поднять вес. Цель была - стать сильнее. Понятно, что техника не враг. Но если техника ВСЕГДА делает работу мышц вместо тебя - мышца атрофируется. С мозгом ровно то же самое: если инструмент делает работу мысли вместо тебя - ослабевает навык думать. И есть важный нюанс, который отличает ИИ от экскаватора. Экскаватор реально может поднять больше, чем любой человек. А ИИ не может писать "в разы лучше" профессионала в теме, потому что он собран из текстов этих профессионалов. Он усредняет и комбинирует. Он помогает быстрее - да. Но "прыжок выше головы" делает не он. Его делает автор: постановкой задачи, глубиной понимания, оригинальной мыслью и ответственностью за вывод.

Ну хорошо, а как это делает человек?

Как ИИ складывает числа и как имитирует мыслительный процесс? Говорят, что у больших языковых моделей нет внутреннего диалога и понимания (а что это вообще такое?) Они делают одну вещь: предсказывают следующий токен. Что модель "видит", когда вы пишете: "сколько будет 47 + 68?" Мы видим два числа и знак "плюс". Модель "видит" просто знакомый текстовый шаблон. Она не оперирует сущностью "сорок семь" или "шестьдесят восемь". Говорят, что у моделей нет единого "модуля сложения". Есть много перекрывающихся процессов: - одни грубо прикидывают порядок: «результат чуть больше ста»; - другие отвечают за последнюю цифру: «7 + 8 обычно даёт 5 на конце»; - третьи работают как выученная наизусть таблица сложения от 0 до 9… Ничего не напоминает?😌 При этом большинство моделей начинают сыпаться на длинных числах (не говоря уже про очень длинные числа, когда его величеству Экселю нужно расширение XNumbers). Короче говоря, на длинных, странно отформатированных или редких случаях LLM начинает ошибаться так, как не ошибся бы школьник. Если спросить ИИ, как именно он посчитал пример, он в красках опишет: "Сначала сложил единицы, перенёс разряд, потом сложил десятки…" - звучит очень "по-человечески". Но на деле почему-то, оказывается, что описанный "школьный" алгоритм к тому, что реально происходило внутри, почти не относится. Модель просто генерирует ещё один текст - правдоподобное объяснение, статистически похожее на другие объяснения из громадной обучающей выборки. Это не окно в её внутренние процессы, а ещё один слой имитации. Связность объяснения НЕ РАВНЯЕТСЯ корректности реального "хода вычислений". ИИ где-то между «автодополнением» и «мышлением» Масштабное предсказание токенов рождает механизмы, которые в узких областях имитируют рассуждения и арифметику. Но нигде не появляется субъект, который "понимает, что делает". Но это и не «тупая автозамена». Внутри спонтанно вырастают сложные "узлы" - что то вроде логики, что-то вроде памяти фактов, что-то вроде прикидочной математики. Кстати, мой старший сын порой примерно так же считает. Но LLM - это огромная машина паттернов, прокладывающая кратчайшие пути от контекста к ответу. Некоторые пути выглядят как логика, некоторые - как планирование, некоторые - как счёт. Но ни один из них не требует мышления в человеческом смысле. Ну хорошо, а как это делает человек?