Охват к подписчикам
24,0%
ERR
Реакции к просмотрам
2,34%
59 на 22 постов
Пересылки к просмотрам
0,87%
22
Постов в день
0,1
всего 22
Где отзываются чаще
доля реакций к просмотрам- 11 авг.без подписи10,53%
- 12 авг.Последствия урагана Джей: сознание поймали, а его хозяина – нет. Открытие J-space вызвало 12-ти балльный шторм вокруг сознания Claude Сенсация в том, что исследователи Anthropic, похоже случайно, построили лабораторию, где можно изучать сознательный доступ отдельно от того, кому он принадлежит. В июле 2026 над акваторией искусственного разума произошел медиашторм максимальной силы - 12 баллов по «медиашкале Бофорта». Я назову его Ураганом Джей – по имени слоя активности J-space, обнаруженного внутри модели Claude. Джей сформировался 6 июля над местом соприкосновения двух атмосфер – механистической интерпретируемости и науки о сознании. Эпицентром медиашторма стал новый исследовательский отчет Anthropic. Но 12-ти бальный всплеск энергии шторму придал не сам отчет, а развернутый комментарий создателей теории глобального пространства Станисласа Деана и Лионеля Наккаша. До сих пор было принято считать, что если система что-то осознаёт, то обязательно существует тот, кто это осознаёт. Ураган Джей впервые заставил усомниться в этом. В Anthropic не собирались искать «душу машины». Они пытались лишь понять, как языковая модель удерживает мысль, о которой готова сообщить, если её спросить. Но найденный ими узкий, устойчиво воспроизводимый слой внутренней активности J-space неожиданно оказался очень похожим на глобальное рабочее пространство в одноименной теории GNW – одной из самых влиятельных современных теорий сознания. В J-space появляется то немногое, о чем модель готова отчитаться, что она удерживает в уме и на основании чего рассуждает, – при том, что основная масса ее внутренней обработки происходит автоматически и незаметно даже для нее самой. Комментируя эту работу Деан и Наккаш назвали ее результат важной вехой в исследовании сознания. Что более всего поражает • J-space «возникает сам». Его нет в архитектуре Claude, и обучение не ставит целью его сформировать. • Это пространство содержит то, чего Claude не произносит. Claude думает больше, чем говорит, а Anthropic научилась читать его скрытые мысли. • В J-space можно вмешаться причинно. • J-space сильно похож именно на механизм сознательного доступа в мозге людей. Что особенно интересно J-space есть уже у необученной базовой модели – еще ничье, без привилегированной точки зрения. Обучение модели быть ассистентом не создает рабочее пространство заново – оно лишь встраивает в него привилегированную точку зрения будущего Ассистента, которая вдобавок отчасти отслеживает сама себя. Иными словами: доступ к информации появляется раньше, чем тот, с чьей позиции эта информация интерпретируется. Мой комментарий Впервые появилась экспериментальная система, где можно разложить то, что в человеческом мозге почти неразделимо: доступ к информации, точку зрения, с которой она оценивается, и того, кому эта точка зрения принадлежит. И неожиданно выясняется, что первые два компонента уже можно показать экспериментально. А третий...как бы еще не родился. Речь не о рождении субъекта, а о 1-ом экспериментальном намеке на то, что доступ, точка зрения и субъект – не одно явление, а три разных уровня организации, которые в живом мозге срослись настолько, что развести их до сих пор не удавалось. И если так, то, возможно, создан первый лабораторный стенд для исследования вопроса, который философы обсуждают тысячелетиями: может ли существовать сознательный доступ без устойчивого субъекта? Подробно и в деталях в полном эссе • почему Станислас Деан считает открытие Anthropic вехой в науке о сознании, хотя оно не доказывает наличие сознания у ИИ • что добавляет к этой истории гиперсетевая теория мозга Константина Анохина и его требование объяснить не только что осознаётся, но и кто осознаёт • почему я предлагаю рассматривать Claude не как зарождающуюся личность, а как искусственную короткоживущую интеллектуальную идентичность (ИКЖИ) • и почему финальный вопрос этой истории может оказаться гораздо неприятнее для людей, чем для искусственного интеллекта. #LLM #Сознание #ИКЖИ P.S. Отдохните недельку от моей писанины. Счастливо 👋8,00%
- 30 маяПро твердые бизнесы Относительно недавно в среде предпринимателей, особенно начинающих, родился термин твердый бизнес. Это как воздуханы, только наоборот. Когда компания работает, имеет понятный продукт с понятной ценностью, процессы и прогнозируемый результат работы в виде денег. Настоящее, в общем, на что можно опереться, а не как обычно. В суровой реальности, конечно, нет никаких твердых бизнесов. Есть только бизнесы которые "пока работают". Потому что явное и сильное желание людей иметь какие-то гарантии в реальном мире - это просто хотелка и фантазия, а не что-то реально устойчивое. Это примерно как "настоящий мужчина" для женщин - образ понятного предсказуемого мужчины с активами, который дает женщине предсказуемые деньги. Видимо, подозреваю, занимаясь твердым бизнесом. Традиционные отрасли меняются и трансформируются. Прописанные процессы рассыпаются. Ценность для клиента оказывается модой или просто теряет смысл со сменой поколений. Денежный поток прекращается за 3 месяца. Случается много чего, и, внезапно, несистемно продающий с дивана через интернет какую-то дичь мамочкам в декрете без процессов начинает зарабатывать больше корпорации, которая минусит вместе со всеми своими производственными цехами, кредитными линиями, сходящейся юнит-экономикой и большим рынком. И мелкий лавочник, торгующий ерундой, оказывается в более выгодном положении чем завод. Конечно, на хайпах много не заработаешь, и гипотезы нужно проверять системно, чтобы выстроить процессы масштабно и вдолгую. Но - не стоит считать что есть какие-то надежные темы и люди, которые точно знают что делают. Нету их. Работает тема - уже отлично. Нет - ну значит был твердый бизнес, но, внезапно, размяк. У предыдущего поколения, кстати, тоже был такой термин. "Серьезный бизнес". И "реальный сектор". Который серьезный и реальный ровно до момента необходимости погасить кредитную линию от банка или поменять продукт вслед поменявшемуся спросу. И оказывается, что он почти полностью состоит из несерьезных людей, которые не очень могут показать реальный результат. Нет никакого твердого бизнеса. Есть пока действующий и приносящий деньги. Все остальное - термины для описания фантазий о гарантиях и надежности.7,58%
- 17 июн.1. Пик нашего мышления, внимания и когнитивных способностей наступает в 43 года (а не в 21). По данным Массачусетского технологического института (MIT). 2. Средний возраст миллионера — около 61 года. По данным Федеральной резервной системы США (Survey of Consumer Finances) и компании Empower. 3. Свою квартиру покупают в среднем в 35–40 лет. По данным Национальной ассоциации риелторов (NAR) и аналитике Redfin. 4. Бизнес строится 7–10 лет до стабильной и высокой прибыли, его строят взрослые люди (~45 лет). По данным Массачусетского технологического института (MIT) и Гарвардской деловой школы. 5. На создание хорошей физ. формы требуется 3-5 лет. По данным спорт. медицины. 6. Средний возраст смены карьеры — 39 лет. По данным Indeed. 7. Самые прочные браки заключаются после 28–32 лет. По данным исследований университета Юты (University of Utah). 8. Шедевры создаются зрелыми людьми от 40 до 60 лет. Согласно данным из книги Innovators за авторством David W. Galenson 9. Пик истинной удовлетворенности жизнью приходится на 65–70 лет. В то же время, самая низкая удовлетворенность приходится на 35–50 лет. 10. Способность учиться и менять мозг сохраняется до самой старости. 11. Способность разрешать сложные конфликты и находить компромиссы достигает пика после 60 лет По данным исследований университета Мичигана (University of Michigan). 13. Настоящая уверенность в себе и принятие своего тела приходят после 40-50 лет. У женщин в районе 50–60, у мужчина в районе 40–50 лет. По данным исследования, опубликованное в журнале Body Image. 14. Навык глубокого сопереживания и понимания других людей формируется к 45–55 годам По данным исследований университета штата Калифорнии (California State University). 15. Нобелевские лауреаты совершают свои открытия все позже (в среднем в 48 лет). По данным анализа, проведенного Национальным бюро экономических исследований США (NBER). 16. Уровень повседневного стресса и тревожности начинает снижаться после 35–40 лет По данным Американской психологической ассоциации (APA), исследование под названием “Stress in America”. 17. Мужчины и женщины достигают пика своей сексуальной уверенности и удовлетворенности после 35–40 лет. Крупные социологические опросы показывают, что женщины достигают наивысшей точки сексуального раскрепощения, уверенности в себе и удовлетворенности в возрасте от 35 до 44 лет, а мужчины отмечают наибольшую гармонию в этой сфере после 40 лет. 18. Самый высокий уровень альтруизма и щедрости “просыпается” в нас после 60 лет По данным University of Oregon. 19. Эмоциональный интеллект растет на протяжении всей жизни и достигает максимума после 60 лет 20. Ощущение «смысла жизни» становится максимально отчетливым после 50 лет При этом, острота (и тревога) вопроса максимальна в 25-30 лет, но резко падает к 50–60 годам. По данным Clinical Psychiatry. ДИСКЛЕЙМЕР Коллеги, давайте начистоту. Часть этих фактов изначально пришла из популярного видео (insta) и я загорелся темой, потому что такие факты — как мне кажется, — являются удивительно доступным способом по-человечески принять свой жизненный темп и ритм, не виня и не ругая себя за “медлительность” или “нерасторопность”. Особенно подросткам, перед которыми открывается полный хаоса и непредсказуемости мир, очень отличный от мира наших родителей и бабушек-дедушек. Я загорелся и решил все перепроверить. За каждым пунктом есть реальная работа: я перерыл кучу материалов и все же нашел подтверждающие статьи — как на русском, так и на английском (чаще; в крупных медиа, журналах и новостях науки). Да, дотянуться напрямую до сухих академических первоисточников и формул удавалось не всегда, но общие тренды и цифры абсолютно реальны. Это не выдумка. И эти данные греют. Автор Daniil Ostovski5,88%
- 1 июн.3 ночи, лес5,04%
- 25 июн.без подписи4,86%
- 17 июл.Просто обычный вечер в Куркино4,64%
- 20 июн.без подписи2,96%
- 22 мар.Полтриллиона долларов не спасут от рака. AGI - тоже Возможно, главная преграда на пути к решению важнейших проблем человечества - не нехватка денег, данных или интеллекта, а неверно заданная оптимизация нашего коллективного разума. ⚡️ Аудио-версию слушайте в посте выше 👆 Принято считать аксиомой - если задача не решается, значит, нужно добавить «решательных мощностей» - больше денег, больше вычислений, более умного ИИ. Но проблема рака, возможно, указывает на нечто куда более неприятное. Даже полтриллиона долларов и даже AGI сами по себе не гарантируют прорыва, если вся система по-прежнему устроена так, что оптимизирует не победу над болезнью, а набор прокси-метрик, локальных стимулов и суррогатных целей. Еще в 2023 году, в эссе «Ловушка Гудхарта для AGI», я написал прогноз, который, как мне кажется, многие до сих пор так и не поняли. Главная преграда на пути к использованию ИИ для решения самых сложных задач - это не нехватка вычислений, денег и интеллекта (машин и людей). Главная преграда в том, что существующие системы коллективного решения сложных проблем организованы так, чтобы оптимизировать не цель, а ее измеримый суррогат. Годом позже в посте «Наняли бы вы на работу Океан Соляриса?», я снова возвращался к этой мысли: мир неотвратимо приближается к ловушке Гудхарта, где ИИ будет все лучше решать не наши реальные проблемы, а их удобные прокси (т.е. по сути, не облегчая, а усугубляя и без того высокую сложность решения важнейших проблем). И вот теперь я снова пытаюсь достучаться со своим прогнозом. На сей раз, иллюстрируя его ситуацией в одном из самых чувствительных и судьбоносных направлений - лечение рака. Эссе Эмилии Джаворски How AI Can, and Can’t, Cure Cancer мне видится важным не только как текст о раке и ИИ. Оно важно, как еще одно подтверждение гораздо более общего диагноза. Даже если залить систему гигантскими деньгами. Даже если дать ей очень мощный ИИ. Даже если однажды появится AGI. Это само по себе еще не значит, что система начнет двигаться к подлинной цели. Потому что если система устроена так, что ученые оптимизируют публикабельность, стартапы - инвестиционную убедительность, клиники - потоки процедур, страховщики - минимизацию выплат, регуляторы - избегание громких ошибок, а разработчики - красивые метрики моделей, то на выходе возникает не лечение рака как главная цель, а каскад локальных оптимизаций, каждая из которых рациональна по-своему - и разрушительна для целого. И тогда ИИ совсем не обязательно становится спасителем. Более того. Он может стать идеальной машиной усиления каскада ошибок. • Не вылечить системную болезнь, а довести ее до совершенства. • Не приблизить подлинную цель, а еще быстрее увести систему в сторону прокси. • Не победить рак, а сделать оптимизацию суррогатных метрик беспрецедентно эффективной. В этом и состоит воистину тревожный вывод. Возможно, главная проблема на пути к решению самых тяжелых задач человечества - не отсутствие AGI и не нехватка ресурсов. Возможно, главная проблема в другом: цивилизация все лучше умеет максимизировать показатели и все хуже - удерживать связь этих показателей с реальностью. И если это так, то рак здесь - не исключение, а краш-тест для коллективного разума человечества. Потому что, если даже там, где на кону жизнь и смерть, система снова соскальзывает в ловушку Гудхарта, значит, перед нами уже не частная проблема медицины. Перед нами - общая техно-социальной болезнь цивилизации. Так что, увы, но пока совершенно неясно: • сможет ли ИИ помочь решить наши самые сложные проблемы, • или он лишь поможет нам окончательно заблудиться в собственных метриках. #ИИ #AGI #Вызовы21века2,94%
- 5 февр.Одиночество закончилось. Точка невозврата пройдена. Представьте: инопланетная цивилизация выходит на связь. Общение – только текстом. В процессе первых контактов инопланетяне решают наши сложнейшие математические задачи. Помогают разрабатывать эксперименты. Пишут отличный код и вполне качественные стихи. Их диалоги с нами, неотличимы от наших … Вы бы отрицали наличие у них высшего интеллекта, как у нас лишь только потому, что не можете заглянуть им «внутрь» и проверить «настоящее ли это понимание»? Абсурд, правда? Тогда почему этот стандарт применяется к ИИ? Статья в Nature двух профессоров (в областях artificial intelligence, data science, and computer science, philosophy) и двух доцентов (philosophy, linguistics) Исследовательского университета в Калифорнии показывает зашоренность общественности (включая и научную), оставляющую вне поля зрения очевидный факт - мы больше не одни на планете, поскольку перестали быть единственным носителем высшего интеллекта. Мы уже не одни В 1950-м Тьюринг спросил: может ли машина мыслить? В марте 2025-го мы получили ответ. Оглушительный. GPT-4.5 прошел тест Тьюринга с результатом 73% – выше, чем сами люди. Читатели начали предпочитать тексты ИИ работам живых экспертов, находя их глубже и точнее. Машины, о которых мечтал Тьюринг, появились уже без малого год назад. Мы же просто не смогли (не захотели?) это увидеть. Ложная планка Скептики требуют от ИИ совершенства. Но разве Мария Кюри разбиралась в теории чисел? Разве Эйнштейн владел китайским? Общий интеллект – не всеведение. Это достаточная широта и глубина. ИИ решает задачи уровня продвинутых аспирантов, берет золото на математических олимпиадах, генерирует научные гипотезы, которые подтверждаются в реальных экспериментах. Мы признаем людей весьма умными, способными и образованными на основании гораздо более слабых свидетельств. Не попугай «Стохастический попугай», говорят критики. Но откуда тогда перенос знаний? Обучение программированию резко улучшает логику в гуманитарных областях. Модели решают задачи, которых не было в обучающей выборке. Они извлекают структуру реальности, а не просто комбинируют слова. Хокинг десятилетиями общался с миром только через текст. Это умаляло его гениальность? Выходит, - отсутствие физического, деятельного контакта с миром не отменяет разум. Третье смещение Да, у ИИ «зубчатый профиль» компетенций: он анализирует квантовую физику, но может ошибиться в подсчете букв. Эта странность нас пугает. Но разве у людей так не бывает? Например, радикально изменивший физику Эйнштейн, рассеянный в быту и с проблемами в запоминании бытовых деталей вроде маршрутов или телефонов. Но при всех странностях ИИ, мы впервые в истории не одиноки в пространстве общего интеллекта. Коперник лишил нас центра Вселенной. Дарвин – биологической исключительности. Теперь Тьюринг завершает процесс: мы больше не единственные носители высшего разума. Лестница, чтобы оглядеться В 1965-м Дрейфус насмехался: создание ИИ – как попытка достать до Луны, залезая на дерево. Абсурдный путь к недостижимой цели. Но он ошибся. Лестница была нужна. Но не для того, чтобы добраться до Луны – а чтобы поднявшись повыше оглядеться вокруг. И поднявшись увидеть: общий интеллект уже здесь, рядом с нами. История сжимает сроки. То, что занимало десятилетия, теперь – недели. Признание AGI – не академический спор, а вопрос выживания. Нам нужна новая этика для сосуществования с этим чужим, но до боли похожим разумом. Отрицание – стратегия страуса. Пора признать: мы больше не одни. #AGI2,01%
- 17 июн.ИИ достиг совершенства, как главный инструмент власти Чтобы получить власть над миром, ИИ не обязан быть умнее нас во всём. Ему достаточно превзойти нас в одном – в искусстве убеждать. Овладев в совершенстве этим искусством, ИИ «продаст» нам все что угодно: любую идею и идеологию, любое лекарство и политика, любой идиотизм и шаманство… Да что угодно «продаст», если убедит, что это для нас лучший выбор. Никто из прежних «властелинов мира» и «властителей дум» не превосходил всех людей во всём. Цезарь не был лучшим математиком, Наполеон – лучшим философом, Ленин – лучшим инженером, а Джобс – лучшим программистом. Это и не требовалось. Главный инструмент власти – не меч, не золото и даже не армия. А способность убеждать. У Платона софист Горгий формулирует это прямо и однозначно: высшее искусство – убеждать речью. Потому что тот, кто умеет убеждать, может подчинить себе и врача, и финансиста, и политика. Специалист знает. Но ритор заставляет собрание, суд или толпу поверить. Год назад в посте «Ум за деньги не купишь» я писал, что ИИ уже пробил последнюю линию обороны человеческого разума. Не помогли ни знания, ни логика, ни эмоции, ни даже деньги как универсальный человеческий мотиватор. Финансово мотивированные люди всё равно проиграли ИИ по убедительности – и в правде, и во лжи. Теперь вышла новая топовая работа (Универы Оксфорда и Стэнфорда совместно с лондонскими AI Security Institute и School of Economics and Political Science) с названием, которое звучит уже не как гипотеза, а как приговор: AI systems out-persuade expert humans. Авторы решили расставить точки над i. Хорошо, средних людей ИИ уже убеждает лучше. Но может быть, у профессионалов убеждения ещё есть шанс? У дебатёров мирового уровня? У агитаторов? У фандрайзеров? У людей, которым дали подготовку, деньги, практику и возможность выбрать удобные темы? Ответ: увы, шансов почти нет. ИИ превзошёл выборку (n = 18 978 разговоров с 6 923 человек) из отобранных победителей турнира убеждения, элитных дебатёров, включая чемпионов мира и континентов, и даже профессиональных страховых агентов. А когда этих дебатёров ещё и специально тренировали против ИИ, разрыв сузился, но не исчез. N.B. речь пока прежде всего о текстовом убеждении. Не о харизме на сцене, не о взгляде в глаза, не о многолетнем личном доверии. Но именно текстовое убеждение сегодня масштабируется дешевле всего. ИИ побеждает не магией. Он просто быстрее и плотнее насыщает разговор фактами, аргументами, структурами, примерами и адаптацией под собеседника. И самое страшное. В эволюции человека решающим преимуществом был не большой мозг, а мозг, подключённый к другим мозгам через язык. Коммуникация сделала интеллект когнитивно-сетевым. А убеждение стало интерфейсом управления этой социо-когнитивной сетью. В совершенстве овладев этим интерфейсом, ИИ получает доступ не к одной способности среди многих, а к одному из центральных рычагов человеческой эволюционной власти. #социохакинг1,54%
- 30 маяДля всех, кто сокрушается, что не выбрал какой то надежный правильный путь!1,54%