Луч внимания Жени Софронова

Мерч Когда-нибудь я сделаю мерч для этого канала. Я уже придумал дизайн ✨ Вот два варианта: с шуткой до книжки Юдковского и шуткой с после книжки Юдковского

Хочу через пару недель устроить созвон про новую книжку Элиезера Юдковского и Нейта Соареса «Если кто-то его создаст, все погибнут» (в оригинале — If Anyone Builds It, Everyone Dies). Книжка про то, что если кто-нибудь сейчас создаст ИИ умнее человека, он всех нас убьёт. Буквально. Если коротко: бояться нам стоит не злого ИИ и не ИИ в руках у злых людей, а такого интеллекта, цели которого мы не можем контролировать, механизмы работы которого мы не понимаем и который слишком хорошо умеет добиваться своих целей. Где нижняя граница этого сверхИИ — никто не знает. Когда её пересекут — неизвестно. ИИ-корпорации наперегонки бегут к этой границе. А когда мы её пересечём — вероятность того, что человечеству пизда очень высокая. На N+1 есть фрагмент книги о том, как и почему ИИ-модели начинают «хотеть» добиться своей цели любой ценой: https://nplus1.ru/blog/2026/07/09/if-anyone-builds-it-everyone-dies Меня аргументация в книжке убедила. Забавно, что книжка в оригинале была написана в 2024 году. И там много замечаний переводчика типа «это уже произошло и это уже произошло». Я прочитал книжку и написал конспект с главными мыслями: https://telegra.ph/Esli-kto-to-ego-sozdast-vse-umrut-07-23 Так вот, если хотите обсудить — приходите на созвон: https://t.me/untilASI/46

Голоса за нормальные и не ужасные партии На выборах обычно есть какой-то рубеж для небольших партий. Типа: не набрали 5% — голоса избирателей уходят самым крупным партиям. Поэтому власть остается у тех, у кого уже есть власть. Вся власть остаётся у старпёров…

Нейрослоп — это отсутствие стиля Ощущение нейрослопа возникает из-за того, что в картинке (или тексте) нет своего стиля. Сам по себе иишный стиль, может быть, и не плохой. Но нельзя просто делать красивые картинки и не учитывать, что ровно такие такие же картинки (и тексты) делают все остальные. Если в картинке (или тексте) нет своего (или хотя бы какого-то) стиля и мы полностью передаём модели ответственность за стиль — появляется ощущение, что нам пофиг на это. Нейрослоп появляется из-за отсутствие насмотренности. Если видел много разных картинок и текстов — замечаешь, когда картинка (или текст) такая же как миллион других вокруг. Наверное, поэтому же Corporate Memphis и инфостиль Ильяхова — это тоже слоп. Только тогда это ещё не было нейрослопом

Нейрослоп — это отсутствие усилий Мне кажется, что ощущение нейрослопа появляется тогда, когда кажется, что человек вообще не вложил своё внимание и не приложил свою человеческую руку. Если видно, что человек приложил свои силы, ощущение нейрослопа пропадает (или уменьшается?), даже если есть какие-то недочёты. Например, когда я сейчас делаю дизайн, я обычно генерирую картинки, а вёрстку и текст делаю вручную

Культура — это «как правильно?» Я уже не помню, сам ли я придумал эту мысль или где-то подсмотрел. Но мне она кажется важной. Культура — это то, что мы считаем правильным и хорошим, а не то, как мы делаем на самом деле. Например, в России считается круто быть пунктуальным, но одновременно многие люди опаздывают. То есть я бы сказал, что в российской культуре есть пунктуальность, не смотря на то, как происходит в реальности. Когда мы проходим какие-то тесты, там часто просят «отвечайте так, как есть на самом деле, а не так как вы хотели бы». К слову, в итоге мне кажется, что в тестах на половину вопросов я отвечаю так, как я хотел бы чтобы было, а на половину — именно про себя. Наверное, это плохо для результата 🫠 Мне же кажется, что важно спрашивать: и про то, как считаешь правильно, и про то, как у тебя самого сейчас. Кроме того, что человеку понятнее, как отвечать, это ещё и даёт больше информации про человека. Чтобы понять, какая культура тебе ближе, мне кажется, важнее вопрос «как ты считаешь, правильно и хорошо делать?», а не «как ты делаешь?» Заметка для себя на будущее: когда я буду делать какие-то опросники, хочу спрашивать про обе эти штуки: и как хорошо, и как сейчас. Что почитать ещё: · Карта культурных различий, · классификация Хофстеде

Жест «спасибо» Бывают ситуации, когда хочется показать благодарность, но не сказать ртом «спасибо». Например, когда я еду на велосипеде и мне хочется сказать «спасибо» автомобилистам, которые меня пропускают. Не очень понятно, как это сделать. Просто махать как-то странно. Но я махал за неимением лучших идей. Вчера я, наконец, додумался, что существует способ, идеально подходящий для такой ситуации. Это жестовый язык ✨ Жест «спасибо» на русском, украинском и беларусском · на немецком, английском, американском и французском. Вот здесь есть на всех жестовых языках, но никак не дать ссылку на конкретное слово: https://spreadthesign.com/

Про «Я не знаю» Я делаю презентацию для воркшопа. В какой-то момент стало тяжело, и я завис. Я понял, что пытаюсь рассказать о штуках, которые выходят за пределы моей компетентности. Мне кажется важным рассказывать не только о том, что я знаю, но и показывать, что ещё существует — и куда можно копать дальше. Но нормально рассказать об этом я уже не могу. В этом собственно и суть: я говорю, что есть что-то ещё за границами моей компетентности. Тогда в тех местах презентации, где не знаю, что сказать, я просто решил написать «Я не знаю». И дело сразу пошло. Если разберусь — отлично, добавлю информацию. Если не успею, не смогу или не захочу — тоже нормально. Так и останется «Я не знаю». Приятно говорить «Я не знаю», когда не знаешь, а не притворяться, что знаешь всё, и не пытаться немедленно во всём разобраться. Совет себе на будущее. Если не знаешь — скажи «Я не знаю»

Сумбурный канал про ИИ Я понял, что в этот канал (в «Луч внимания») я хочу писать всё-таки рандомные мысли про разные штуки. Не хочу превращать его в канал про ИИ, даже временно. Но сейчас мне интересно изучать ИИ, а вести канал и рассказывать что-то другим людям — это мой способ что-то изучать. Поэтому я завёл отдельный канал про ИИ: @iiiiiiija Обратите внимание на нейминг и аватарочку — принимаю комплименты. Идея канала пока не оформилась окончательно. Но я знаю, чтобы что-то делать — нужно сначала начать это делать плохо (aka «наговнякать»). Вот я начну делать как-то — и постепенно пойму как лучше. Вот как я вижу основные принципы и границы: Я не эксперт. Важно сказать, что я не эксперт в ИИ. В канале я буду сам узнавать что-то новое и писать про это. Для не технических ребят. Канал будет для не технических ребят, но которые хотят научиться разбираться. В контенте, языке и глубине хочется найти правильное место на спектре между «вот промт, используйте» и ИИ-крипто-токен-братанами. Мне кажется, что я могу сохранять «взгляд новичка» — объяснять сложное так, чтобы было понятно. Форматы. Я хочу рассказаывать про прикольные кейсы, про прикольные статьи, про прикольные практики, про майндсет, про прикольные инструменты, про прикольные способы думать про ИИ (список не полный). Практика. Я хочу, чтобы этот канал был не просто местом для чтения, а придумать какие-то практики, чтобы можно было интегрировать ИИ в свою жизнь. Я хочу, чтобы всё было практично, экшнбл и весело. Комьюнити. Я хочу, чтобы было взаимодействие с комьюнити. Собирать вопросы, информацию и опыт. Постить посты от других ребят. И вообще устраивать коллаборации и взаимодействия. Хочу сделать какую-то группу, где мы будем собираться и вместе учиться и обсуждать. Или мастермайнд, или ридинг-группу, или что-то такое. Чего не будет. Не будет подборок новостей из мира ИИ. Их много и непонятно, что с ними делать. У меня они только вызывают панику и FOMO — не хочу этого. Ну и сразу, расскажите, пожалуйста, что бы вам было полезно в этом канале?

Флаг Земли Увидел в твитере, что чувак нарисовал флаг Земли. И неожиданно придумал свою версию, которая мне прям нравится. Важно, что Земля — это не только планета, но ещё и люди. А ещё очень важно, что с таким будет очень кринжово начинать войну с кем-то

Я продолжаю думать про то, что сделать прикольное и полезное про ИИ для нетехнических ребят. Мне было бы суперполезно, если бы вы ответили на пару вопросов: про использовании ИИ вообще и про написание кода. 1. Есть ощущение, что сейчас все вокруг делают много всего с ИИ. Но вам кажется, что конкретно вы делаете меньше, чем хотели бы. Расскажите почему? https://forms.gle/96YZoRFVqGAGpEVK8 2. Есть ощущение, что сейчас все вокруг — даже нетехнические люди — вайбкодят и пишут свои инструменты с ИИ. Но конкретно у вас не получается. Расскажите почему? https://forms.gle/Sy7GgSpxtyjjxAdq9 Когда я что-то сделаю, выложу сюда ✨

Французский язык для первоклассников Примерно через месяц я буду рассказывать нетехническим ребятам про использование ИИ в своих проектах. И хотя я что-то знаю про ИИ, но я не то чтобы прям самый лучший специалист, который всё про всё знает. Но у меня есть история, которая помогает мне справляться с ощущением самозванца: В Политехе у меня был преподаватель. Он преподавал одновременно физику (одну из) и технический английский язык. И у него кто-то спросил, как он так может: знать и физику, и английский. И он сказал: «Ну слушайте, вот вы, например, не знаете французский. Но если бы вам нужно было преподавать французский для первоклассников, наверняка, вы смогли бы подготовиться и преподавать. Ну вот и я так же могу преподавать вам английский». Вот и я так же. Если я несколько лет копаюсь в ИИ, что-то пытаюсь делать, прохожу какие-то курсы и сейчас месяц активно поготовлюсь — я смогу рассказать то, что будет полезно и интересно. Я объективно смогу что-то такое рассказать, независимо от того, что я чувствую про это. Чтобы преподавать французский первоклассникам, не нужен сертификат С2. Чтобы про что-то рассказывать, достаточно знать больше, чем те, кому рассказываешь, не обязательно знать всё. Тем более, что знать всё — невозможно ✨

Я сейчас начинаю использовать Claude Code. Это интересный опыт. Вчера я смотрел воркшоп про то, как не-программистам что-то навайбкодить. Для начинающих воркшоп неплохой, он от комьюнити Ремайндера. Там нужно было включить плагин feature.dev. И по идее это должно делаться за 15 секунд в графическом интерфейсе: нажимаешь плюcик → плагины → добавить плагин... Но у меня его не было в списке (и многих других тоже не было). В итоге это превратилось в 4-часовое приключение: установить GIT, поменять переменную среды CLAUDE_CODE_GIT_BASH_PATH, установить Node.js, через командную строку сделать, чтобы PowerShell не блокировал скрипты, установить через командную строку anthropic-ai/claude-code, установить через командную строку этот плагин feature-dev. Я не знаю, что из этого нужно было делать, а что — нет. И только примерно понимаю, что я сделал. Но в итоге через 4 часа фрустрации, слёз и мата плагины появились в интерфейсе. Меня удивляет, что про это всё нигде не рассказывают. У меня есть чувство, что меня газлайтят, когда говорят «ой, да сейчас программировать может кто угодно». Да, код написать просто. Но сделать, чтобы что-то заработало — всё ещё сложно и непонятно. Отдельно меня удивило, что Клод сам не может нормально ответить про проблемы про себя. Хотя казалось бы это то, что он точно мог бы хорошо знать. Но теперь у меня есть любимое туториал-видео. Оно очень хорошо показывает, как я чувствую всё это: https://www.youtube.com/watch?v=J4l6E-KopiY Там 2 минуты и мощный плот-твист в конце. Но если не хотите смотреть 2 минуты, то вот описание: Чувак решает проблему, что-то делает и объясняет. И у него в конце не получается, проблема не решается. Он говорит „должно было заработать, наверное, попозже заработает, спасибо, надеюсь, было полезно, пока“

Ответственность Предыдущие навыки больше про эффективность и продуктивность, а этот — про безопасность и этику. Взаимодействие с ИИ не происходит в вакууме, а имеет последствия в реальном мире. Навык состоит из трёх аспектов: 1. Ответственность за инструменты. Осознанно подходить к выбору ИИ-систем и способов работы с ними. Как обучалась эта система? Какие данные использовались? Кто владеет данными, которые я ввожу? Кто может получить к ним доступ? Соответствует ли этот инструмент моим ценностям или политике организации? 2. Прозрачность. Честно рассказывать о роли ИИ в выполненной работе. Люди имеют право знать, когда ИИ сыграл значительную роль в создании контента или в решениях, которые их касаются. Прозрачность помогает поддерживать доверие, уважение и вести более честный диалог. 3. Ответственность за результат. Когда мы делимся результатами работы ИИ с миром, ответственность за их точность и уместность лежит на нас, а не на ИИ. Когда мы едем на автомобиле, мы не просто стремимся попасть из точки А в точку Б максимально быстро, но и соблюдаем правила, заботимся о безопасности и учитываем, как наше вождение влияет на окружающих. С ИИ так же

Анализ Это оценка того, что делает ИИ. Он нужен, чтобы работа не зависела от ошибок и ограничений технологии и оставалась под нашим контролем. Анализ состоит из трёх аспектов: 1. Анализ результата. Оценка качества и точности того, что ИИ создал. Факты точны? Результат соответствует задаче? Есть реальная ценность? Это помогает отличить хороший результат от ошибочного. 2. Анализ процесса. Оценка того, как ИИ пришёл к результату. Есть логические ошибки? Повторяет отвергнутые идеи? Зацикливается на деталях? Это помогает отслеживать правильность логики и хода мыслей ИИ. 3. Анализ поведения. Оценка самой коммуникации. Можно ли улучшить способ общения? Реагирует на обратную связь? Не слишком многословен? Не слишком краток? Это помогает настроить комфортный и эффективный стиль общения под себя. Цикл обратной связи Если что-то идёт не так — возвращаемся к описанию задачи и улучшаем его. Иногда пересматриваем делегирование — и меняем решение там

Коммуникация Задача коммуникации — превратить ИИ из автомата по выдаче ответов в интеллектуального партнера, который понимает наши задачи и адаптируется к нашим потребностям. Есть три уровня описания: 1. Описание результата. Что именно ИИ должен создать? Вместо общих фраз лучше указывать контекст работы, точную задачу, желаемый формат, целевую аудиторию и подходящий стиль. Например, не «сделай хороший логотип», а описать ценности компании, цветовую гаммы и стиль. 2. Описание процесса. Как ИИ должен выполнять задачу? Иногда описание процесса важнее описания результата. Можно дать пошаговые инструкции, руководство или показать примеры. Это помогает ИИ использовать подходящую логику и методы. 3. Описание поведения. Как ИИ должен себя вести? Должен ли оспаривать идеи или просто следовать им? Давать краткие ответы или подробные объяснения? Исследовать множество вариантов или сужаться до одного конкретного ответа? Практические техники ① Давать контекст. Важно объяснять не только, что нужно сделать, но и почему это важно, кто мы и как мы будем использовать результат. ② Показывать примеры. Конкретные примеры помогают ИИ лучше уловить нужный паттерн. ③ Устанавливать ограничения. К формату, длине ответа или конкретным деталям. ④ Разбивать на шаги · Chain of Thought. Для сложных запросов полезно перечислить этапы выполнения задачи. ⑤ Просить «сначала подумай» · Think first. Полезно явно попросить сначала проанализировать проблему и рассмотреть варианты, прежде чем выдавать ответ. ⑥ Определять роль и стиль. Это меняет то, как система подходит к задаче и какой тон общения выбирает. ЖС: Кажется, что в современных системах Chain of Thought и Think first, например, уже работают по умолчанию. Их не нужно использовать самим. Итеративность Описание задачи — это итеративный процесс, а не разовое действие. Первый результат часто не будет идеальным, и это нормально. Дальше используем свою экспертность, чтобы продолжить и уточнить коммуникацию — и направить ИИ в более верном направлении. Секретное оружие (про которое все знают) Можно использовать сам ИИ для улучшения описания задачи. Например, «Я хочу достичь такой-то цели, помоги мне составить эффективный промпт для этого»

Делегирование Это осознанный выбор режима работы, который позволяет использовать сильные стороны ИИ (скорость, обработка больших данных, генерация вариантов) и человека (критическое мышление, творчество, этика, эмпатия и понимание социального контекста). Делегирование состоит из трёх составляющих: 1. Понимание задачи · Problem Awareness 2. Понимание инструментов · Platform Awareness 3. Распределение задач · Task Delegation 1. Понимание задачи · задача, результат, экспертиза Сначала нужно чётко понять задачу. Что именно мы пытаемся создать или решить? Как должен выглядеть успешный результат? Самое главное в понимании задачи (и вообще в делегировании) — экспертиза в предметной области: чем глубже мы понимаем задачу сами, тем лучше сможем её делегировать. 2. Понимание инструментов · различия, ограничения, практика Важно понимать различия между инструментами. Какие модели лучше справляются с творчеством? Какие с точностью? Какие со скоростью? Какие у моделей ограничения (knowledge cutoff, размер контекстного окна, характерные ошибки...)? Лучший способ развить такое понимание — постоянные эксперименты с разными инструментами на разных задачах. 3. Распределение задач · режимы работы Это собственно разделение работы между человеком и ИИ. Есть четыре режима взаимодействия: — Всё делает человек: есть задачи, которые лучше не передавать ИИ. Например, критический анализ, принятие финальных решений, этический надзор и работа с высокой ответственностью. — Автоматизация: ИИ выполняет конкретную, чётко определённую задачу по инструкциям.Например, суммаризация документа, написание письма по шаблону, транскрибация аудио и видео, извлечение данных из текста или перевод текстов. — Дополнение друг друга: человек и ИИ работают как партнёры и соавторы. Например, мозговой штурм, редактура, генерация и анализ вариантов. — Автономный агент: ИИ совершает самостоятельные действия от нашего имени. Например, отвечает на срочные письма, сортирует входящие задачи или собирает еженедельный дайджест по нужным темам

Фреймворк ИИ-грамотности · 4D Этот пост на основе курса AI Fluency: Framework & Foundations: https://anthropic.skilljar.com/ai-fluency-framework-foundations Этот фреймворк нужен, чтобы взаимодействовать с ИИ эффективно, продуктивно, этично и безопасно. Он не про конкретные инструменты, а про навыки работы с любым ИИ. В нём четыре компетенции: Delegation, Description, Discernment, Diligence. Они образуют красивую аббревиатуру 4D. На русский я перевёл так: Делегирование, Коммуникация, Анализ и Ответственность. Получилась старпёрская аббревиатура ДОКА. Сейчас я расскажу коротко про все компетенции. Потом напишу подробнее про каждую. Делегирование. Принимать решения о том, какую работу должен выполнять человек, а какую — ИИ и в каком формате (автоматизация чётко описанных задач, совместная работа или как автономный агент). Коммуникация. Не только писать промпты, а чётко формулировать намерения, описывать желаемый результат, предоставлять контекст и направлять процесс мышления ИИ. Качество результата очень сильно зависит от качества описания задачи. Анализ. Критически оценивать результаты и поведение ИИ: точность фактов, логику рассуждений и полезность созданного контента. ИИ уверенно ошибается и не сигнализирует о своих сомнениях, мы сами должны замечать ошибки. Ответственность. Брать на себя ответственность за этичность и безопасность использования ИИ: осознанно выбирать инструменты, раскрывать использование ИИ там, где это важно, проверять факты и соответствие результата своим ценностям. ИИ не несёт ответственности за последствия нашего взаимодействия, а мы несём

AI-майндсет AI-майндсет — это такой набор привычек мышления (а не технических скиллов), которые позволяют лучше использовать AI. Я думаю, вот что важно: 1. Замечать моменты, когда ИИ может помочь Когда застрял или делаешь что-то скучное, спрашивать себя «Как AI мог бы помочь прямо сейчас?» Важно не только специально садиться и работать с ИИ, а замечать возможности в моментах внутри работы или повседневной жизни. 2. Мыслить итеративно Почти никогда не получается с первого промта. Если не получилось, это не значит, что не получилось, а знаит нужно подумать «как переформулировать? как дополнить? что изменить?» Первый промт — это гипотеза (второй тоже, и все остальные). Не нужно ожидать готового результата сразу. Итеративное мышление убирает это ожидание и превращает разочарование в следующий шаг. 3. Быть терпимым к неопределённости Мы не знаем заранее, что именно сделает AI. И это фича, а не баг. Он может удивить, пойти неожиданным путём, предложить то, что мы не придумали бы сами. Это ценность, если не бороться с ней. 4. Быть способным делегировать Важно отпускать ответственность и спрашивать себя «Я вообще должен это делать сам? Должен ли я про это думать? Важно ли, чтобы это было сделано конкретно так, как я думаю?» Многие задачи мы делаем сами по привычке, а не потому что это необходимо. AI позволяет пересмотреть, где реально нужен человек, а где — просто так сложилось. 5. Ориентироваться на практику Майндсет — это нейронные дорожки. Они появляются только через опыт. Невозможно заранее понять, что AI сделает хорошо, а где провалится. Это чувство приходит через пробы и ошибки, когда делаешь что-то реальное и видишь результат