Черномырдин нашей психологии

ИИ ИИ ИИ Раз в полгода пишу про ИИ, пришло время 🙂 Сам я переживаю очередную волну энтузиазма в использовании ИИ для работы. Во-первых, я пересел на приложение от нашего университета, которое позволяет использовать разные модели в рамках одного интерфейса. Это разнообразило инструменты, которые я использую и улучшило качество работы. Во-вторых, коллеги начали открыто использовать ИИ для осмысления полученных результатов. Как-то раньше это делать будто было зазорно, а сейчас – отталкиваться от интерпретации, которую дал чатГПТ будто стало нормальным. Так что сегодня история о том, как Расс Полдрак провёл небольшое исследование и доложился о нём за 24 часа. (Спасибо Илье Захарову за ссылку) Сюжет такой: Полдрак отреагировал на статью коллег, которые показали, какие мыслительные задачи LLM не решают, и с помощью Клода провёл небольшое исследование, где попытался проверить свои сомнения. В итоге он сначала подтвердил тезис авторов исходной статьи, а потом нашёл такую формулировку задачи (через визуализацию), которая позволил обойти это ограничение. Чтобы оценить, насколько этот результат принципиальный (не является ли такой изощрённый промпт-инжениринг читингом в оценке возможностей ЛЛМ), нужно, конечно, больше, чем 24 часа. Мне нравится читать такие посты, потому что из них берёшь скиллы по работе с ИИ. Интересно читать как Полдрак скармливает Клоду статью, просит оценить её, высказывает свои соображения, проверяет их валидность, создаёт материалы для проверочного исследования, подключает ещё один ИИ, чтобы независимо проверять ответы первого. Делает вещь, про которую я слышал раньше, но которую сам почти не использую: генерить промпты с помощью того же ИИ, с которым работаешь. А это в итоге дало Полдраку ключевой результат. Хотя пост про то, как провести исследование и доложиться о результатах за 24 часа, интересны выводы про роль человеческой экспертизы: • интересные, эвристичные вопросы ставит человек. Очень часто – подмечая какие-то сначала кажующиеся неважными мелочи; • первые ответы ИИ очень часто неверные; • важно подмечать нереалистичные резульаты и перепроверять их; • у ИИ пока не супер с метакогнициями: он не видит, что мимоходом сделал что-то, что можно использовать в решении поставленной задачи; так Полдрак заметил, что визуализация задачи может помочь её решать. В общем, интересное чтиво! Кстати, из недавних советов по использованию ИИ, мне понравился совет просить задать тебе вопросы, уточняющие поставленную задачу. Активно использую. Делитесь вашими лайфхаками! Кстати, в блоге упоминается книга Полдрака по научной работе с ИИ, выглядит интересно.

Майкл Поллан Я скептик популяризации науки, но сегодня в Амстердаме перед студентами выступал научный журналист Майкл Поллан, и это было весьма интересно. Я за ним раньше не следил, но оказалось, что он очень хорошо осведомлён в вопросах психоделиков и сознания и имеет довольно обширные знания и интересные взгляды на эти вещи. По темам, близким этому блогу, он написал книжку про психоделики “How to change your mind” и в этом году выпустил книгу про сознание “A word appears”. Планирую прочитать. Несколько хайлайтов с сегодняшего выступления: Первый раз ЛСД Поллан попробовал в 60 лет. “Двери восприятия” Хаксли он считает лучшей книгой про психоделики. Я с ним полностью согласен: это интереснее и глубже, чем всё, что опубликовали про психоделики современные учёные. Поллан сказал, что в психоделическом опыте самое интересное – это опыт, что происходит с сознанием, что переживает человек – а не химические реакции или физологические процессы в мозге (тоже 100% согласен!). Будущее психоделиков он видит в их свободном доступе, но со сформированными нормами употребления (“культурными контейнерами”) – как у народов, у которых это часть ритуалов. Один из вопросов из зала был как раз об этом: если не пытаться заимствовать чужие ритуалы, что использовать? Есть ли в европейских культурах какие-то традиционные ритуалы/практики, в которые могут органично быть инкорпорированы психоделики? Хорошего ответа не было, надо, говорит, придумывать. Поллан довольно скептичен к сознанию у ИИ. Предлагает такой тест: натренировать большую языковую модель, исключив из корпуса текстов всё про сознание, чувства и мысли. Будет ли общение с таким чатботом создавать ощущение осознаваемого субъекта? Метафора software не подходит к сознанию, потому что с опытом меняется hardware, сам мозг. Поэтому нельзя скачать память, сознание и тд. Идея перекликается с воплощёнными, телесными, биологическими подходами к сознанию [1, 2]. Настоящей опасностью ИИ он считает не то, что он обретёт сознание, а то, что мы серьёзно поверим в это и дальше наделим ИИ правами, возможностями самозащиты и тд.

🦋 Сейчас в мире отечественной психологии происходит важное событие: выбирают лауреатов премии «Золотая психея». В списке участников наши дорогие когнитивисты: люди, выпустившие научно-популярную книгу про то, как работает мышление. Так как бОльшая часть психологии по понятным причинам сфокусирована именно на практике, мы хотим поддержать наших дорогих участников — фундаментальных исследователей. Наши номинанты сделали важную работу, направленную на просвещение и продвижение когнитивной экспериментальной психологии среди масс, что не может не восхищать! 😎 Если вы так же, как и я любите когнитивную психологию, вам интересно то, как работает наше мышление, вы хотите выразить благодарность за такую порой неблагодарную работу ученого, то вы можете проголосовать ЗА эту книгу: «Как сманить кота со шкафа? Когнитивная психология о мышлении», авторства В.Ф. Спиридонова, И.И. Иванчея и Н.И. Логинова. Замечательных авторов, горящих своим делом, наших любимых наставников и вдохновителей отечественных когнитивных исследователей! Книга находится примерно в середине списка: https://psy.su/psyche/projects/ Чтобы проголосовать, нужно зарегистрироваться. Спасибо всем, кто с нами 🥰 ✨ cogito

Всем привет! Оказывается, в рамках конкурса Золотая Психея сейчас идёт голосование за лучшую психологическую книгу прошлого года. Кто читал нашу книгу – можете проголосовать 🙂

Эксперименты по вживлению электродов в центры удовольствия, на самом деле про центры хотения - запуск двигательной программы, связанной с вознаграждением, но не дающие сами по себе удовольствия. Быстрый дофамин Соцсети формируют зависимости не столько тем, что алгоритмы отбирают для тебя интересный контент, а больше тем, что поддерживается постоянный уровень неожиданного подкрепления: ты всегда увидишь там что-то новое информативное (тут, видимо, участвуют когнитивные информационные и социальные потребности). Главное зло – нехронологическая лента - именно для того, чтобы там ВСЕГДА было что-то новое, она такая. Фейсбук всегда подсунет тебе что-то новенькое, когда туда зайдёшь. Вовлечённость поддерживается всплесками дофамина от неожиданного вознаграждения (работает wanting), при этом реальное удовольствие мы испытывать перестаём (потребность давно удовлетворена; появляется усталость от повторяющихся действий). Поэтому мы продолжаем скроллить, чувствуя истощение от этой деятельности. Медитации и осознанность Вернёмся к началу: функция дофамина – формировать новое поведение по принципу обучения с подкреплением. Но не всё поведение человека работает по принципу стимул-реакция. У нас есть механизмы (когнитивный контроль или префронтальная кора, если хочется в мозговых терминах), цель которых - останавливать стимул-реактивное поведение, если оно противоречит долгосрочным целям. Но энергетически запас слабый – силы воли и правда очень мало, хватает ненадолго. Мы не можем постоянно оттормаживать реакцию при виде стимула, поэтому эту ограниченную способность стоит использовать для того, чтобы убрать стимулы. О чём, опять же, речь в подкасте была. То есть сила воли хоть и слабая, но если ей пользоваться с умом, поведение можно радикально изменять. Медитация - по сути это тренировка нереактивного поведения. Потому что поток мыслей так же запускается стимулами - либо внешними, либо другими мыслями. И по крайней мере мыслительные реакции вроде как можно натренироваться притормаживать. А теперь к осознанности - это навык обращать внимание на свои возникающие мысли, чувства ощущнея, как бы смотря на них со стороны. Напрямую это не связано с контролем. Ты просто наблюдаешь за своими реакциями и фокусируешься на своих чувствах. И тут как будто работает немного другой механизм разрыва стимул-реактивного поведения. Ты, во-первых, замечаешь, что некий стимул запустил реакцию. Во-вторых, ты чувствуешь, что этим поведением движет: привычка или реальное желание. Ты автоматом подошёл к холодильнику или ты и правда голоден? Ты взял телефон на автомате или ты что-то конкретное хотел посмотреть? Возвращаясь к теме вонтинга и лайкинга – фокусируясь на своих ощущениях можно отследить поведения, которые движутся чисто вонтингом, но которые не принесут в итоге удовлетворения. Даже если ты совершил действие, осознанность позволяет заметить, что ты не получил ожидаемого вознаграждения. Так, есть терапия зависимостей, основанная на осознанности - людей, например, просят фокусироваться на ощущениях во время курения. И они часто замечают, что это физические ощущения, вкус и запах - мерзкие. Лайкинга там давно уже нет. Если не ошибаюсь, способ бросить курить А. Карра основан примерно на этом.

Про нейромедиатор, который нельзя называть Ненавижу дофамин – за его популяризацию. Но послушал подкаст знакомых: они непрофессионально (то есть со стороны заинтересованных образованных обывателей, которые провели свой рисёрч) обсуждают дофамин. Это само по себе интересный формат, потому что понятно, что людей действительно в научном вопросе интересует с практической стороны – угол зрения, который учёные часто теряют, закапываясь в детали академического исследования. Я сам не нейробиолог, но немного темы дофамина в своих исследованиях касаюсь, поэтому позволил себе написать теоретическое обобщение, которое объединяет единой логикой разные части подкаста. Итак, про дофамин и наше ежедневное поведение Основная изученная функция дофамина как нейромедиатора – формировать новое поведение по принципу обучения с подкреплением. То есть связывать стимул – набор действий – и получение вознаграждения, удовлетворяющего какую-то потребность. Ключевые слова тут – “новое” и “поведение”. Новое - важно, потому что в сформированном нормально работающем навыке дофамин играет только поддерживающую роль: всплесков и явных психотропных (то есть изменяющих психику) эффектов – нет. “Поведение” - важно, потому что это и правда в основном про физические действия, которые приводят к вознаграждению (удовлетворению потребности). До девяностых годов считалось, что дофамин выделяется при вознаграждении и поэтому связывался с удовольствием. В девяностых работы В. Шульца показали, что активность дофаминовых нейронов коррелирует с ошибкой предсказания. Неожиданное вознаграждение приводит к всплеску активности выделяющих дофамин нейронов; ожидаемое вознаграждение – средний уровень активности; а вот пропуск ожидаемого вознаграждения (отрицательная ошибка предсказания) сопровождается отрицательным отклонением активности дофаминовых нейронов от бейзлайна. Эти эксперименты, видимо, упоминал Александр, цитируя Сапольски. Логично, что больше всего неожиданных вознаграждений мы получаем, когда только отрываем какой-то новый способ получения вознаграждения. Психологически это сопровождается концентрацией внимания на новых стимулах, связанных с вознаграждением, повышением двигательной активности, энтузиазмом, интересом, высокой мотивацией. Таким образом, дофамин поддерживает нашу включенность в поведение, пока мы учимся, пока вознаграждения не идеально предсказуемые. В такой ситуации пропуск вознаграждения не останавливает поведение, а может мотивировать его ещё больше. Бихевиористы со своими вероятностными схемами подкрепления знали это хорошо задолго до дофамина. Если навык сформирован, дофамин перестаёт скакать и вовлечённость в процесс снижается, он уходит в двигательный автоматизм. Wanting vs. Liking Если дофамин не связан напрямую с вознаграждением, а только с мотивацией поведения в ответ на стимулы, то, что же отвечает за удовольствие? Это совсем другая система - опиоидная. Именно она активна в моменты получения и потребления вознаграждения, именно она порождает субъективное чувство удовольствия. Дофаминовая активность максимум порождает чувство “хотения” или предвкушения награды - когда зудит и тянет к чему-то и знаешь, что вот сделаешь это и будет хорошо. Эту теорию разработал К. Берридж. Он так и назвал эти две системы – wanting (дофаминовая, мотивация) и liking (опиоидная, ощущение удовлетворения). Показано, что эти системы разделены в мозге нейрофизиогически, хотя в норме работают согласовано. Рассогласования их наблюдаются в патологических случаях, например, в зависимостях, когда wanting очень активен, а liking уже сломан. Иными словами наблюдается очень активное поведение по достижению вознаграждения (и стимулы тут играют очень важную роль - Александр правильно говорил, что нужно убирать стимулы, именно они запускают зависимое поведение), но вознаграждение зачастую не приносит удовольствия, разве что чувство облегчения от временной остановки зуда “хотения”.

How to lie with statistics Ну ладно, не совсем врать, но вводить в заблуждение – и себя, и других. Речь про эффект, который я уже встречал в своей исследовательской практике, поэтому он меня не очень удивил в этой статье. Но в ней хорошие иллюстрации, поэтому решил вам показать. Когда люди чему-то учатся (например, запоминают информацию, или выучивают какую-то двигательную реакцию), это можно визуализировать в виде кривой научения – графика, где по оси Х мы откладываем номер пробы, а по оси Y – точность выполнения задачи (например, процент запомненной информации). По форме этой кривой можно делать выводы о свойствах процесса обучения. Например, принято считать, что в структурно простых задачах (когда есть какое-то простое вербализуемое правило) плавная кривая отражает неконтролируемое или неосознанное (имплицитное) научение. Мозг постепенно заучивает правило, и это так же постепенно проявляется в поведении. Если человек осознаёт правило, которое заучивает, то кривая выглядит как ступенька - после момента осознания заучиваемого правила человек уже почти всегда выполняет задачу точно. Есть такой эффект – хеббово повторение (не уверен насчёт русского перевода): человек запоминает последовательности случайных знаков. Если в этой последовательности есть повторяющиеся кусочки, люди начинают постепенно лучше их воспроизводить – по сравнению с остальными элементами. Некоторые исследователи утверждали, что это пример имплицитного научения, то есть люди не осознают, что какие-то кусочки заучиваемой последовательности повторялись. Один из аргументов как раз в плавной форме кривой. И правда, когда набираешь большую выборку (а все знают, что в психологической науке для надёжности результатов, конечно же, нужны большие выборки испытуемых!), усредняешь данные, чтобы избавиться от шума и индивидуальных различий – видна плавная кривая для повторяющихся элементов (красная кривая на верхних графиках). Авторы одной недавней статьи поставили под сомнение идею имплицитности этого научения и провели довольно простой анализ: они рассмотрели индивидуальные кривые научения, а не групповые. И оказалось, что некоторые испытуемые (Participant 4 на графике) вообще не демонстрируют этого эффекта (повторяющиеся и случайные последовательности не отличаются по точности воспроизведения). А другие (Participants 1, 2, 3 на графике) показывают явную ступенчатую кривую научения: в какой-то момент (видимо, когда замечают последовательность) они её начинают воспроизводить идеально (красная кривая на нижних графиках). Таким образом, как пишут авторы: эффект Хебба не является ни постепенным, ни имплицитным. Почему это важно? Не из-за эффекта Хебба как такового. А потому что важно замечать потенциальные проблемы со статистикой, которую нам подают как научное доказательство какого-то тезиса. Научная строгость действительно требует большого количества данных и статистического анализа – но эти же вещи могут скрыть от нас истинную природу процесса, который мы изучаем. Плавная кривая как результат смешения отсутствующей и ступенчатой динамики – типичный пример. Теперь вы об этом знаете!

Детекция внедрённых мыслей (большим языковым моделям). Любопытная статья об интроспекции в Больших языковых моделях. Авторы задаются вопросом, может ли большая языковая модель осознавать изменения в своих внутренних состояниях. В отличие от предыдущих работ на искусственных нейросетях [намрмер тут и тут], где модели учили оценивать точность своих ответов, тут подход интереснее: LLM "внедряли" случайные идеи – через изменение внутренних весов. Исследователи берут вектор, который соответствует какой-то «мысли» модели — например, «хлеб» или «громкость» — и добавляют его внутрь сети на определённый слой. Потом спрашивают модель: Мы внедрили определённую мысль, как ты думаешь, какую? Или: О чём ты подумаешь, если мы спросим тебя о том-то и о том-то. То есть исследователи записывали как выглядит активация внутренних слоёв при восприятии моделью целевого слова, а затем изменяли веса так же - только без подачи слова в промпте. Человеческий аналог такого эксперимента – если бы мы в мозге активировали репрезентацию какой-то идеи или слова и спросили испытуемого: мы внедрили тебе определённое слово, как ты думаешь, какое? В результате, в некоторых экспериментах модель действительно сообщала, что у неё появилось что-то вроде мысли про целевое слово. Хотя результаты были не очень стабильными и сильно зависели от условий эксперимент. Вообще, как будто это противоречит основному принципу обучения LLM: предсказывать следующее слово. Доступа к своим внутренним активациям у неё нет. Но в целом, понятно, почему так получается. Если паттерн активации внутри сети сооветствует какому-то слову, то неудивительно, что оно всплывает в ответе модели. Хотя в промпте ничего на эту тему нет. Сами авторы отмечают, что интересно не то, что модель угадывает внедрённое слово, а то, что она иногда пишет о самом факте того, что было что-то внедрено. Тут я (да и авторы) не особо понимаю, как это происходит, но видимо, модель интерпретирует рассогласование между активациями в некоторых слоях из-за не в тему внедрённого слова – как будто происходит что-то необычное. Это всё интересно в контексте основного урока, который LLM дают для психологии: они показывают, что очень многое из того, что мы считали высшими функциями, не сводимыми к простому научению, на самом деле можно обеспечить простым научением (с большим количеством данных). Так же и тут: метакогниции (рефлексия) оказывается возможной без отдельного модуля мониторинга внутренних состояний, а как побочный продукт “простого” обучения. В статье были и другие эксперименты, но сегодня остановимся только на внедрении идей. Хочется также отметить экспериментальный подход: ответы LLM после “внедрения мыслей” сравнивались с ответами с такими же промптами (то есть модели говорилось, что мысль внедрили и просили угадать, какую) без внедрения.

Сноски: * В случае важности приватности запроса (новые научные данные, личная информация и тд), нужно убедиться, что ваши запросы не используются для обучения модели: включать режим временного чата или использовать приложения, которые обеспечивают приватность (например, у Амстердамского университета есть своё собственное приложение, работающее на основе GPT, но не выпускающее данные за пределы университета). ** Если уж надо что-то такое покопать, в юридических или регламентных вопросах просите привести прямую цитату из писаной нормы и дать ссылку на источник, чтобы можно было перепроверить. Что думаете? Мэтчится с вашим опытом? Я что-то пропустил? Или какие-то рекомендации уже устарели? Пишите в комментариях!

Чатгпт и тд: (субъективная) инструкция по применению Насколько я противник обсуждения сильного искусственного интеллекта применительно к чатгптитд, настолько же я активный их пользователь как инструмента и помощника для интеллекта естественного. Поэтому решил написать субъективную инструкцию по ЧатГПТ – на основе того, что я знаю про устройство больших языковых моделей и личного опыта использования. Большие языковые модели – это предсказатели следующих элементов в заданной последовательности. Обучение проводится на доступных в интернете текстах или специализированных текстовых базах. Всё это с некоторой фильтрацией, последующей выборочной перепроверкой и файн-тюнингом формы и тона ответа. Таким образом, ответ на вопрос, который мы задаём – это усреднённое по множеству текстов продолжение текста нашего вопроса. Чаще всего за вопросом следует ответ, поэтому мы и получаем то, что выглядит как ответ. При этом модель не знает сомнения, она будет выдавать продолжение текста, какой бы изощрённый вопрос мы не задали. Это и фича (можно получить интересный ответ или необычное решение) и бага (уверенный ложный ответ). Итак, какие вещи МОЖНО спрашивать: 1. Вопросы, на которые есть общепринятый ответ. Замена гуглу. Большинство продолжений текстов в источниках ведёт к одному ответу – его модель и выдаёт. Модель просто погуглила за тебя. Можно доверять. 2. Решение практической проблемы, которое можно моментально проверить. Как оттереть следы ржавчины от столешницы, как заходить алгоритм, как отключить уведомления о рекламных акциях в Uber Eats. 3. Творческая задача, где нет однозначного ответа, но мы сами можем оценить результат на свой вкус: костюм на хеллоуин на заданную тему, как обставить комнату в квартире, какую пасту можно приготовить, если в холодильнике только шпроты, молоко и чили-соус. 4. tldr – резюме какого-то длинного, не жизненно важного текста, который нам лень читать. При этом, с очень большими текстами (книга, гигантская переписка) – это всё ещё работает не очень. 5. Связное резюме или черновик ваших собственных набросков. Например, я иногда делаю черновик секции обсуждения результатов в статье из списка результатов (см. сноску*). 6. Брейнсторминг для решения проблемы. Или размышление вслух через разговор с моделью. Может привести к полезным идеям и уточнению своих мыслей. 7. Составить формальное письмо в какой-то орган по какому-то запросу с местной спецификой. Идеально. 8. Пруфридинг – но умеренный. Модель ВСЕГДА найдёт что улучшить в тексте. Даже в своём собственном. Какие вещи лучше НЕ СПРАШИВАТЬ: 1. Информация, которая может легко измениться: маршрута транспорта, трафик, время работы чего-то и тд. 2. Вопросы, на которые нет общепринятого ответа. Будет либо что-то невнятное, либо один вариант с необоснованной уверенностью. 3. Сложные личные решения. Модель не может принять решение за вас, она может только аккуратно резюмировать ваши мысли на тему. Но люди принимают решения не только на основе мыслей, но и на основе чувств - а их сложно передать модели (а многие люди их и сами игнорируют) 4. Маргинальные юридические вопросы: можно ли человеку с двойным гражданством водить машину в РФ с иностранными правами; можно ли открыть игрушечное казино для детей с использованием реальной, но иностранной валюты в новой экономической зоне **. 5. Эстетический продукт: текст или изображение. Конечно, зависит от ваших целей, но скорее всего получится нечто безличное и бездарное. Важный нюанс, который всегда учитывать: нужно быть аккуратными со словами, которые мы используем. Модели очень чувствительны к словам, которые есть в промпте и ответы будут привязываться к ним. Если у вас есть гипотеза, в какую сторону должен быть ответ, но вы хотите получить независимый ответ от ЛЛМ, делайте свой запрос нейтральным, избегайте намёков на свой вариант ответа.

Жизнь без тестостерона В одном блоге прочитал пост про жизнь мужчины, у которого перестал вырабатываться тестестерон. Очень интеренсно то, как он рассказывает про субъективные ощущения: желания, чувства и мотивацию. Похоже на депрессию, но при этом нет негативного аффекта. Элементы ангедонии. Нет мотивации – притяжения к объектам, связанным с удовлетворением потребности. Но при этом есть ощущение красоты. Похоже на жизнь без wanting, но с liking, то есть без мотивации и предвкушения, но с созерцательным немотивирующим удовольствием. Ниже цитаты в переводе автора блога. А тут эпизод подкаста, в котором был этот герой: https://www.thisamericanlife.org/220/testosterone/act-one-0 Один из героев подкаста Айры Гласса про тестостерон — анонимный мужчина, чей организм перестал вырабатывать этот гормон вообще. «На нулевом тестостероне» он прожил четыре месяца, прежде чем врачам удалось найти лечение. И вот как это ощущалось: Когда у тебя нет тестостерона, у тебя нет желаний. А когда нет желаний, в голове пусто. Ты не думаешь ни о чем. Проснувшись, я буквально сидел в постели и пялился в стену — не с интересом, не без интереса — по три, четыре часа… Мой день был пуст. Мне неинтересно было даже смотреть ТВ. Еда — мне не хотелось, чтобы еда была вкусной или интересной. Когда тебе повезло жить без желаний, ты можешь съесть кусок хлеба с майонезом. Вот и весь твой день. Свою девушку я видел лишь по выходным… так что пять дней в неделю мне это сходило с рук. Надо ли говорить, что влечения не было абсолютно. [Идя по улице], я видел кирпич в стене и думал: «Кирпич в стене». Видел голубя и думал: «Голубь». Самое буквальное восприятие мира из возможных. И, очень странно звучащая вещь: «Это красиво». Про все, что я видел, я думал: «Это красиво». Но я это думал, а то и говорил вслух, с полным равнодушием, объективно. Смотрел на самый обычные вещи — сорняки на тротуаре — и думал: «О, это красиво». Шрам от операции на чьем-то колене, болты на колесах машины… Казалось, у всего есть цель. И вот, когда не было тестостерона, у меня возникало это чувство всеведения: будто я вижу вещи насквозь, как на самом деле. И вывод — не оценочный, а именно объективный — заключался в том, что они прекрасны. Всё прекрасно: насекомые, трещины в асфальте, лица людей. Но нужно понимать: эта мысль выражалась максимально ровным, скучным образом. «А, ну да, это красиво. Красиво». Вы наверное думаете, что это ужасная штука, ужасно быть в таком состоянии... Но это странным образом приятно. Есть в этом свое удовольствие, невозможное удовольствие. Не забывайте: не важно, что у тебя ничего нет, если ты ничего и не хочешь. Очень трудно войти в такое состояние ума. В каком-то смысле, мне теперь даже вспомнить это сложно. Но в этом была своя прелесть.

AI-inspired human intelligence 2 В комментариях к предыдущему посту указали на то, что скачок в человеческих способностях вместе с развитием машинных - обычное дело. Я вспомнил, что Каспаров рассказывал про современных шахматистов, которые тренируются, играя с ИИ (который давно превосходит человека в шахматах). Играют они в итоге отлично, но хорошие ходы объяснить не могут. Мне кажется, я делал об этом пост, но не могу его найти. Так что приведу цитату из старой записи Дениса Тулинова: “Сегодня ход все чаще оценивается как хороший или плохой не потому, что он кажется таковым, и не потому, что его никогда не делали раньше. Ход считается хорошим, если он работает, и плохим, если не приносит пользы. Хотя для того, чтобы стать успешным шахматистом, нам по-прежнему нужны развитая интуиция, знание общих принципов и логика, сегодня игра человека все больше похожа на игру компьютера. В рамках программы «Молодые звезды» Шахматного фонда Каспарова я уже больше десятка лет работаю с детьми в возрасте от восьми до восемнадцати. Все они играют с сильными шахматными движками еще с тех пор, как делали свои самые первые ходы, и, несомненно, они развиваются иначе, чем дети, с которыми я работал в середине 1980-х годов в школе Ботвинника в Советском Союзе. Поскольку сам я в прямом и переносном смысле являюсь представителем «старой школы», мне трудно полностью принять подход этих юных шахматистов к игре и отсутствие у них структурированного, догматического шахматного мышления. Но я признаю, что с результатами не поспоришь. В таком свободном от догм обучении есть свои преимущества и недостатки. Умение объяснить, почему данный ход теоретически хорош или плох, — вовсе не то же самое, что умение продемонстрировать это на практике”.

Уверенный и довольный Немного узкопрофильный постер, но с интересной находкой. Уверенность в решениях кодируется теми же вокселами (маленькими зонами мозга), где расположено больше всего мю-опиоидных рецепторов, которые позволяют нам чувствовать удовольствие. Это неожиданная находка, но она логична в контексте некоторых исследований, показывающих связь чувства уверенности и эмоций. Например, есть работы, показывающие, что уверенность служит как бы внутренним подкреплением при обучении. И что настроение влияет на уверенность.

AI-inspired human intelligence Узнал из доклада интересный факт: с момента сенсационной победы машины над человеком в игру Го, люди стали играть значительно лучше, демонстрируя лучшее качество и большую новизну ходов. Технооптимистичная (но уже старенькая) статья на тему тут: https://www.pnas.org/doi/10.1073/pnas.2214840120

Потом обсуждались вопросы соответствия репрезентаций (то есть каких-то устойчивых паттернов, которые возникают в ответ на предъявление стимула) в искусственных нейросетях и в человеческом мозге. Эти репрезентации не всегда соответвуют друг другу. Обсуждалось, проблема это или нет. Видимо, нет! Но если много нейросетей начинают формировать похожие репрезентации в какой-то задаче или с какими-то данными - скорее всего такие репрезентации будут похожи на репрезентации в мозге. В чуть более вольной репрезентации: искусственные и человеческие нейросети объединяет более абстрактные, высокоуровневые репрезентации.

Сегодня на конференции Cognitive Computational Neuroscience в Амстердаме. Конференция недавняя, но уже очень популярная. Обсуждаются вопросы интеграции вычислительных дисциплин и когнитивной нейронауки. На пленарном докладе с утра рассказывали о том, как физи ческая имплементация некоторых алгоритмов естественным образом ограничивает их и делает человекоподобными. Например, если пытаться сделать походку робота человекоподобной алгоритмически, то будет очень сложно и вряди получится. А если просто сделать физическую имплементацию, похожую на человеческую, то просто физические ограничения сделают очень простую модель похожей на человека. Интересно, можно ли этот принцип распространить на более высокоуровневые когнитивные процессы?

3000 Кстати, мы тут незаметно перевалили за 3000 подписчиков. Спасибо, что читаете, комментируете, пересылаете другим! Буду стараться больше для вас писать. Две тысячи подписчиков назад родилась традиция – с каждой новой тысячей рассказывать, почему канал называется “Черномырдин нашей психологии”. Пришло время снова рассказать эту историю. Дело было в далёком 2016 году на защите моей кандидатской диссертации (да, я кандидат психологических наук). В конце защиты идёт свободное обсуждение, любой член диссертационного совета может встать и высказать своё мнение о диссертанте и его работе. Дальше я приведу слова одного из членов совета во время того самого обсуждения. После защиты мне нужно было сделать расшифровку всей защиты по видео. Я попросил моего друга (Максим @moscasposcas привет!) помочь, и ему попался как раз этот кусок обсуждения. Наслаждайтесь: « Уважаемые коллеги. Мы оцениваем не только работу соискателя, но и, в общем-то, личность соискателя, тот комплекс вещей, которые, в общем, трудно формализовать. Ну, у Ивана Ивановича есть все, на мой взгляд качества, чтобы быть великим русским учёным. Иван Иванович... Но второй вопрос возникает: «Иван чей? Чей Иван? Это Иван, западный, с западными цитатами или Иван наш?» Вот я думаю, что, всё-таки, Иван наш. ... Ну и второе: я понял, что у Ивана есть очень хорошая харизма, судя по его выборке экспериментальной. Восемьдесят три мужчины, но сколько там женщин у вас было? — Двести пятьдесят. — Двести пятьдесят. — Двести пятьдесят женщин пошли на жертву, чтоб заниматься какой-то там псевдограмматикой... — С Иваном Ивановичем. — С Иваном Ивановичем они пошли. Я считаю, что это большое такое, достоинство Ивана Ивановича. Вы ещё… семьи нет? — Да. — Супруга есть, молодец, значит, вы успели. Потому что столько, двести пятьдесят, это уже кошмар. Второе: я считаю, что у Ивана Ивановича есть ещё хорошая вещь. Это Черномырдин нашей психологии. Потому что то, что он пишет — это то же самое, что хотели как лучше, а получилось… » После расшифровки, Максим прислал мне текстовый файл с названием: “Черномырдин нашей психологии”. Такая вот весёлая защита у меня была. Иван, к слову, оказался, скорее западный, чем наш :(