Homo Technicus

Я шукаю когось, хто міг би мені допомогти зробити буткемп для фаундерів в AI Safety на ML4Good. Думаю, не зайвим буде запитати і на каналі. Це контракт десь до березня, парт-тайм, сума 1000 фунтів на місяць якщо працювати один день на тиждень та 2000 фунтів якщо працювати 2 дні. Можна домовитися про інше якщо є сильні аргументи. Кінцева мета - підготувати щось на кшталт тижневої інкубаційної програми для стартапів чи нонпрофітів в AI safety. Це включає в себе такі речі як допомога в розробці програми, пошук партнерів та радників, маркетинг, забезпечення інфраструктури для фаундерів після буткемпу, різного роду організаційно-логістичні задачі. В ідеалі звичайно потрібна людина як шарить одночасно стартапи та AI safety, але я готовий розглядати вийнятки в індивідуальному порядку. Зокрема, думаю, якщо у вас гарний досвід в стартап-екосистемі, то це буде суттєвий плюс. Пишіть в приватні - @kendiukhov, формат довільний, але з якимись серйозними аргументами.

Я наніс образу собі і людству тим, що раніше впадав у відчай і витрачав час на ниття без результатів, марнуючи час на фоні великих історичних подій. Важкою працею я викупляю це.

Інколи мене питають, як так, що я проти ШІ на поточних методах, якщо я трансгуманіст. Тут не тільки нема протиріччя, навіть більше: ультрапрогрессивісти мають додаткові причини бути проти, порівняно з нормальними людьми. Якщо коротко то: У нормальних людей Кліппі забирає лише теперішнє. У нас він забирає ще й майбутнє, яке набагато краще за теперішнє. Типова людина, у своєму уявленні, втрачає десь 30-40 років лінійної екстраполяції життя своїх батьків, якщо Кліппі перероблює усю земну матерію за 5 років. Ми, у нашому уявленні, втрачаємо колонізацію космосу, становлення надлюдьми, принаймні мільярди років життя та розвитку, відкриття див світу. Я не планував попрацювати 40 років, піти на пенсію і потім в могилу. Я планував радикально покращити свій інтелект і фізичний субстрат, насолоджуватися пізнанням реальності на всіх рівнях нескінченно довго, від квазарів до кварків, прочитати усі книжки, написати ще більше книжок, створити технологічні вироби за межами уяви, підпорядкувати негентропію Всесвіту волі сентієнтних істот. У мене забирають це.

Так, на жаль. Evaluations, "science" of scheming, усі ці steering vectors, persona, linear probes, CoT monitoring, RLHF - майже усе це знаходиться десь між безнадійно марним, проактивно шкідливим і тим, що і так буде зроблено ШІ компаніями. Усе це алхімія…

Так, на жаль. Evaluations, "science" of scheming, усі ці steering vectors, persona, linear probes, CoT monitoring, RLHF - майже усе це знаходиться десь між безнадійно марним, проактивно шкідливим і тим, що і так буде зроблено ШІ компаніями. Усе це алхімія, лише трохи, маржинально краща за економіку. Можна довго писати про те, чому так вийшло. Але сам факт кричущо низьких наукових та епістемологічних стандартів в "емпіричному алайнменті" важливіший за будь-яку потенційну причину, яка призвела до нього. Не те щоб ці стандарти були вищими в нормальній академічній науці. Але від нормальної академічної науки (як правило) не залежить ненастання кінця світу! Може, якщо взяти людей з натренованим науковим мозком, наприклад топових фізиків, і дати робити алайнмент лише їм, і нікому більше, то цього б не відбулося. Але навіть тут я не впевнений. Може, якщо заплатити достатньо багато грошей навіть топовим фізикам, то навіть вони зможуть переконати себе, що вони - дибіли, які не розуміють, як працює науковий метод.

Автор симуляції цього Всесвіту такий: А дружиною головного злодія ми зробимо жінку, яка намагалася робити порно компанію з торгівцем неповнолітніми секс-рабами! І прізвищем в нього буде Амодеї, тобто «улюбленець богів». Геніально! Што курілі сценарісти?

Ті, хто приймає тезу Сатскевера, піднесуться. А ті, хто відкидає, принижені будуть.

You may not like it, but this is how peak prompt engineering looks like.

Ашенбреннер і Болвіт звичайно в стані ворогів відносно мене (ШІ акселератор + керівництво Anthropic). Проте, не можу не висловити захват їх весіллям і взагалі романтичною історією. Неоаристократична естетика асортативного мейтингу когнітивних еліт як вона повинна бути. Classy move! Відмовилися ставати 35-річними татуйованими відтермінованими дорослими на антидепресантах і замість цього вирішили стати тими, ким повинна бути пара ватажків великого ботанського угрупування. Нехай Ашенбреннер і черговий Темний Лорд, але це хоча б не карикатурно-слюнявий Темний Лорд зі стереотипного дешевого фільму. Мільярдер в 25, красуня-дружина зливає інсайдерську інфу з Anthropic твоєму хедж-фонду, маніпулюєш американським урядом через блог, орда техбро-сімпів вʼється навколо тебе. Якби ж наші герої були такі ж якісні, як наші злодії! https://x.com/avitalbalwit/status/2085782530381516830

Хлопці і дівчата, я думаю я подвоїв SOTA результат на gene regulatory network inference. Може, я якось неправильно рахую результати, але я намагався фальсифікувати як тільки міг, і воно працює. Я натренував новий тип фундаційної моделі і застосував нові методи…

Хлопці і дівчата, я думаю я подвоїв SOTA результат на gene regulatory network inference. Може, я якось неправильно рахую результати, але я намагався фальсифікувати як тільки міг, і воно працює. Я натренував новий тип фундаційної моделі і застосував нові методи GRN inference на ній. Буде звичайно прикро, якщо десь є помилка, але не виглядає так, що вона є. Я не збрехав собі і вам, коли порахував ентропію single cell rna seq даних, і коли виділив гематопоетичний многовид з scGPT. Сподіваюся, що не збрешу і зараз. Якщо це все правда, то це перша single cell модель, яка працює так, як треба, і великий день для системної біології. Якщо це все правда, якщо нема ніякої помилки, то колись я вкушу чібургер з героями в чертогах Мандоса.

Takeoff, во плоті.

Takeoff, во плоті.

На могилі Томаса Байеса, передвісника ордену раціоналістів.