Data Science Talks

Про пошуковики 🔎 Так скидається, що нещодавно релізнутий SearchGPT не справив на користувачів особливого враження. Основні ішью з ним, якими юзери діляться на реддіті - це часті помилки у відповідях та галюцинації (які для gpt в цілому є притаманними, але треба сказати, що chatGPT в цьому плані став на порядок кращим). Окрім того, SearchGPT поки що прям дуже погано вміє в контекст! А саме така спроможність AI-пошуковика мала б стати проривною в контексті web-пошуку… тож лідером користувацьких симпатій по цьому напрямку залишається Perplexity 🙌 Я особисто не маю підписки, але кажуть, що Pro-шна версія — то просто космос в плані аналітики, графіки та якості візуальних відповідей 🌟 Тим часом (коли вже монополія Гугла і так похитнулася 😄) європейські гравці вирішили запропонувати і власну альтернативу — німецька Ecosia та французький Qwant заявили, що спільними зусиллями створюватимуть потужного конкурента Гуглу - “Пошукову Перспективу” для Європи 👀 Окрім власної AI-шки і взагалі бекенду from scratch, вони планують диференціюватися якоюсь «унікальною індексацією», більше відповідною європейський конʼюнктурі 🤔 Типу він буде більше про приватність в інтернеті та надаватиме більш релевантні та етичні результати пошуку, “враховуючи регіональні особливості та екологічні аспекти”.. Ця новина могла стати цілком прохідною та навіть не зачепити уваги (т я альтернативних пошуковиків існує безліч і нові також регулярно зʼявляються), але в контексті останніх подій вона однозначно набуває більш ширшого контексту. Перспектива зміни курсу США у вигляді обрання Трампа президентом та його ізоляціоністичні наміри щодо зовнішньої політики — явно бустнули певні усвідомлення у Європі щодо власної безпорадності та тотальної залежності від “великого брата” у провідних сферах, зокрема технологіях (а небезпеку такої залежності європейцям добре “підсвітила” війна в Україні…) Тому треба розуміти, що цей проєкт з “пошуковою альтернативою” стане не стільки комерційним, скільки стратегічним для Європи. Отже можна очікувати, що він отримає потужну підтримку з боку європейських інституцій 👊 Тож, як-то кажуть,“Купуйте європейське!” 🇪🇺 Це, доречі, далеко не перший їх крок в напрямку зниження “dependence on U.S. Big Tech firms” —> раніше в цьому році Єврокомісія вже анонсувала стратегію розвитку власної AI-інфраструктури “з блекджеком і GDPR”, проголосивши chatGPT поза європейськими законами. Короче кажучи, концепція багатополярного світу рухається всіма можливими напрямками і ЄС має явні наміри залишатися одним із цих полюсів… Сподіватимемось, що в них вийде, і в нас також вийде таки стати його невідʼємною частиною.

Невеличкий офтоп 🌟 Команда Boosta з якою я наразі співпрацюю як AI-консультантка, у пошуку тім ліда для Data Science напрямку 🙌 нижче усі подробиці👇 податися можна за посиланням, або напишіть в телеграм @TetianaShvorak Hey, community! Exciting Opportunity Alert 📢 We are looking for a creative, persistent and experienced Data Science Team Lead 🚀 🔥 At this role you will lead and guide a team of data scientists which is a part of our product development team. 🔥 You will design robust machine learning models, aligning project strategies with business objectives, while fostering collaboration across departments and ensuring effective communication of complex insights to stakeholders. 🔥 We are building a freelance platform which has a bidding process with an interesting interaction dynamic between customers and executors. It is powered by descriptive, predictive and prescriptive analytics provided by our team. The role in detail: https://boosta.biz/vacancies/data-science-team-lead-machine-learning/

Невже епоха «гугління» закінчиться.. 🤔 Як думаєте?👇 https://openai.com/index/introducing-chatgpt-search/

Ну здавалося б, і добре - молодці хлопці, хоча гідно оцінити їхній труд вдалося лише 40 років потому.. але по факту не все тут так однозначно. Заковика в тому, що насправді подібних breakthrough-відкриттів за всю історію галузі ШІ було дуже багато і визначити які саме були “вирішальними”, на мою думку, просто не можливо. Крім того, сучасні ML алгоритми не зводяться до якогось єдиного підходу, заснованому на роботах Гінтона, а самі його концепції мали також власні варіації у інших дослідженнях. Цікаві факти з цього приводу наведені в цьому твіті. З іншого боку, не варто забувати, що проривний внесок Гінтона в розвиток ШІ не обмежується лише описаним вище кейсом. Без перебільшення починаючи з 80х років він постійно був “на передовій” розвитку ШІ, зокрема залучений в усі “відкриття” 2010х команди Google. Серед його студентів - сучасні провідні дослідники Deep Learning Ілля Суцкевер (співзасновник OpenAI) та Ян ЛеКун (віце-президент Meta AI). Можна ще довго сперечатися та прискіпуватися до формулюваннь, проте, думаю очевидно, що кращої кандидатури для такої винагороди годі було б і шукати! Також хотіла в цьому контексті згадати ось цю статтю👇 але щось вийшло забагато букав, тож просто раджу «на досугє» почитати 🫶

Премію з хімії отримали дослідники з DeepMind за розробку алгоритму AlphaFold. Цей алгоритм на базі ШІ дозволив швидко та якісно прогнозувати тривимірні структури білків на основі їхніх амінокислотних послідовностей і навпаки. Проблема в тому, що кількість можливих варіантів таких послідовностей вимірюються значеннями порядку ~10^100 і пошук функціональної форми білку простим перебором займав би трильярди років (хоча в природі цей процес відбувається миттєво). Цей парадокс названий імʼям біолога Левінталя, був сформульований ще у 1969 році і ось більш ніж 50 років потому новітні досягнення в ШІ допомогли його вирішити, що очевидно відкриває нові можливості в медицині, біотехнологіях тощо 👏👏👏 Отже в попередньому кейсі ШІ виступив інструментом, який допоміг вирішити задачу, яка до цього була фактично не вирішальною - наче все логічно. Що ж за челендж з фізикою 👉 нобелевку з фізики, як я вже згадувала, отримали Джон Гопфілд та Джефрі Гінтон, якого ще називають “хрещеним батьком ШІ”. І отримали вони її фактично за те, що створили ШІ (точніше сказати зробили вагомий внесок в створення) в його сучасній реалізації 🤔 І тут виникає цілком логічне запитання - до чого тут фізика - який контрибʼюшн був зроблений в розвиток цієї галузі? Відповідь дійсно не очевидна та виглядає трохи притягнутою за вуха. Як демонструє приклад з AlphaFold - ШІ дійсно дає вагомий ефект в розвиток науки в цілому. Такі алгоритми фактично можуть мати імпакт в будь-якій галузі, і якщо дослідники роблять проривні відкриття та отримують визнання, застосовуючи цей інструмент - логічно кого-небудь нагородити за створення такої можливості загалом… Мабуть питань було б менше, якби ця премія була б призначена в галузі математики, але як всім відомо - там Нобелевки не дають =) отже комітет вирішив пошукати коріння в інших галузях. Основне обґрунтування цьогорічної нагороди полягає в тому, що здобутки Гінтон та Гопфілд в розробці методів навчання нейромереж, в багатьох аспектах спираються на теорію статистичної фізики. Зокрема, вони застосували теорію спінового скла для розробки алгоритмів оптимізації під час навчання мережі. Трохи теорії. Основною проблемою в процесі навчання нейронки є наявність численних локальних мінімумів у просторі параметрів, де модель може «застрягти» під час оптимізації. Тож задача пошуку глобального оптимуму завжди була чи не головним каменем спотикання в теорії глибинного навчання. В той же час в фізиці, спінове скло — це немагнітний матеріал із додаванням магнітних домішок, взаємодія яких не є впорядкованою (тоді коли в звичайних магнітних матеріалах ця взаємодія впорядкована). Такий сплав утворює систему з багатьма локальними мінімумами енергії і виникає задача пошуку конфігурацій спінового скла, які відповідають мінімумам цієї енергії. Якщо ви змогли це все прочитати - то, думаю, аналогія до простору параметрів нейронних мереж стає досить очевидною. Отже Гінтон та Гопфілд у 80х роках минулого сторіччя застосували вже існуючі на той момент підходи моделювання спінового скла для розробки методів навчання нейромереж, чим здійснили певний прорив в процесі створення ШІ. Цікавий факт, що цю теорію намагались застосовувати і до вирішення задачі згортання білків, про яку йшлося вище.

Минулого тижня кожний поважаючий себе AI-автор написав про Нобелевки 2024 з фізики та хімії, в яких фігурує штучний інтелект. Я звісно трохи з цим забарилася, але хотілося все ж розібратися де фізика, а де AI - чому інтернет повниться мемасиками і за які саме досягнення така честь і хвала лауреатам. Та якщо з премією по хімії все більш-менш зрозуміло, то про Гінтона з Гопфілдом історія виявилась не така вже й проста. Тож буде багато тексту👇

Минулого року я писала статтю про технологію трансформер, в якій спробувала пояснити як та вся AI магія влаштована із середини. Ось ця візуалізація стала би чудовим для неї доповненням 🔥 На прикладі gpt-nano можна буквально «пощупати» як відпрацьовує трансформер під час інференсу, а також наочно побачити рівень масштабування технології 🙌 І в принципі уявити, як в цій послідовності виглядала би gpt-4 ~ в 10 разів більша за gpt-3. “Attention is all you need” literally 👀

Вчора відбувся фінальний пітч-дей в Експерименті 1.01 Projector-а 🙌 Із самого початку в проекті взяло участь біля 1600 учасників, з яких більше 300 дійшли до фіналу та біля 250 (і Vitametria в тому числі) записали відео-пітч, що був щось типу «випускного екзамену» програми 🙌 Серед них куратори відібрали 22 фіналіста, які змагались за 5 грантів на вчорашньому пітч-дей 🌟 Ми до фіналу не потрапили, але я не маю з цього приводу жодного жалю! Бо від програми отримали фундаментальні розуміння та винесли купу артефактів конкретно до свого проекту 🙌 ну і ще сертифікат👆😄 За місяць Vitametria прокачалася із “pre-alpha” Angel до “strong” Pre-seed стадії 💪 з чим далі і біжимо! 🔥

Маємо апдейт від OpenAI - GPT-о1 із здатністю “розмірковувати” 💥 Та судячи із бенчмарку, який розробники наводять у презентації модельки - результати реально проривні - точність відповідей особливо для точних наук (математика, фізика, хімія) злетіла просто в рази! В chatGPT вже доступна версія o1-preview, тож особисто я вже погралася та переконалася, що це дійсно працює! (в каментах кину приклад) Що ж то за Chain-of-Thought (CoT) та чому неможна так було одразу? 👉 Підхід із “послідовним розмірковуванням” був запропонований ще у 2022 році, як стратегія покращення якості роботи LLM через промптинг (тобто сама модель не змінюється, але змінюється підхід до конструювання запиту для отримання більш точної відповіді). Доречі сама ідея навіть запатентована та давно вже є на озброєнні у просунутих prompt-інженерів. Цікавий факт, що ефективність такого підходу є емерджентною властивістю LLM - тобто на відносно невеликих моделях він просто не працювтиме, а іноді навіть погіршуватиме результати. У 2022му Google Research писали про появу емерджентності у модельках на 100 млн параметрів мінімум, пізніше зʼявлялись успішні кейси і з меншими розмірами, але поріг приблизно такий. Сама ідея з того часу також “не стояла на місці” та отримувала розвиток її втілень у вигляді агентів до LLM на сонові Multiple CoT (коли створюється одразу декілька “послідовностей міркувань” та потім обирається найкращий результат) —> потім Tree-of-Thought (ланцюжок міркувань будується за принципом Decision Tree) —> Graph-of-Thoughts (агент будує “граф міркувань” - така собі ускладнена версія ToT) —> та навіть Everything-of-Thoughts (щось поза моїм розумінням 😄). Ідея виявилася на стільки робастною, що гріх було не екстраполювати її на мультимодальні моделі, результатом чого став visual reasoning 👀 Ну тобто підхід еволюціонував із простої ідеї розширеного few-shots (кількома прикладами) промпту до досить складних систем. Повертаючись до GPT-о1, можна із впевненістю ствердити, що для неї на новому рівні запрацював саме цей промнтинг-агент, який реалізує CoT підхід. Цьому є навіть візуальне підтвердження - адже у попередніх версіях чату, після відправки запиту, відповідь майже одразу починає генеруватися суцільним текстом. Для версії “о1” процес генерування явно розбивається на ітерації, які чат навіть сам характеризує та “звітує” про них юзеру. Окрім цього, розробники ввели CoT-компоненту і в процес тренування моделі на етапі Reinforcement Learning (донавчання з підкріпленням про який розповідала ось тут). Звичайно таких подробиць розробники не розкривають, але я не здивуюся, якщо 80% (або й більше) успіху тут склав саме оновлений промптинг-агент, ніж процес файн-тюнингу (є таке внутрішнє відчуття). Ще один цікавий момент, що такий підхід в реалізації OpenAI в мережі одразу проасоціювали із людським “повільним мисленням” за Канеманом. Справді дуже красива аналогія 🔥 та непогана спроба антропоморфізувати сучасне втілення ШІ. Проте заглиблюючись у деталі ралізації, аналогія перестає бути такою вже очевидною)) Можна сказати, що процес формування Chain-of-Thought для LLM такий же далекий від людського, як власне і їх спосіб “думати” підбираючи найімовірніше слово за словом. Та можливо ми ще замало знаємо про себе, аби робити остаточні висновки.. who knows 🤔

“Штучний інтелект - обман та провокація, чергова мильна бульбашка і ніякий не геймченджер”. Якось так можна описати загальний інформаційний фон серпня. Розповідаю своє бачення👇 Що ж сталося? Рік пройшов свій екватор та фондовий ринок починає “рахувати курчат”, яких активно “засівали” весь минулий рік на фоні chatGPT-галасу 😆 ну і судячи з усього, інвестори ніяк не дорахуються “грандіозних” прибутків від AI-стартапів, які мали за цей час докорінно змінити ринок технологій 🤷🏻‍♀ Та якщо коротко, основний фактор, що призводить до такої картинки - це схильність людей кидатись із однієї крайності в іншу, тоді коли реальне положення речей знаходиться десь по середині. Чи дійсно AI-ринок переоцінений? - Так. Але причина тому не в самій технології, яка начеб-то виявилась “не така крута”, як очікувалось, а у поганому її розумінні та надто завищених очікуваннях. Після успіху OpenAI у 2023му до купи зійшлися одразу декілька зірок: 🔹 інформаційне підґрунття - з якого утюга тільки не розповідали про чарівний chat. Ну як підриємливій людині не хайпанути на такій хвилі =) 🔹 різке зниження технологічного порогу входження - купа людей, далеких від розробки, уявили себе технологічними стартаперами та нашвидкоруч накліпали переконливих MVP-шок для найрізноманітніштих ідей 🤯 І тут треба сказати, що самі ідеї могли бути дійсно класними та надихаючими, ось тільки проблема в тому, що технічна їх реалізація та масштабування до продакшн рівня виявилась зовсім не простою і тим більш не дешевою задачею! OpenAI API звісно хороша штука аби провалідувати ідею, але його продакшн використання може обходитися у 10ки тис $ на місяць! (вартість одного запиту в залежності від типу моделі становитиме приблизно 0,1 - 0,2$) Файн-тюнинг та хостинг кастомізованої LLM також стане в кілька тисяч на місяць. Але всі ці витрати на початку були зовсім не очевидними, тож думаю мало хто з тих стартаперів зміг адекватно порахувати фін модель 😕 🔹 занепокоєння з боку державних регуляторів, але відсутність строго регулювання для сфери застосування ШІ. Гадаю, що така ситуація також певним чином стимулювала поспіх і для розробників, і для інвесторів - підняти на новій темі та встигнути вийти, поки її штучно не загальмували і не обклали суворими правилами 🤔 Що буде далі? Думаю, що ті, хто одразу починав гру в довгу - неодмінно залишаться у виграші, т.я. технологія з часом буде поступово дешевшати, але попит на якісні реалізації нікуди не зникне. При цьому велика частина AI-стартпів (особливо тих, що виникли на хвилі AI-хайпу) однозначно прогорить. Чи означає це, що ринок перестане інвестувати в AI? Авжеж ні! Також як він не перестав інвестувати у дот-коми після попередньої “бульбашки”. Проте інвестиційні стратегії стануть більш розбірливим, в той час як і розробники зі свого боку вже краще розумітимуться на нюансах створення AI-продуктів. Мені важко спрогнозувати як саме вся ця історія глобально вплине на ринок інвестицій, проте якщо казати про технологічний бік - такий прохолодний душ однозначно буде тільки на його користь! Із усього AI-хаосу останніх років викристалізуються дійсно цінні та робочі напрямки, яким не потрібно буде “змагатися за місце під сонцем” із навіженими ідеями. Зате, сподіваюсь, приставку “AI“ перестануть тягати усіма стартап-заходами та тулити де це доречно та ні 🤪 бо це насправді трохи дратує)) Щодо “геймченджерства” - також зроблю ремарочку, що ідею свого проєкту Vitametria я кручу вже пару років, але тільки нещодавно змогла зібрати пазлик щодо його втілення. І сатлося це лише завдяки тому, що багато аспектів реалізації, завдяки AI-буму, стали набагааато простіші 🌟

Всім привіт! Сьогодні в мене про особисте 💃 Чи то останнім часом щось таке надихаюче в атмосфері, чи то жорсткі відключення світла прокачали в мені навичку «жити тут і зараз», та декілька тижнів тому я почала створювати власний проект Vitametria.com Який має стати квінтесенцією мого життєвого та професійного досвіду 🪷 Vitameria - це персональний Health Copilot (помічник по здоровʼю, але англійською звучить якось презентабільніше) у смартфоні, який допомагатиме користувачам краще розуміти потреби власного організму, вчасно виявляти передумови небажаних станів та розширювати зону власного контролю у такому важливому питанні, як здоровʼя - своє та своєї родини 🌟 Такий «медичний» напрямок від Data Scientist-а може здатися трохи несподіваним, але насправді реалізація цієї ідеї у багатьох аспектах базуватиметься саме на ML інструментах та аналітиці. Не буду робити гучних заяв щодо AI (як це зараз модно-стильно-молодьожно), але і без нього вже не обійтися 🤟🏻 Та якщо ви зараз подумали про чергову обгортку для chatGPT API - то ні, Vitametria зовсім не про це (як мінімум це дуже дорого для такого продукту 😅) Детальніше про ідею та про те як я дійшла до такого життя подробиці розвитку проекту розповідатиму в окремому tg-каналі 🔔 Наразі створення сервісу відбувається суто на хвилі ентузіазму в режимі стартапу, який ми пиляємо дуже маленькою командою у вільний від нормальної роботи час. Не сказати, що я дуже чітко бачу весь шлях попереду, але разом з тим, ми маємо план! І в нас навіть є фін модель 💪 А ще так круто стали зірки, що майже на самому березі ми потрапили в Experiment 1.01 від Projector, в якому неймовірними темпами прокачуємо ідею в колі однодумців 🙌 та може навіть позмагаємось за свій перший грант! 😎 Отже якщо вам цікавий наш «шлях воїна» та подальша доля цієї ініціативи - підписуйтесь та слідкуйте в real-time. Доречі, цей допис також є однією із «домашок» Експерименту! Звісно рано чи пізно, він би таки стався, але з моїми уявленнями про світ - це б відбулося скоріше пізно 🙈 І за умовами завдання, тут має бути не менше 17 реакцій! Тож якщо ви дочитали аж досюди - то обовʼязково залиште свій 👍 По-перше це завжди приємно, але цього разу це ще й дуже для мене важливо. Поради, коментарі щодо ідеї, конструктивна критика та побажання удачі також приймаються! 😉

UPD до попереднього допису. ну дуже вчасний! тільки побачила новину про те, що суд визнав Google монополістом на ринку он-лайн пошуку. Справа тривала майже 4 роки і тепер раптова поява на горизонті нового - цілком перспективного - пошуковика (акурат перед винесенням судом цього рішення) вже не видається такою вже й неочікуванною навіть для самого Гугла 😄 Як то кажуть: “Співпадіння? - Не думаю!”

Наприкінці липня OpenAI анонсували створення власного GPT-powered пошуковика. Мабуть це найбільший виклик для Google за останні років 15 🍿🍿🍿 Не те щоб компанія не мала конкурентів за цей час, проте здебільшого їх інтереси перетиналися у суміжних сферах - ОС, браузер, хмарні технології і т п. Зокрема з OpenAI Google також давно перебуває в технологічній гонці, але до цього моменту вона мала скоріш академічний характер та в меншій ступені зачіпала продуктову складову. Як не крути, в області інтернет пошуку, Гугл був (та й досі залишається) безумовним лідером - фактично монополістом. Та при всьому своєму продуктовому різноманітті, ця частина бізнесу генерує для Гугла, на хвилиночку, більше 50% всього прибутку компанії. Тож можна сказати, що OpenAI зазіхнули на дуже великий шматок пирога! З виходом LLM на рівень GPT-3, застосування таких технологій в пошуковиках стало лише питанням часу. Google чудово відчував цю тенденцію, і взагалі-то саме його розробники зробили безпрецедентну контрибуцію в розвиток NLP, зокрема запропонувавши архітектуру трансформера для мовних моделей - яка стала просто state-of-the-art в цій сфері. Тим не менш, адекватної реалізації такого здається “природнього” функціоналу для пошуку інфо в інтернеті поки що ми не побачили (не враховуючи недолугу спробу Microsoft засунути chatGPT в Bing, від якої вони дуже швидко відмовились 🤦🏻‍♀) Вочевидь задача виявляється не такою вже й тривіальною, бо спроби “в LLM та контекст” однозначно відбуваються 🔜 ще минулого року я, скоріш за все попала в якесь A/B тестування Гугла, та отримала в пошуковику дуже дивний результат: спочатку я гуглила щось повʼязане з Гелловіном, а потім почала шукати на подарунок подушку у вигляді сонячної системи - на що отримала капець які крінжові (але існуючі) варіанти мʼяких сонечко-монстрів 😆 що то було не знаю, проте відтворити цей результат мені більше не вдалося =) Тож “challenge accepted!” і прям дуже цікаво у що все це обернеться для нас 👀 Треба сказати, що OpenAI звісно теж “красунчики”. З моменту появи chatGPT “на кожному розі” вони розповідають про те, що OpenAI взагалі не про профіт, а суто про “розвиток технологій ШІ заради користі для всього людства”. І тут вони анонсують продукт із претензією на чи не найприбутковіший ринок в світі 🤔 Ну так, взагалі ніяких суперечностей - бо яка ж користь для людства без крутого інтернет-пошуковика! 😁

Ну ось, почалося! За даними опитування, - 2/3 активних користувачів chatGPT і йому подібних в США вважають, що ці AI штуки розумні та в певній мірі самосвідомі 🤯 Дослідження звісно не дуже масштабне, але тим не менш його результати можуть бути цілком репрезентативними. Навіть якщо похибка досить велика, і ця частина становить не 2/3, а лише 1/2 - це все одно величезна доля! І це серед людей, яким в принципі доступні технології ☝️ Воно і не дивно, людині в цілому притаманно переносити на інших власні якості та почуття. А враховуючи, що наші внутрішні нейронки тисячоліттями налаштовувались на той факт, що розмовляти та осмислено відповідати може лише свідома істота (власне лише людина), то мозку важко за один день «вимикнути» цю асоціацію. Помічаю іноді навіть за собою, коли прошу chatGPT по декілька разів переписати мені відповідь на один і той же запит (бо воно справді стає кращим якщо зробити декілька ітерацій) - зʼявляється внутрішнє відчуття, що йому може бути це не приємно і воно мене вже кляне з цього приводу 😄 Хоча звісно усвідомлено я розумію, що це не так. «Розумні чати» занадто стрімко увійшли в наше життя. Думаю рано чи пізно людське сприйняття адаптується до цього явища, але можливо на перших порах розробникам і дійсно варто було б робити їх трохи «топорнішими» аби не спричинити масові психози. В будь-якому випадку, психіатрам варто підготуватися 🤪 Пишіть в коментарях як у вас - любите потеревенити з chatGPT «про життя»? =)

​“Маленькі діти - маленькі проблеми, великі діти - великі проблеми”, або про те як кібербезпека часів GenAI виходить на новий рівень. В сьогоднішній ІТ термінології “jailbreak” - це не назва серіалу чи нової відеогри, а “страшний сон” розробників LLM. Простими словами, джейлбрейк мовної моделі - це спосіб її “зламати”, а далі вже в залежності від задачі - змусити її генерувати неподобства або ж злити певні “внутрішні налаштування” - тексти розробницьких інструкцій чи елементи тренувальних даних на яких вона навчалась. Так не встиг chatGPT побачити світ, як приклади таких зламів почали ширитися мережею - і якщо більша частина з них видається більш-менш безневинними (як наприклад інструкція з виготовлення вибухівки), то іноді такі атаки призводять до більш серйозних наслідків - як ось наприклад витік даних про персональні рахунки користувачів, який змусив OpenAI добряче понервувати навесні 2023 року. Та якщо “класичним” хакерам треба бути суперскіловими кодерами та круто розумітися на архітектурі побудови рішень, аби вишукувати в них слабкі місця, то у випадку LLM-ок зловмисники мають в більшій мірі підключати “психологічні” штуки аби буквально “вмовити” модельку грати за своїми правилами. Хоча іноді зустрічаються якісь екзотичні варіанти промптів для робочих джейлбрейків типу нескінченної кількості двійок (це ж треба таке ще вишукати 🤷🏻‍♀), але більшість підходів полягають у складанні промпта, що переконує модель ігнорити “базові налаштування”, як ось наприклад DAN - Do Anything Now. Тут також варто прояснити, що джейлбрейки - це слабке місце не лише чат-гпт, а усіх LLM, в тому числі open-source based кастомних рішень, тож варто розуміти, що будь-який “розумний” чат-бот є потенційним бекдором для витоку конфіденційної інформації. Цікавий ще й той факт, що шпарини для таких витіків майже не можливо закрити програмно, для їх “нейтралізації” розробникам доводиться вводити відповідні інструкції в процес навчання, та поводження такого величезного black box-а важко передбачити на 100%, власне як і винахідливість зловмисників! На думку одразу спадає аналогія із настановами батьків маленькій дитині, які напоумлюють її не спілкуватися із незнайомцями за ніяких обставин, але зовсім не факт, що ці настанови “спрацюють” у відповідальний момент 🙈

Тиждень видався дуже насиченим на новини - одразу 2 апдейта від головних AI-провайдерів 💪 І якщо в Гугла все більш менш прогнозовано: збільшили кількість параметрів, контекстне вікно, спробували у мультимодальність та намагаються щось протиставити OpenAI-ній Sora анонсувавши Veo.. + більшість оновлень поки тільки на рівні анонсів та “списків очікування” 🤷🏻‍♀ Ще й, як на мене, Google I/O досить не вдало вийшли з презентацією цього всього одразу після феєричного анонсу GPT-4o(mni), що тільки додатково підсвітило той неймовірний технологічний геп, що склався між лідерами галузі. Тим часом OpenAI влаштували справжній фурор зі своєю новою моделькою! Як-то пишуть: “The world will change forever” (c) І хоча це ще навіть не GPT-5 (інтрига про вихід якої вже цього року також носиться інтернетом), але оновлення chatGPT до omni-версії без перебільшення відкрила наступний рівень на шляху до реального AGI 🌟 На відміну від попередніх спроб додати чатику vision та speech компоненту, які по суті реалізовувались у вигляді стеків різних моделей між собою (Speech-to-Text, Image-to-Text і т п), то GPT-4o безпосередньо навчалась одразу на різних типах даних (End-to-End Image + Text + Speech). Як бачимо результат приголомшливий - як в якості генерації так і в швидкості відповіді! (Хто користується chatGPT мав оцінити такий прорив) Та найбільше особисто мене вразило навіть не те, що вона реально вміє в мультимодальність, а спроможність нової моделі ідентифікувати емоції співрозмовника (при чому як за голосом так і за виразом обличчя), відповідно реагувати та навіть самій їх “проявляти”! Емоціїї, а точніше емоційний інтелект (здатність усвідомлювати та управляти емоціями) - чи не головна риса, що вирізняє людину в тваринному світі, роблячи нас, що називається “високоінтелектуальними істотами”. Тож опанування цієї здатності машиною має стати значною віхою у розвитку ШІ. Дехто навіть вважає, що із появою GPT-4o ми фактично увійшли в еру “Her” - фантастичний сюжет фільму 2013 року, про який я писала ось тут. Якщо хтось ще не дивився - зараз дуже слушний час! 🍿

Шо по автоматичній ПЗ-розробці? Лякалки про заміщення штучним інтелектом людей-фахівців почали потрохи втілюватись в життя. Виходячи із красномовної статистики від UpWork (додаю в каменти) - першими цей тиск відчули копірайтери, перекладачі та маркетологи. Але напружилися не лише вони. CEO Nvidia на Всесвітньому урядовому самміті у лютому цього року бустнув тему заміщення штучним інтелектом розробників ПЗ, недвозначно заявивши, що “наступним поколінням краще шукати опортьюнітіз у біолгії, освіті або сільському господарстві” 😨 Тенденція в цілому не нова, враховуючи той факт, що генеартивний AI активно використовується самими розробниками у якості помічників та копайлотів. Та чи реальна перспектива повної автономії ШІ в цьому процесі? І тут прогнози невтішні (або навпаки, як для кого) - у березні Microsoft презентували свій фреймворк AutoDev, який саме і реалізовує ідею автономної розробки та “перетворює розробників на простих опівнічних наглядачів” (с). Навідміну від копайлотів, AutoDev являє собою набір агентів, які окрім безпосередньо генерування програмного коду, мають можливість редагувати, екзекьютити файли, створювати і запускати тести і навіть комітити в репозиторій 💫 Та все ж варто наголосити, що такий фреймворк - це додатковий інструмент в роботі розробника, аніж повноцінна його заміна! Звичайно кількість ручної роботи, а отже і розмір команди, зменшується в рази, проте казати про повну автономію зарано. Та тим не менш, розглядаючи зараз перспективу податися в програмісти - варто враховувати той факт, що за 5-10 років ринок праці для ІТ фахівців буде знижуватись, надто для новачків. Тим не менш скілові інженери, які швидко адаптуватимуться до нових технологій та якісно вбудовуватимуть їх в робочі процеси (як і в усі часи) залишатимуться в ціні. Ще один на сьогодні “make sense” - варіант - це одразу апскілитись до AI-розробника, бо рано чи пізно з цими технологіями матимуть справу усі, принаймі в ІТ 100%.

Сьогодні МЗС України анонсувало свою AI-речницю з консульських питань - здається це чи не перший прецендент у світі призначення ШІ-співробітника в офіційних держустановах 👀 Та сподіваюсь одного дня ми не станемо першою країною, в якій ШІ прийматиме рішення на державному рівні 🙄 Проте глобально у цифровому всесвіті пані Вікторія Ші не є чимось унікальним - наприклад, інстаграм вже сповнений віртуальними дівами-“мільйонниками”, а TikTok взагалі планує клепати AI-інфлюенсерів “на потоці” (не все ж шкіряним “лідерам думок” гроші за рекламу гребсти). Серед AI-персонажів навіть планують провести глобальний конкурс краси Miss AI (в якому серед жюрі доречі також 2 представника зі штучної спільноти 🤯). Думаю наша Вікторія може мати в ньому всі шанси - як раз би на дрони трохи підкинула б 😁 Та якщо серйозно, така тенденція трохи бентежить! Для довідки, за деякими дослідженнями ще у 2022 році до третини усього контенту твітера генерувалося ботами (і це ще до широкого розповсюдження LLM-ок). При цьому ані інста, ані твітер та і взагалі ніхто не вимагає ніяких позначень для такого роду контенту, та і ефективно виявляти його наразі немає ніяких можливостей. Отже вимальовується досить сумна перспектива, в якій за пару років інтернет цілком перетвориться на “цифрову помийку”, де керувати думками (і без того не дуже розбірливої аудиторії) буде взагалі незрозуміло хто або що 🤷🏻‍♀

Сьогодні трохи про насущне.. Останнім часом все частіше зʼявляється інформація про те як технології ШІ використовуємо у війні проти росії. На них наразі покладаються значні очікування як game-ченджера на полі бою.. Та чи дійсно такі підходи спроможні суттєво вплинути на ситуацію.. who knows! З одного боку, дуже тішить, що інноваційні AI розробки активно впроваджуються, зʼявляється багато ініціатив та стартапів в сфері mil-tech, та і в комунікації із “кінцевим споживачем” (тобто військовими) щодо застосування немає особливої тяганини. Але доказів існування якоїсь “AI-вундервафлі”, яка здатна все вирішити, нажаль, наразі не спостерігається… Як пише The New York Times, наша війна стала справжнім полігоном для випробування новітніх технологій, але одразу ж робить невтішний висновок, що “досить складно інтегрувати інновації XXI сторіччя в окопи часів XIX” 🥴 Основна ставка звісно тут робиться на безпілотні системи. Дрони вже змінили підхід до ведення бойових дій - це факт. В AI перспективі, вони можуть бути обладнані системами компʼютерного зору та автоматизованими алгоритмами визначення цілі та наведення, що зробить їх більш автономними та функціональними. Наступним кроком може бути створення цілих роїв під управлінням ШІ. Також окрім всім відомих FPV та плавучих “золотих рибок”, що роблять боляче чорноморському флоту, почали зʼявлятися відео сухопутних “каракатиць” в стилі Boston Dynamics, що можуть занести якусь біду прямісінько у ворожий окоп або й далі в тил. Але все це поки що технології “з області фантастики”, які у кращому випадку перебувають на етапі тестування, але мова аж ніяк не про масове використання… Та поки наші партнери, які було взялися допомагати із автоматизованими системами, зависли на питанні етичності “нищення русні штучним інтелектом” 🤦🏻‍♀ тим часом русня також не спить та пиляє власний ШІ, впевенена, що без усіляких етичних вагань! Та треба визнати, технологічних та компетентних спроможностей в них буде побільше нашого 😟 Іншим “гарячим” напрямком для ШІ є інформаційна війна, де ми також щось намагаємось та іноді навіть успішно! В статті The Economist розповідає про блискавичну інформаційну операцію України, що супроводжувала звільнення правобережжя та судячи з усього відіграла в ньому не останню роль 💫 Проте стає очевидним, що спроба екстраполювати той самий підхід до контрнаступу минулого року - з тріском провалилася, а можливо навіть дала зворотній ефект та підсилила ймовірність його неуспіху 😞 Також наше РНБО і ко за підтримкою NLP-ентузіастів намагаються вести кампанії, спрямовані на протидію руснявій пропаганді і фейкам 🔥 але нажаль, не спостерігається спроб комплексно комунікувати болючі для суспільства внутрішні питання - типу мобілізації, закритих кордонів тощо - та просувати за допомогою тих самих технологій “правильні” наративи щодо них 🤷🏻‍♀ В той час, як рсняві відосики на тему “я ухилянт і я цим пишаюсь” прорвались навіть в мою інформаційну бульбашку! В жодному разі не хочеться применшувати важливість AI-based рішень, які знаходяться в розробці або вже працюють та безсумнівно створюють профіт в тому ж NLP напрямку, intelligent розвідці та warfare аналітики. Але щодо game-ченджерства - я більш схильна погодитись із автором The New York Times, що “скоріш наша перемога залежатиме від своєчасних поставок сучасного озброєння та боєприпасів, особливо артилерії” (c) Втім, за ці 2 роки Україна вже неодноразово здивувала світ нестандартними рішеннями, які взагалі мало хто міг передбачити, тож давайте залишимо в своїх сподіваннях місце і для неочікуваних AI поворотів🤞🇺🇦

Можна було б вважати це першоквітневим жартом, але ніт! Під капотом амазонівської технологіі ШІ, що працювала у мережі безкасових магазинів Just Walk Out, виявилось 1000 індусів, які просто переглядали відео з камер спостереження та відслідковували, що саме покупці поклали в корзину, аби потім “автоматично” провести транзакцію з оплати 😄 Якщо хтось всерйоз непокоїться, що ШІ може захопити людство - просто стережіться індусів)) Звісно новина приголомшлива, але на захист Amazon хочу сказати, що насправді в автоматизованих бізнес-процесах додаткові верифікації застосовуються часто-густо. Надто в технологіях ШІ, які керуються імовірностями завжди є “сіра зона”, в якій розрахована системою ймовірність не дозволяє прийняти рішення автоматично. Адже ніякий AI наразі не взмозі дати точність 100%, навіть chatGPT (як еталон найпотужнішого ШІ на сьогодні) галюцінує і це вже ні в кого не викликає особливого здивування. Так ось, якщо в деяких процесах такими неоднозначними кейсами можна знехтувати, то в Just Walk Out очевидно такі “помилочки” системи не пройшли б. Як коментують самі розробники - верифікації людиною підлягали лише 50 продажів з 1000, тобто лише у ~5% операцій система ШІ давала імовірність не наближену до 100% - і така точність ШІ скоріше викликає захоплення, ніж бажання поглузувати 👏 Нагадаю, що OpenAI також були помічені за схожою історією, коли вони залучили африканців для модерації токсичного контенту для свого чудо-чату 😏 Тож ШІ такий ШІ.. поки що!