MatlabTips

описание

آموزش MATLAB با "استفاده از ویدئو و متن" در سطوح مبتدی تا پیشرفته پاسخ به سوالات تخصصی: @roholazandie

← к каналу @matlabtips

868

подписчиков

Охват к подписчикам

32,6%

ERR

Реакции к просмотрам

0,00%

0 на 20 постов

Пересылки к просмотрам

1,24%

Постов в день

0,1

всего 20

Где отзываются чаще

доля реакций к просмотрам

10 авг.ولفگنگ پاول ۱۱۳ سال پیش در چنین روزی چشم به جهان گشود. او quadrupole ion trap اختراع کرد و جایزه نوبل ۱۹۸۹ را دریافت کرد. گفته می شود در یک دیدار با ولفگنگ پاولی به او می گوید: «بالاخره بخش مختلط خودم را دیدم!»0,00%
18 июл.حرکت بین این سه نقش مختلف یادگیری در متن را ممکن می سازد.0,00%
18 июл.در مدل های اخیر تر مانند GEPA یک شیفت جالب اتفاق افتاده است. به جای آنکه پارامتر ها را تغییر دهیم سه مدل زبانی با نقش های مختلف ساخته می شوند. یک «تولید کننده» (generator) زنجیره ی افکار که نمونه های مختلفی می سازد. یک داور Judge که به هر مسیر یک امتیاز بر اساس نتیجه و دنباله می دهد. و در نهایت یک «اندیشمند»( reflector) که مسیر ها و امتیاز ها را در نظر میگیرد و بر اساس آن ها یک اصلاح بر پرامپت اولیه (initial prompt) ایجاد می کند! دنباله ی این تغییرات به تدریج به بهتر کردن Generator منجر می شود! در قسمت قبل دیدیم که مدل های زبانی می توانند رفتار های به کلی متفاوت و حتی مجموعه ی توانمندی ها (skillset) مختلف داشته باشند. در اینجا سه نقش «تولید کننده»، «داور» و «متفکر» در کنار هم یک مساله ی بهینه سازی را حل می کنند بدون آنکه در تغییر پارامتر ها درگیر شوند. این «یادگیری» در متن با حرکت بین این نقش ها مسیری است که اهمیت بیشتر و بیشتری خواهد یافت چرا که بسیار بهینه تر و در یک مدیوم بسیار غنی تر (خود زبان) حرکت می کند که براحتی می تواند کمبود های مدل های پایه را رفع کند و چارچوب جالب تری برای یادگیری را به پژوهشگران نشان دهد.0,00%
18 июл.🔵 یادگیری در متن 🔵 «یادگیری بازنمایی» (representation learning) در حوزه ی زبان با «بخاطر سپردن الگوهای زبانی» از گرامر گرفته تا دانش و استنتاج که در ساختار خود زبان نهفته هستند برای مدت زمان زیادی در هاله ای از ابهام بود. تلاش های اولیه مانند روش چامسکی مساله ی گرامر را به ساختارهای مشخصی از زبان مرتبط می دانستند. با این حال چنین روشی قابل اعمال به تمام زبان نیست و حتی در خود گرامر هم به به آن سختی ای که «ساختار های نحوی» به آن اعتقاد داشت نمی باشد. روش هایی که به دنبال «قواعد» با چنین روش هایی میگشتند وقتی مساله ی یادگیری معنا (semantic) می رسیدند آن را به صورت نگاشت تعدادی نامتناهی «فکت» ها در یک آنتولوژی می دیدند: اگر آ از ب بزرگ تر و ب از ج آنگاه آ از ج بزرگتر است! شیشه شکستنی است و غیره. به طور مثال کوشش های اولیه مانند مدل های cyc و YAGO در اواسط دهه ی هشتاد برای جمع آوری تمام دانش ضمنی (implicit knowledge) به بن بست رسید. به نظر می رسید هیچ مجموعه ای متنهای نمی تواند معنای «همسایه» یا «شاه» را بازنمایی کند! با تغییر حرکت به سمت مدلسازی احتمالاتی و برداری در نهایت این فاصله ی به ظاهر غیر قابل پر کردن، بسته شد. مدلهای اولیه word2vec توانستند معنا را به جای مجموعه ای از روابط زبانی در فرم یک آنتولوژی عظیم را با بردارهای با ابعاد بالا بازنمایی کنند. با اینکه این روش مشکل معنا را به صورتی عملی حل کرد اما لایه ای از «تفسیر ناپذیری» به پردازش زبان اضافه کرد. مدل های زبانی کنونی ساختارهایی تانسوری هستند که وزن های مشخصی را در خود نگهداری می کنند. الحاق کردن «تفسیر»‌ به چنین وزن هایی کاری دشوار و در اغلب مواقع با شکست مواجه می شود. به این ترتیب آنها بازنمایی را نشان می دهند که اجزای آن به صورت جداگانه برای ما بی معنا است ولی حاصل اندرکنش بینشان چیزی را ایجاد می کند که بسیار شبیه به زبان روزمره است! بدون اغراق می توان گفت بزرگترین انقلاب در پردازش زبان طبیعی در بیست سال گذشته حرکت از سوی «یادگیری در فضای داده» به «یادگیری در فضای پارامتر» است. با اینکه پارامترها واضح ترین روش برخورد با داده های دیگر مانند سیگنال ها و عکس و ویدیو بنظر می رسید این در مورد زبان واضح نبود! در نگاه ظاهری زبان موجودیتی نیست که بتوان آن را به کمی کرد. این تغییر عظیم با ورود مدل های زبانی بزرگ تمام تمرکز را به مانند عکس و سیگنال به سمت پارامتر ها برد! امروزه بهینه سازی تابع هزینه و یافتن بهترین پارامتر ها با یادگیری مساوی دانسته می شود. چندین سال گذشته اما شاهد یک تغییر دیدگاه جالب هستیم! خیلی زود بعد از آموزش اولین مدل های زبانی با کیفیت برخی از پژوهشگران متوجه شدند هنگام پرسش از چنین مدل هایی اگر به آن ها فضای توکن بیشتری داده بشود، چیزی که به «زنجیره ی افکار» chain of though شناخته می شود نتایج بهتری به همراه دارد. نباید فراموش کرد که زبان برخلاف داده های دیگری که با آن ها کار میکنیم دارای ویژگی یادگیری است. ترکیب قطعه های مختلف زبانی مسیر های بسیار متفاوتی را رقم می زنند که می تواند به نتایج کاملا متفاوتی ختم شود و از قضا برخی از این مسیر ها «جالب تر» از بقیه هستند و نتایج «دورتری» را می توانند انجام بدهند مانند یک استدلال چند قدمی برای حل یک مساله ی المپیاد ریاضی یا نوشتن یک استدلال حقوقی چند مرحله ای! در نگاه اول چنین شیوه ای نباید کار کند چون مدل پایه بر روی داده های مشخصی آموزش دیده شده است و چیزی که می سازد هم باید در همان حدود باشد. با این حال مدل های زبانی برای یک پرسش (پرامپت) مشخص همیشه یک جواب یگانه ندارند. ویژگی پایه ای چنین مدلهایی بر اساس نمونه برداری تصادفی از یک توزیع احتمال پایه است که تنها چیزی که مشخص می کند احتمال توکن بعدی به شرط قبلی ها است. به این ترتیب در هر قدم مدل زبانی انتخاب های زیادی دارد. می توان تصور کرد همانطور که شما هر بار که تاس می اندازید یک نتیجه می گیرید در مدل های زبانی هم هر انتخاب توکن در هر لحظه مسیر ادامه ی متن را به کلی تغییر می دهد. با این تفاوت که در اینجا احتمال یک تابع بسیار پیچیده تر از یک تاس ساده است (uniform probabiliy). در عمل جواب های تولید شده به ازای یک پرامپت به یک اندازه «خوب» یا «جالب» نیستند! برخی از این جواب ها بیشتر «مطلوب» هستند.0,00%
10 июн.🔵بردار شخصیت: کلاه بتمن بر سر هوش مصنوعی🔵 در سال ۲۰۱۶، روان‌شناسان دانشگاه مینه‌سوتا آزمون عجیبی برای سنجش «خودکنترلی» (self control) کودکان ۴ ساله طراحی کردند. کودک باید ۱۰ دقیقه یک کار کامپیوتری به‌شدت کسل‌کننده را انجام می‌داد، در حالی که چند قدم آن‌طرف‌تر، یک آی‌پد با یک بازی جذاب و وسوسه‌انگیز قرار داشت. بیشتر کودکان در همان دقایق اول تسلیم می‌شدند. اما محققان یک متغیر وارد کردند: به دسته‌ای از آن‌ها شنل بتمن دادند و گفتند فرض کنید شما بتمن هستید. به آن‌ها آموزش داده شد که به‌جای پرسشِ «آیا من دارم تلاش می‌کنم؟»، از دید سوم شخص بپرسند: «آیا بتمن دارد تلاش می‌کند؟» نتیجه شگفت‌انگیز بود. کودکانی که در نقش بتمن فرو رفته بودند، زمان بسیار بیشتری تمرکز کردند و در برابر وسوسه بازی مقاومت کردند. این پدیده در روان‌شناسی «اثر بتمن» (The Batman Effect) نام گرفت. با ایجاد فاصله روانی از «خود»، کودک توانست بر سوگیری پیش‌فرض مغز برای لذت آنی غلبه کند. امروز، این آزمایش ساده را می توان در جایی به نظر دور در مهندسی پرامپت (Prompt Engineering) مدلهای زبانی بزرگ (LLM) دید. راز تمرکز یک کودک چهار ساله، دقیقاً همان راز استخراج پاسخ‌های دقیق از یک مدل هوش مصنوعی با تریلیون‌ها پارامتر است. فضای پنهان و مسیر کمترین مقاومت (latent space and the path of least resistance) وضعیت پیش‌فرض یک هوش مصنوعی، میانگین آماری کل داده‌های اینترنت است. اگر به او یک دستور عمومی بدهید (مثلاً: «این کد را بررسی کن»)، مدل مانند کلافی سردرگم، راحت‌ترین مسیر را انتخاب می‌کند و پاسخی سطحی و متوسط تحویل می‌دهد. جالب اینجاست که دستورهای مستقیم مثل «باهوش‌تر باش» یا «اشتباه نکن» تاثیر چندانی ندارند؛ درست مثل اینکه به یک کودکِ کلافه بگویید «فقط تمرکز کن!». سیستم برای پردازش این دستور، ابزار ساختاری جدیدی دریافت نمی‌کند. اما کافی است در ابتدای پرامپت بنویسید: «تو یک مهندس ارشد نرم‌افزار و یک حسابرس دقیق رمزنگاری هستی که داری این کد حیاتی را برای نسخه نهایی بررسی می‌کنی.» ناگهان خروجی مدل دگرگون می‌شود؛ باگ‌های پنهان را می‌یابد، لحنی منتقدانه و دقیق می‌گیرد و با استدلالی قوی‌تر فکر می‌کند. در هر دو شبکه عصبی (بیولوژیکی و مصنوعی)، تزریق یک شخصیت بالا‌رده مانند یک «لنگر معنایی» (semantic anchor) عمل می‌کند. وقتی کودک شنل بتمن را می‌پوشد، آگاهانه رفتارهای فردی خود را محاسبه نمی‌کند؛ بلکه مفهوم «بتمن» فورا شبکه‌ای متراکم از ویژگی‌های پیش‌فرض را فعال می‌کند: بتمن تسلیم نمی‌شود، پازل‌های سخت را حل می‌کند و حواسش پرت آی‌پد نمی‌شود. این پرسونای جدید مثل یک فیلتر اجرایی، انگیزه‌های سطحیِ «خود» را سرکوب می‌کند. در مدل‌های زبانی نیز، این پرامپت به عنوان یک «بردار هدایت‌گر» در هندسه «فضای پنهان» (Latent Space) مدل عمل می‌کند. با معرفی شخصیتِ «مهندس ارشد»، شما یک بردار جهت‌دار قوی به لایه‌های توجه (attention layers) مدل تزریق می‌کنید. این بردار، مسیر محاسبات را از بخش‌های میانگین و سطحیِ اینترنت عمومی دور کرده و به سمت کلاسترهای متراکم، تخصصی و غنی از کدهای استاندارد و مقالات علمی هدایت می‌کند. شما چیز جدیدی به هوش مصنوعی یاد نداده‌اید، همان‌طور که محققان به کودک تمرکز کردن را آموزش ندادند، بلکه فقط سیستم را به زیرفضایی محدود کرده‌اید که در آن، خروجیِ باکیفیت، منطقی‌ترین و محتمل‌ترین پاسخ ممکن است. پارادوکس هویت این شباهت، حقیقتی عمیق را آشکار می‌کند: عملکرد، به شدت به هویت وابسته است. دهه‌ها تصور می‌شد افزایش هوش سیستم‌ها صرفا در گروی قدرت پردازش بیشتر و دیتای بزرگ‌تر است. اما اثر بتمن نشان می‌دهد که کارایی گاهی توسط «اثر لنگر انداختن» (Anchoring Effect) هدایت می‌شود. یک سیستم هوشمند، چه از گوشت و پوست و چه از سیلیکون و کد، برای سازماندهی توانایی‌هایش به یک قاب ساختاری نیاز دارد. برای گرفتن بهترین نتیجه از یک شبکه عصبی، همیشه نیاز به بازنویسی کدهای آن نیست؛ گاهی اوقات، فقط کافی است به او یک شنل بدهید.0,00%
10 июн.без подписи0,00%
7 июн.پروتئین های کینسین (Kinesin) که به «پروتئین های موتوری» (Motor protein) معروف هستند! در اینجا حرکت آنها بر روی یک مایکروتیوب شبیه سازی شده است!0,00%
7 июн.گویی اصل طرد پاولی یک «بی قراری» بنیادی در سرشت جهان قرار داده است. یک بی قراری که جهان را پویا و زنده کرده است. این بی قراری امکان ایجاد جستجو در فضای حالت های ممکن را فراهم کرده که نتیجه ی آن «فرم» های پویا و پیچیده هستند. توجه به ساختار پیچیده ی پروتئین ها و کارهایی که می توانند انجام دهند نشان دهنده ی «پویایی» (animacy) و «عاملیت» (agency) جهان فیزیکی هستند که خط امضای آشنای «زندگی» (life) هستند.0,00%
7 июн.فرآیند بی قراری هندسی که در فیزیک حالت جامد مشاهده می شود0,00%
7 июн.این حرکات ناشی از فرآیندی است که در فیزیک به آن «بی قراری هندسی» گفته می شود. برای درک بی قراری هندسی باید یک مورد ساده از ذراتی را درنظر بگیریم که بر روی یک مشبک مثلثی قرار گرفته اند. اگر یک گوشه دارای اسپین بالا (پایین) باشد باید سمت راستی اش پایین (بالا) باشد (کمترین انرژی) اما با سومی نمی تواند به تعادل برسد! اگر بالا باشد با اولی و اگر پایین باشد با دومی هم جهت می شود. به این ترتیب هر سه باید با هم سازش کرده و به یک راه حل بیابینی برسند. با این حال این خود ممکن است با مثلث کناری به مشکل بخورد. در ویدیوی پایین توضیح مفصل تری می بینید.0,00%
7 июн.بخش هایی از پروتئین مانند یک دست رباتیک کار می کنند! آن ها می توانند مولکول ها، پپتاید ها و پروتئین های دیگر را «بگیرند» و حتی گاهی آن ها را تکه پاره کنند (مانند Proteases که به «قیچی مولکولی» معروف است)0,00%
7 июн.مولکول پروتئین که بسیار شبیه به موجودی زنده حرکت می کند!0,00%