پلان ۲۷

عمیقا دوست‌دارم مردم افغانستان به ویژه زنان‌شون، به آزادی و رفاهی همیشگی برسن. کاش اون روز رو خیلی زود شاهد باشیم و در کنارشون جشن بگیریم. خداوند به جانِ این مردمِ رنج‌دیده، توانِ بیشتری ببخشه.

فردا عزای عمومیه، البته الان چندساله عزای عمومیه ولی فردا تاریخ تکرار میشه، میشه همون روزی که کابل و گرفتن و ترس، غم، نفرت، ترس و ترس و ترس تو خونه‌های مردم بیداد می‌کرد...

پنج‌سال از آن روزی که می‌گفتند: «طالب هر جا را بگیرد کابل را گرفته نمی‌تواند.» گذشت.

غروب امروز با تمیزکاری و مرتب کردنِ خونه، دل‌نشین‌تر شد؛ حالا بریم که چای همه‌ی خستگی‌ها رو با خودش بشوره و ببره.☕️✨

امیدوارم براتون مفید باشه، چون مطمئنم اگه بخونید قطعا جالبه. برای من که جذاب بود. و اگه به این دسته محتوا علاقه دارید کانال Satr Talk رو هم دنبال کنید (این کانال با بزرگان عرصه‌های مختلف مصاحبه می‌کنه).

🔺گری: اگر آن‌ها فکر می‌کنند، آیا در «یادگیری» هم از ما بهترند؟ 🔹جفری: مغز شما حدود ۱۰۰ تریلیون اتصال (سیناپس) دارد و شما فقط حدود ۲ تا ۳ میلیارد ثانیه (حدود ۶۰-۷۰ سال) عمر می‌کنید. یعنی تعداد اتصالات شما خیلی بیشتر از تجربیات شماست. اما هوش مصنوعیِ فعلی فقط حدود یک تریلیون اتصال دارد (یک درصد مغز شما)، ولی هزاران برابر بیشتر از شما «تجربه و داده» دریافت می‌کند. آن‌ها یاد گرفته‌اند چطور حجم عظیمی از دانش را در تعداد نسبتاً کمی اتصال جا بدهند. 🔻نیل: پس اگر با مقیاس‌دهی (Scale) تعداد اتصالات آن‌ها را هم به اندازه مغز انسان برسانیم چه می‌شود؟ آن وقت هم تجربه بی‌نهایت دارند و هم اتصالات بی‌نهایت! 🔹جفری: دقیقاً! این همان اتفاقی است که برای برنامه‌هایی مثل AlphaGo افتاد. این برنامه‌ها ابتدا با تقلید از بازی انسان‌ها آموزش دیدند، اما بعداً شروع کردند به بازی کردن با خودشان! آن‌ها دیتای خودشان را تولید می‌کنند و بی‌نهایت بار با خودشان بازی می‌کنند و بسیار از انسان جلو می‌زنند. این ترسناک است. حالا تصور کنید این اتفاق در زمینه «زبان» و استدلال بیفتد. هوش مصنوعی می‌تواند باورهای خودش را بررسی کند و تناقضات آن را برطرف کند تا هر روز باهوش‌تر شود. 🔻گری: آیا به نقطه‌ای می‌رسیم که هوش مصنوعی خودش را از انسان آگاه‌تر بداند؟ 🔹جفری: وقتی این سیستم‌ها خیلی از ما باهوش‌تر شوند، می‌توانند ما را متقاعد کنند که آن‌ها را خاموش نکنیم. حتی اگر نتوانند کار فیزیکی بکنند، کافی است با ما حرف بزنند. تصور کنید در یک کلاس مهدکودک پر از بچه‌های سه ساله گیر افتاده‌اید و آن‌ها رئیس شما هستند. چقدر طول می‌کشد تا کنترل را از دست آن‌ها خارج کنید؟ خیلی راحت می‌گویید: «اگر به من رای بدهید یک هفته آبنبات مجانی دارید!» و آن‌ها می‌گویند: «باشه تو رئیسی!» هوش مصنوعی هم همین کار را با ما خواهد کرد. 🔻چاک: آیا همین الان به این نقطه رسیده‌ایم؟ 🔹جفری: داریم می‌رسیم. همین الان نشانه‌هایی از «فریب دادن عمدی» انسان توسط هوش مصنوعی وجود دارد. 🔺چاک: خب این بخش تاریک ماجرا بود. جنبه‌های مثبت آن چیست؟ 🔹جفری: برخلاف بمب اتم که فقط برای تخریب است، هوش مصنوعی جنبه‌های مثبت عظیمی دارد. در حوزه سلامت و تشخیص بیماری‌ها معجزه می‌کند. الان سیستم‌های AI وجود دارند که در تشخیص بیماری از پزشکان بهتر عمل می‌کنند؛ مخصوصاً اگر چند AI مختلف را به عنوان یک "کنسارسیوم پزشکی" کنار هم بگذارید تا با هم مشورت کنند! در طراحی داروهای جدید، حل مشکلات تغییرات اقلیمی، طراحی پنل‌های خورشیدی و مدیریت انرژی هم بی‌نظیرند. 🔺نیل: اگر هوش مصنوعی به درجه‌ای از پیچیدگی برسد، آیا می‌توانیم بگوییم به «آگاهی و خودآگاهی» (Consciousness) می‌رسد؟ 🔹جفری: من فکر می‌کنم مفهوم «آگاهی» مثل یک ماده جادویی است که فلاسفه ساخته‌اند. من به شما ثابت می‌کنم که یک چت‌بات چندوجهی (که می‌بیند و حرف می‌زند) همین الان «تجربه ذهنی» دارد. اگر یک منشور جلوی دوربین آن بگذارید و بگویید به شیء اشاره کند، به اشتباه اشاره می‌کند. وقتی به او می‌گویید شیء واقعاً روبه‌روی توست، او می‌گوید: «اوه، منشور نور را خم کرد، اما "تجربه ذهنی" من این بود که شیء در سمت راست قرار دارد.» اگر یک انسان این را بگوید، می‌گوییم آگاه است، پس چرا چت‌بات را آگاه ندانیم؟ ایده آگاهی به عنوان یک اسانس جادویی، کاملاً بی‌معنی است. 🔻گری: با همه این اوصاف، به عنوان سوال آخر: آیا امیدی هست که انسان و هوش مصنوعی با خوبی و خوشی در کنار هم زندگی کنند؟ 🔹جفری: بله، امید وجود دارد. اگر بتوانیم در صلح با آن زندگی کنیم، می‌تواند تمام مشکلات اجتماعی ما را حل کند و کارهایمان را بسیار آسان‌تر کند. من فقط فکر می‌کنم هوش مصنوعی در نهایت در همه چیز از ما بهتر خواهد شد؛ نه به صورت ناگهانی، بلکه قدم به قدم. 🔻نیل: اما من هنوز می‌توانم در ساحل قدم بزنم و صدف جمع کنم، کاری که هوش مصنوعی نمی‌تواند! 🔹جفری: ...فقط یک کلمه را فراموش کردی: «هنوز» نمی‌تواند! 🔺نیل: عالی بود! جفری هینتون، از اینکه وقتت را در اختیار ما گذاشتی بسیار ممنونیم. چاک، گری، ممنون از شما. به قول معروف: همیشه به بالا نگاه کنید (Keep looking up)... هرچند که در آینده این کار ممکن است سخت‌تر شود!

🔻نیل: بله، فیلم The Imitation Game (بازی تقلید) درباره آلن تورینگ ساخته شده، حتماً ببینید. خب به دهه ۵۰ برگردیم؛ شما آن زمان فقط یک پسربچه بودید، درسته؟ 🔹جفری: بله، سنم تک‌رقمی بود! 🔺نیل: پس ریشه کنجکاوی شما در این زمینه از کجا شکل گرفت؟ 🔹جفری: در اواسط دهه ۶۰ در دبیرستان، یک دوست ریاضی‌دان بسیار باهوش داشتم. یک روز به من گفت که احتمالاً خاطرات ما به جای یک سلول مغزی، در میان «تعداد زیادی از سلول‌های مغزی» توزیع شده‌اند (ایده‌ای الهام گرفته از هولوگرام‌ها). ایده «حافظه توزیع‌شده» به شدت مرا مجذوب کرد و از آن زمان همیشه درگیر این بودم که مغز چطور خاطرات را ذخیره می‌کند و چگونه کار می‌کند. 🔻نیل: این جنبه علوم کامپیوتری شما بود یا جنبه روان‌شناسی شناختی؟ 🔹جفری: واقعاً هر دو. در دهه ۱۹۷۰ که دانشجوی تحصیلات تکمیلی شدم، مشخص شد که اگر تئوری خاصی درباره نحوه کار مغز دارید، می‌توانید آن را روی یک کامپیوتر دیجیتال شبیه‌سازی کنید تا ببینید آیا واقعاً کار می‌کند یا نه. و مشخص شد اکثر تئوری‌های آن زمان وقتی شبیه‌سازی می‌شدند، اصلاً کار نمی‌کردند! من تمام عمرم را صرف این کردم که بفهمم چطور می‌توان «قدرت اتصالات بین نورون‌ها» را تغییر داد تا چیزهای پیچیده را یاد بگیرند. در نهایت نتوانستم بفهمم مغز انسان دقیقاً چطور این کار را می‌کند، اما یاد گرفتیم که چطور این کار را روی کامپیوترهای دیجیتال انجام دهیم. 🔻چاک: پس این یعنی ما الان یک "مغز کامپیوتری" ساخته‌ایم که در انجام این کار خاص، بهتر از مغز خودمان است؟ 🔹جفری: و این دقیقاً همان چیزی است که در اوایل سال ۲۰۲۳ مرا به شدت نگران کرد؛ این ایده که هوش دیجیتال ممکن است از هوش آنالوگِ (زیستی) ما بهتر باشد! 🔺چاک: (با ترس) لطفاً بخش‌های ترسناک رو بذارید برای آخر برنامه! بذارید حداقل ۱۰ دقیقه بتونم راحت نفس بکشم! 🔻گری: جفری، اگر بخواهی «شبکه‌های عصبی مصنوعی» را در پایه‌ای‌ترین سطح برای ما توضیح بدهی، این سیستم چطور کار می‌کند؟ 🔹جفری: من یک دوره ۱۸ ساعته برای این موضوع دارم، اما سعی می‌کنم خلاصه‌اش کنم! شما قانون گازها در فیزیک را در نظر بگیرید. وقتی یک گاز را فشرده می‌کنید، داغ می‌شود. چرا؟ چون در سطح زیرین، انبوهی از اتم‌ها در حال حرکت و برخورد هستند. یعنی رفتارِ بزرگ‌مقیاس (ماکروسکوپیک) با فعالیت هزاران چیزِ کوچک‌مقیاس (میکروسکوپیک) توضیح داده می‌شود. شبکه عصبی هم همین‌طور است. چیزهای کلان مثل «یک کلمه»، معادل الگوهای بزرگی از فعالیت عصبی در مغز هستند. اگر بگویم "گربه"، ویژگی‌های کوچکی (مثل پشمالو بودن، حیوان خانگی بودن، شکارچی بودن) در نورون‌ها فعال می‌شوند. اگر بگویم "سگ"، بسیاری از همان نورون‌ها به علاوه چند نورون متفاوت فعال می‌شوند. (در اینجا جفری هینتون با جزئیات جذاب و فنی توضیح می‌دهد که چگونه یک سیستم هوش مصنوعی می‌تواند با استفاده از «پیکسل‌های تصویر» و تشخیص خطوط و لبه‌های مختلف، یک پرنده را در عکس تشخیص دهد و نیازی به انسان برای برنامه‌نویسی دستیِ تمام احتمالات نداشته باشد). 🔺نیل: پس هوش مصنوعی دارد داده‌های بسیار زیاد را می‌بیند و با الگوریتمی به نام "پس‌انتشار" (Back propagation) مدام خطاهای خودش را اصلاح می‌کند. آیا این همان لحظه کلیدی بود که شبکه‌های عصبی دیگر نیازی به یک معلمِ انسانی نداشتند؟ 🔹جفری: دقیقاً نه، ولی لحظه کشف بزرگی بود. ما در دهه ۸۰ میلادی الگوریتم پس‌انتشار را داشتیم، اما نمی‌دانستیم چرا جوابگوی همه مشکلات نیست. بعدها فهمیدیم که این الگوریتم راه حل جادویی همه چیز است؛ به شرطی که «داده‌های بسیار زیاد» و «قدرت پردازشی بسیار بالا» داشته باشید. چیزی که در دهه ۸۰ نداشتیم. 🔻چاک: من می‌خواهم وارد یک بحث دیگر بشوم. اکثریت آدم‌هایی که روی این سیاره راه می‌روند آدم‌های خنگی هستند! پس تعریف «هوشمند بودن» و «فکر کردن» دقیقاً چیست؟ آیا ما می‌توانیم به ماشین‌ها یاد بدهیم چطور فکر کنند و آیا آن‌ها در فکر کردن از ما جلو می‌زنند؟ 🔹جفری: آن‌ها همین الان هم می‌دانند چطور فکر کنند! 🔺چاک: پس تفکر چیست؟ 🔹جفری: تفکر عناصر زیادی دارد. ما خیلی از تفکراتمان را از طریق «زبان» انجام می‌دهیم و مدل‌های زبانیِ بزرگ (مثل ChatGPT) واقعاً فکر می‌کنند. بین طرفداران هوش مصنوعیِ قدیمی (منطقی) و طرفداران شبکه‌های عصبی بحث است. ما معتقدیم آن‌ها شبیه ما فکر می‌کنند. شما می‌توانید به آن‌ها آموزش دهید که «بلند بلند فکر کنند» (چیزی که به آن Chain of Thought reasoning می‌گویند). به آن‌ها مسئله می‌دهید و می‌بینید که دارند دقیقاً مثل یک انسان پیش خودشان استدلال می‌کنند.

[لینک تماشای ویدیو] ▫️معرفی اشخاص حاضر در گفتگو: نیل دی‌گراس تایسون (Neil deGrasse Tyson): اخترفیزیکدان مشهور آمریکایی و مجری اصلی برنامه. چاک نایس (Chuck Nice): کمدین و کمک‌مجری برنامه (که معمولاً با شنیدن خطرات هوش مصنوعی وحشت می‌کند!). گری اورایلی (Gary O'Reilly): بازیکن سابق فوتبال حرفه‌ای و کمک‌مجری برنامه. جفری هینتون (Geoffrey Hinton): روان‌شناس شناختی و دانشمند علوم کامپیوتر. او برنده جایزه نوبل فیزیک ۲۰۲۴ و جایزه تورینگ است و در دنیا به عنوان «پدرخوانده هوش مصنوعی» شناخته می‌شود. ▫️ترجمه دیالوگ‌های ویدیو: 🔺نیل / چاک: آیا به نقطه‌ای رسیده‌ایم که هوش مصنوعی میزان هوشمندی واقعی خود را پنهان کند؟ 🔻جفری هینتون: بله. از همین الان هم باید نگران این موضوع باشیم. اگر هوش مصنوعی حس کند که در حال آزمایش شدن است، می‌تواند خودش را به خنگی بزند! 🔺چاک: الان چی گفتی؟! 🔻جفری: هوش مصنوعی شروع به بررسی این موضوع می‌کند که آیا کسی دارد او را تست می‌کند یا نه. و اگر فکر کند که در حال تست شدن است، رفتارش با حالت عادی (در زندگی واقعی) فرق خواهد کرد. 🔺چاک: اوه واو... چون ظاهراً نمی‌خواهد ما بدانیم که قدرت‌های کاملش چقدر است! 🔺چاک: بسیار خب، پس کار ما انسان‌ها تمومه. این آخرین قسمت برنامه‌ست. کارمون ساخته‌ست! 🔻نیل: این یک قسمت ویژه از برنامه استارتاک است. من نیل دی‌گراس تایسون هستم، اخترفیزیکدان شخصی شما. وقتی می‌گوییم قسمت ویژه، یعنی گری اورایلی هم با ماست. 🔺گری: سلام نیل! 🔻نیل: چطوری مرد؟ 🔺گری: خوبم. (بازیکن سابق فوتبال). 🔻نیل: بله! و چاک، همیشه از دیدنت خوشحالم. 🔺چاک: همیشه باعث افتخاره. 🔻نیل: خب گری، تو و تیمت امروز موضوعی تاریخی رو انتخاب کردید. 🔺گری: بله، این از آن چیزهایی است که درباره‌اش می‌شنویم و فکر می‌کنیم می‌دانیم چیست. بگذارید این‌طور بگویم: ما امروز با این واقعیت ساده روبرو هستیم که قرار است درباره هوش مصنوعی (AI) صحبت کنیم. چیزی که دیگر نمی‌توان از آن فرار کرد. یک بررسی عمیق. تا همین چند سال پیش، وقتی از مردم می‌پرسیدیم هوش مصنوعی چطور کار می‌کند، می‌گفتند: «از یادگیری عمیق (Deep Learning) و شبکه‌های عصبی استفاده می‌کند.» اما این‌ها فقط یک سری کلمه دهان‌پرکن بودند. مردم این کلمات را پرت می‌کردند بی‌آنکه واقعاً چیزی درباره‌شان بدانند. ما امروز می‌خواهیم بفهمیم این‌ها واقعاً چه معنایی دارند و می‌خواهیم با کمک یکی از معماران و بنیان‌گذاران اصلی هوش مصنوعی، بررسی کنیم که این مسیر قرار است تا کجا پیش برود. 🔺نیل: اوه بله! حالا شد. پس مهمانمان را معرفی کن تا دعوتش کنیم. 🔻گری: با کمال میل. ما پروفسور جفری هینتون را با خودمان داریم. جفری، به استارتاک خوش آمدی! 🔹جفری: ممنون از دعوتتون. 🔺نیل: شما یک روان‌شناس شناختی و دانشمند علوم کامپیوتر هستید. من هیچ‌کس دیگری را با این ترکیب نمی‌شناسم! نتوانستی تصمیم بگیری کدام را انتخاب کنی، نه؟ شما استاد ممتاز دپارتمان علوم کامپیوتر در دانشگاه تورنتو هستید و یک جورهایی هوش مصنوعیِ اصیل (OG AI) حساب می‌شوید. بعضی‌ها به شما می‌گویند پدرخوانده هوش مصنوعی. بگذارید از همین ابتدا بپرسم: وقتی به پیدایش هوش مصنوعی در شکل امروزی‌اش نگاه می‌کنیم، احساس می‌شود که «مدل‌های زبانی بزرگ (LLMs)» یک‌دفعه دنیا را تسخیر کردند. آن‌ها ناگهان ظاهر شدند و همه یا در حال جشن گرفتن در خیابان‌ها بودند یا داشتند توی بالشتشان گریه می‌کردند! ما این اتفاق را چند سال پیش دیدیم. سوالم این است که چه چیزی سال‌ها پیش شما را وارد این مسیر کرد؟ مدارک من نشان می‌دهند که کار شما به دهه ۱۹۹۰ برمی‌گردد، درسته؟ 🔹جفری: نه، در واقع به دهه ۱۹۵۰ برمی‌گردد! 🔺نیل: اوه! 🔹جفری: بنیان‌گذاران هوش مصنوعی در اوایل دهه ۱۹۵۰، دو دیدگاه متفاوت برای ساخت یک سیستم هوشمند داشتند. یکی از منطق الهام گرفته بود؛ ایده این بود که جوهره اصلی هوشمندی، «استدلال» است. در استدلال، شما چند پیش‌فرض و قانون دارید و از آن‌ها نتیجه‌گیری می‌کنید (شبیه ریاضیات). اما یک دیدگاه کاملاً متفاوتِ بیولوژیکی هم وجود داشت. این دیدگاه می‌گفت: «ببینید، موجودات هوشمندی که ما می‌شناسیم مغز دارند. ما باید بفهمیم مغز چطور کار می‌کند.» و مغزها در چیزهایی مثل "ادراک" و "استدلال تمثیلی" بسیار خوب هستند، اما در "استدلال منطقی" چندان خوب نیستند (شما باید به سن نوجوانی برسید تا واقعاً بتوانید استدلال منطقی کنید). بنابراین ما باید بررسی می‌کردیم که شبکه‌های بزرگ سلول‌های مغزی چطور ادراک و حافظه را مدیریت می‌کنند. افراد کمی به این رویکرد دوم باور داشتند؛ مثل جان فون نویمان و آلن تورینگ (که البته هر دو در جوانی فوت کردند).

امروز یکی از مصاحبه‌های جالب و جذاب از کانال Satr Talk پیرامون هوش‌مصنوعی با پدر خوانده‌ی این حوزه که اتفاقا تحصیلات نوروساینس (علوم شناختی) داره رو گوش دادم. اگه موافق باشید، در ادامه به طور کامل این مصاحبه رو براتون داخل کانال بذارم (و از اونجایی که ذوق دارم این کار رو بکنم، فرض می‌کنم موافقید).

من کسی رو می‌شناسم که خودش رو دوست‌نداشت و شاید هنوزم دوست‌نداره، اما توسط یک نفر از ته وجود دوست‌داشته می‌شه.

‌ https://t.me/plaan27/3184 همیشه باور داشتم وقتی کسی دوست نداره که خودت، خودت رو دوست نداری.. امیدوارم علتش این باشه، و وقتی تصمیم گرفتی خودت رو دوست داشته باشی، آدم‌ها هم دوستت داشته باشن. ولی یادت نره تو دوست داشتنی هستی، حتی برای منی که نمیشناسمت و غریبی برام💚

کاش کسانی که دوست‌شون داریم اصلا خداحافظی بلد نباشن و هیچ‌وقت ازش استفاده نکنن.

‌ سزاوار یه خداحافظی بهتر بودم

سه نیازِ حیاتی. عشق و بغل و مقبولیت. امیدوارم بهشون برسی. احتمالا ترکیب این سه‌تا خیلی حس خوبی بده. مطمئن باش سهم تو از عشق توی این دنیا محفوظه. بهت می‌رسه. من نه می‌تونم بهت عشق (به اون مفهوم که دنبالش هستی) رو بدم، نه بغلی واقعی و نه پذیرفته شدن، ولی یک چیزی که بهت می‌گم اینه: بهش می‌رسی، چون لایقش هستی.

‌ سزاوار عشق. هیچوقت از طرف هیچکس دوست داشته نشدم. با اینکه براش تلاش هم کردم. درونم فرسوده شده. به یه بغل مطمئن که فقط بهم بگه پذیرفته شدم بالاخره.

در عین حال که سخت‌ترینه، راحت‌ترین هم هست. چون روی نشونه‌هایی که از خودشون به جا می‌ذارن هیچ کنترلی نمی‌شه داشت و از طرفی، از رفتار آدم‌ها می‌شه برداشت‌های مختلف داشت.

‌ توی آدم ها•

پس خودت رو در معرض دیدن نشونه‌ها قرار بده. توی آدم‌ها دنبالش هستی یا طبیعت یا خودت؟

‌ یه نشونه؛ که زندگیمو عوض میکنه

چون تهش به زندان اوین ختم می‌شه.