آبان نیوز انتشار آخرین خبرهای سیاسی اقتصادی اجتماعی ورزشی فناوری در آبان نیوز
به گزارش دپارتمان اخبار اقتصادی پایگاه خبری آبان نیوز ،
تیاولین چیزی که جفری هینتون وقتی شروع به صحبت می کنیم می گوید، و آخرین چیزی که قبل از اینکه ضبط کننده ام را خاموش کنم تکرار می کند، این است که او گوگل، کارفرمای دهه گذشته خود را با شرایط خوب ترک کرد. من هیچ اعتراضی به کاری که گوگل انجام داده یا انجام می دهد ندارم، اما بدیهی است که رسانه ها دوست دارند من را به عنوان یک کارمند ناراضی گوگل معرفی کنند. اینطور نیست.»
توضیح مهمی است که باید انجام داد، زیرا نتیجه گیری برعکس آن آسان است. به هر حال، وقتی اکثر مردم با آرامش کارفرمای سابق خود را به عنوان یکی از گروه کوچکی از شرکت‌ها توصیف می‌کنند که مسیری را ترسیم می‌کنند که به احتمال هشداردهنده‌ای ممکن است خود بشریت را از بین ببرد، این کار را با حس بدگویی انجام می‌دهند. اما برای گوش دادن به هینتون، ما در حال راه رفتن در خواب به سمت یک تهدید وجودی برای تمدن هستیم، بدون اینکه هیچ کسی درگیر رفتار بدی باشد.
هینتون که به عنوان یکی از سه “پدرخوانده هوش مصنوعی” شناخته می شود، در سال 2018 برنده جایزه ACM Turing – جایزه نوبل دانشمندان کامپیوتر برای کارش در “یادگیری عمیق” شد. او که یک روانشناس شناختی و دانشمند کامپیوتر با آموزش بود، انگیزه ای برای بهبود اساسی فناوری نداشت: در عوض، درک بیشتر درباره خودمان بود.
او به من می‌گوید: «در 50 سال گذشته، من سعی کرده‌ام مدل‌های رایانه‌ای بسازم که بتواند چیزهایی را مانند روشی که مغز آن را یاد می‌گیرد، یاد بگیرد تا بهتر بفهمم مغز چگونه چیزها را یاد می‌گیرد. خانه خواهرش در شمال لندن، جایی که او در آنجا اقامت دارد (او معمولا در کانادا زندگی می کند). کمی بالای سرم نشسته است – او ترجیح می دهد ایستاده صحبت کند – لحن به طرز عجیبی یادآور یک آموزش دانشگاهی است، همانطور که استاد 75 ساله سابق سابقه تحقیقاتی خود را توضیح می دهد و اینکه چگونه به طور اجتناب ناپذیری او را به این نتیجه رسانده است که ممکن است محکوم به فنا باشیم
هینتون در تلاش برای مدل‌سازی نحوه عملکرد مغز انسان، خود را یکی از رهبران در زمینه «شبکه‌های عصبی» یافت، رویکردی برای ساختن سیستم‌های رایانه‌ای که می‌توانند از داده‌ها و تجربیات بیاموزند. تا همین اواخر، شبکه‌های عصبی یک کنجکاوی بودند و برای انجام کارهای ساده بدتر از سایر روش‌ها، به قدرت گسترده رایانه‌ای نیاز داشتند. اما در دهه گذشته، از آنجایی که در دسترس بودن قدرت پردازش و مجموعه داده های گسترده افزایش یافته است، رویکردی که هینتون پیشگام بود در مرکز یک انقلاب تکنولوژیکی قرار گرفت.
او می‌گوید: «در تلاش برای فکر کردن به اینکه چگونه مغز می‌تواند الگوریتم پشت همه این مدل‌ها را پیاده‌سازی کند، به این نتیجه رسیدم که شاید نتواند – و شاید این مدل‌های بزرگ در واقع بسیار بهتر از مغز باشند.
او می‌گوید «هوش بیولوژیکی» مانند هوش ما، مزایایی دارد. با قدرت کم کار می کند، «فقط 30 وات، حتی زمانی که فکر می کنید» و «هر مغزی کمی متفاوت است». یعنی ما با تقلید از دیگران یاد می گیریم. اما این رویکرد از نظر انتقال اطلاعات “بسیار ناکارآمد” است. در مقابل، هوش دیجیتال یک مزیت بزرگ دارد: به اشتراک گذاشتن اطلاعات بین چندین نسخه بی اهمیت است. “شما هزینه هنگفتی از نظر انرژی می پردازید، اما وقتی یکی از آنها چیزی را یاد می گیرد، همه آنها آن را می دانند و شما به راحتی می توانید نسخه های بیشتری را ذخیره کنید. پس خبر خوب این است که ما راز جاودانگی را کشف کرده ایم. خبر بد این است که برای ما نیست.»
هنگامی که او پذیرفت که ما در حال ساختن هوش هایی با پتانسیل پیشی گرفتن از انسانیت هستیم، نتایج نگران کننده تری به دنبال داشت. فکر می‌کردم در نهایت این اتفاق می‌افتد، اما ما زمان زیادی داشتیم: 30 تا 50 سال. من فکر نمی کنم که دیگر. و من هیچ نمونه ای از چیزهای باهوش تر را نمی شناسم که توسط چیزهای باهوش کمتر کنترل می شود – حداقل از زمانی که بایدن انتخاب شد.
“شما باید باهوش تر از ما تصور کنید با همان تفاوت که ما باهوش تر از قورباغه هستیم. و قرار است از وب بیاموزد، هر کتابی را که در مورد چگونگی دستکاری مردم نوشته شده است را خوانده باشد، و همچنین آن را در عمل دیده باشد.”
او می گوید که اکنون فکر می کند که زمان بحران در پنج تا 20 سال آینده فرا خواهد رسید. اما من یک یا دو سال را رد نمی کنم. و من هنوز 100 سال را رد نمی‌کنم – فقط اعتماد به نفس من که مدتی طولانی اتفاق نیفتاده بود با درک اینکه هوش بیولوژیکی و هوش دیجیتال بسیار متفاوت هستند و هوش دیجیتال احتمالاً بسیار بهتر است متزلزل شد. ”
هنوز امیدی وجود دارد که پتانسیل هوش مصنوعی بیش از حد اعلام شود. من در حال حاضر با عدم اطمینان زیادی روبرو هستم. این امکان وجود دارد که مدل‌های زبان بزرگ، فناوری‌ای که زیربنای سیستم‌هایی مانند ChatGPT است، که تمام اسناد موجود در وب را مصرف می‌کنند، نتوانند خیلی بیشتر پیش بروند مگر اینکه بتوانند به همه داده‌های خصوصی ما نیز دسترسی داشته باشند. من نمی‌خواهم چنین چیزهایی را رد کنم – فکر می‌کنم افرادی که در این موقعیت مطمئن هستند دیوانه هستند.» با این حال، او می‌گوید، راه درست فکر کردن به احتمال فاجعه، بیش از آن چیزی است که ما دوست داشته باشیم، به یک پرتاب سکه ساده نزدیک‌تر است.
او استدلال می کند که این توسعه پیامد اجتناب ناپذیر فناوری در سرمایه داری است. این به این معنا نیست که گوگل بد بوده است. در واقع، گوگل پیشرو در این تحقیق است، پیشرفت های فنی اصلی که زمینه ساز این موج است، از طرف گوگل به دست آمد و تصمیم گرفت که آنها را مستقیماً برای عموم منتشر نکند. گوگل نگران همه چیزهایی بود که ما نگرانشان هستیم، شهرت خوبی دارد و نمی خواهد آن را به هم بزند. و من فکر می کنم که این یک تصمیم منصفانه و مسئولانه بود. اما مشکل این است که در یک سیستم سرمایه‌داری، اگر رقیب شما این کار را انجام دهد، شما نمی‌توانید کاری بکنید جز اینکه همین کار را انجام دهید.»
او گفته است که به سه دلیل تصمیم گرفت از کار خود در گوگل استعفا دهد. یکی از آنها به سادگی سن او بود: در 75 سالگی، او «در مسائل فنی به خوبی من نیست، و این بسیار آزاردهنده است که به خوبی شما نبوده است. بنابراین تصمیم گرفتم که زمان بازنشستگی از انجام کار واقعی فرا رسیده است.» اما به جای ماندن در یک موقعیت تشریفاتی با دستمزد خوب، او احساس کرد که مهم است که روابط خود را به طور کامل قطع کند، زیرا، «اگر در یک شرکت استخدام شده باشید، خودسانسوری اجتناب‌ناپذیر است. اگر من در Google استخدام می شوم، باید به این فکر کنم که “این چگونه بر کسب و کار گوگل تاثیر می گذارد؟” و دلیل دیگر این است که در واقع چیزهای خوبی وجود دارد که می‌خواهم در مورد گوگل بگویم، و اگر من در گوگل نباشم معتبرتر هستند.”
هینتون از زمانی که ترس‌هایش را در معرض دید عموم قرار داد، به دلیل پیروی نکردن برخی از همکارانش در ترک زودتر مورد انتقاد قرار گرفت. در سال 2020، تیمنیت گبرو، سرپرست فنی تیم هوش مصنوعی اخلاقی گوگل، پس از اختلاف بر سر یک مقاله تحقیقاتی که منجر به درگیری گسترده بر سر سیاست‌های تنوع و شمول شرکت شد، توسط این شرکت اخراج شد. نامه ای که توسط بیش از 1200 کارمند گوگل امضا شده بود، با اخراج مخالفت کرد و گفت: “این خبر خطری را برای افرادی که برای هوش مصنوعی اخلاقی و عادلانه در سراسر گوگل کار می کنند” است.
اما شکافی در بخش هوش مصنوعی وجود دارد که ریسک‌ها بر سر آن بیشتر است. هینتون می‌گوید: «ما در زمان عدم اطمینان بزرگی هستیم، و شاید بهتر باشد که اصلاً در مورد خطرات وجودی صحبت نکنیم تا از این چیزهای دیگر منحرف نشویم. [such as issues of AI ethics and justice]. اما پس از آن، چه می شود اگر چون ما در مورد آن صحبت نکردیم، این اتفاق بیفتد؟» او می‌گوید صرف تمرکز بر استفاده کوتاه‌مدت از هوش مصنوعی، برای حل مسائل اخلاقی و عدالتی موجود در فناوری امروز، لزوماً شانس بقای بشر را در کل بهبود نمی‌بخشد.
نه اینکه بداند چه خواهد شد. «من اهل سیاست نیستم. من فقط کسی هستم که ناگهان متوجه شده ام که خطر وقوع یک اتفاق بسیار بد وجود دارد. من می‌خواهم بهترین مغزهایی که در مورد هوش مصنوعی می‌دانند – نه فقط فیلسوفان، سیاستمداران و سیاستمداران بلکه افرادی که در واقع جزئیات آنچه را که در حال رخ دادن است، درک می‌کنند – به سختی درباره این مسائل فکر کنند. و بسیاری از آنها هستند، اما من فکر می کنم این چیزی است که باید روی آن تمرکز کنیم.
از زمانی که او برای اولین بار در روز دوشنبه صحبت کرد، درخواست‌های رسانه‌های جهان را هر دو دقیقه یک بار رد می‌کرد (او گفت که با آبان نیوز موافقت کرد، زیرا در 60 سال گذشته خواننده بوده است. او در دهه 60 از Daily Worker تغییر مکان داد). من سه نفر دارم که می خواهند با من صحبت کنند – برنی سندرز، چاک شومر و ایلان ماسک. اوه، و کاخ سفید. من همه آنها را تا زمانی که زمان بیشتری داشته باشم به تعویق می اندازم. فکر می‌کردم وقتی بازنشسته شدم، وقت زیادی برای خودم داشته باشم.»
در طول مکالمه ما، لحن خنده‌دار صدای او تا حدودی با پیام عذاب و نابودی که او ارائه میکند در تضاد است. از او می پرسم آیا دلیلی برای امیدواری دارد؟ اغلب اوقات، به نظر می رسد که مردم از موقعیت هایی بیرون می آیند که ناامید به نظر می رسیدند و خوب هستند. مانند سلاح های هسته ای: جنگ سرد با این سلاح های قدرتمند وضعیت بسیار بدی به نظر می رسید. مثال دیگر مسئله «سال 2000» است. چیزی شبیه به این خطر وجودی نبود، اما این واقعیت که مردم آن را زودتر از موعد دیدند و سر و صدای زیادی در مورد آن به راه انداختند به این معنی بود که مردم بیش از حد واکنش نشان دادند، که بسیار بهتر از واکنش کم بود.
“دلیل اینکه هرگز مشکلی نبود این است که مردم در واقع قبل از وقوع آن را مرتب کرده اند.”
این خبر از خبرگزاری های بین المللی معتبر گردآوری شده است و سایت اخبار امروز آبان نیوز صرفا نمایش دهنده است. آبان نیوز در راستای موازین و قوانین جمهوری اسلامی ایران فعالیت میکند لذا چنانچه این خبر را شایسته ویرایش و یا حذف میدانید، در صفحه تماس با ما گزارش کنید.
