سیستم های یادگیری ماشینی مشکل ساز هستند. به همین دلیل است که روسای فناوری آنها را “AI” می نامند | جان ناتون

Oیکی از مفیدترین متون برای هر کسی که صنعت فناوری را پوشش می دهد، مقاله مشهور جرج اورول، سیاست و زبان انگلیسی است. تمرکز اورول در این مقاله بر استفاده سیاسی از زبان بود تا، به قول خودش، «دروغ را درست جلوه دهد و قتل را محترمانه جلوه دهد و به باد خالص جلوه ای محکم بدهد». اما این تحلیل را می‌توان در مورد روش‌هایی نیز اعمال کرد که شرکت‌های معاصر زبان را برای منحرف کردن توجه از واقعیت‌های کثیف آنچه که در نظر دارند، منحرف می‌کنند.

صنعت فناوری به ویژه در این نوع مهندسی زبانی ماهر بوده است. برای مثال، «اشتراک‌گذاری»، کلیک کردن بر روی پیوندی برای گذاشتن دنباله داده‌ای است که می‌تواند برای اصلاح نمایه‌ای که شرکت در مورد شما نگهداری می‌کند، استفاده شود. شما “رضایت” خود را به یک پیشنهاد یک طرفه می دهید: با این شرایط موافقت کنید یا گم شوید. محتوا “تعدیل شده” است، نه سانسور. تبلیغ‌کنندگان با پیام‌های ناخواسته با شما تماس می‌گیرند. کارمندانی که اخراج می شوند «رها می شوند». محصولات معیوب “فراموش می شوند”. و غیره.

در حال حاضر، مخرب‌ترین تعبیر در فرهنگ لغت دو زبانه، هوش مصنوعی است که طی دو یا سه سال اخیر همه‌جا فراگیر شده است. در اصل، مخفف هوش مصنوعی است که توسط OED به عنوان «ظرفیت رایانه‌ها یا سایر ماشین‌ها برای نشان دادن یا شبیه‌سازی رفتار هوشمند» تعریف شده است. رشته تحصیلی مربوط به این موضوع». یک ابزار Ngram (که الگوهای استفاده از کلمات را نشان می دهد) نشان می دهد که تا دهه 1960 هوش مصنوعی و هوش مصنوعی کم و بیش مترادف بودند، اما پس از آن از هم جدا شدند و اکنون هوش مصنوعی در صنعت فناوری، رسانه های جمعی و دانشگاه ها بیداد می کند.

حالا چرا ممکن است اینطور باشد؟ بدون شک تنبلی با آن ارتباط دارد. به هر حال، دو حرف از نظر تایپی ساده تر از 22 هستند. اما این یک توجیه است، نه یک توضیح. اگر از دریچه اورولی به آن نگاه کنید، باید بپرسید: این فشرده سازی زبانی چه نوع کاری انجام می دهد؟ و برای چه کسی؟ و اینجاست که همه چیز جالب می شود.

به عنوان یک موضوع و مفهوم، هوش برای ما انسان ها بی نهایت جذاب است. ما قرن ها در مورد آن بحث می کنیم – چیست، چگونه آن را اندازه گیری کنیم، چه کسی آن را دارد (و چه کسی ندارد) و غیره. و از زمانی که آلن تورینگ پیشنهاد کرد که ماشین‌ها ممکن است توانایی تفکر و علاقه داشته باشند ساختگی هوش رشد کرده است و اکنون با حدس و گمان در مورد چشم انداز ماشین های فوق هوشمند – که گاهی اوقات به عنوان AGI (برای هوش عمومی مصنوعی) شناخته می شود، در تب و تاب است.

همه اینها جالب هستند اما ارتباط چندانی با آنچه صنعت فناوری هوش مصنوعی می نامد، که نام آن برای یادگیری ماشینی است، یک فناوری مخفیانه و فشرده کربن است که گاهی اوقات در حل مسائل پیچیده اما کاملاً تعریف شده خوب است. به عنوان مثال، سیستم‌های یادگیری ماشینی می‌توانند Go کلاس جهانی را بازی کنند، نحوه تا شدن مولکول‌های پروتئین را پیش‌بینی کنند و تجزیه و تحلیل سریع اسکن‌های شبکیه را برای شناسایی مواردی که نیاز به بررسی بیشتر توسط متخصص انسانی دارند، انجام دهند.

همه چیز خوب است، اما دلیل وسواس صنعت فناوری با این فناوری این است که آن را قادر می‌سازد ماشین‌هایی بسازد که از رفتار کاربران اینترنت بیاموزند تا پیش‌بینی کنند که در آینده چه کاری انجام می‌دهند و به‌ویژه چه چیزی را دوست دارند. ارزش دارد و ممکن است بخواهید بخرید. به همین دلیل است که روسای فناوری به داشتن “هوش مصنوعی در همه جا” در محصولات و خدمات خود می بالند. و به همین دلیل است که هر زمان که مارک زاکربرگ و همکارانش به دلیل ناتوانی در حفظ محتوای سمی از پلتفرم‌هایشان مورد حمله قرار می‌گیرند، همیشه پاسخ می‌دهند که هوش مصنوعی به زودی مشکل را حل خواهد کرد.

اما نکته اینجاست: صنعت اکنون به فناوری معتاد شده است که دارای معایب فنی و اجتماعی عمده ای است. CO₂ برای مثال، انتشارات ناشی از آموزش سیستم‌های بزرگ یادگیری ماشینی بسیار زیاد است. آن‌ها بسیار شکننده و مستعد خطا هستند که نمی‌توان در کاربردهای حیاتی ایمنی، مانند وسایل نقلیه خودران، به آنها اعتماد کرد. آنها دارای تعصبات نژادی، جنسیتی و قومیتی هستند (تا حدی به این دلیل که آنها تعصبات ضمنی را در داده هایی که بر اساس آنها آموزش دیده اند، گنجانده اند). و آنها به طور جبران ناپذیری غیرشفاف هستند – به این معنا که حتی سازندگان آنها اغلب نمی توانند توضیح دهند که ماشین های آنها چگونه به طبقه بندی ها یا پیش بینی ها می رسند – و بنابراین الزامات دموکراتیک پاسخگویی را برآورده نمی کنند. و این فقط برای شروع است.

بنابراین، صنعت چگونه به این واقعیت کثیف می پردازد که مزرعه را روی یک فناوری قدرتمند اما مشکل ساز شرط بندی کرده است؟ پاسخ: با اجتناب از نامیدن آن به نام واقعی و در عوض قرار دادن آن در نامی که به این معنی است که به نوعی، همه اینها بخشی از یک پروژه عاشقانه بزرگتر و بزرگتر است – تلاش برای هوش مصنوعی. همانطور که اورول ممکن است بیان کند، این روش صنعت برای دادن “ظاهر استحکام به باد خالص” در حالی است که به تجارت واقعی ثروت آفرینی ادامه می دهد.

چیزی که من خوانده ام

به آنها یک بونو پرتاب کنید
گزیده ای جذاب از زندگی نامه خواننده U2، منتشر شده در اهل نیویورک.

توییتر شما نه؟
به جهنم خوش آمدید، ایلان یک آموزش سریع و خوب برای آخرین غول رسانه ای جهان در وب سایت Verge است.

یک ذهن مغرور
نمایه دوست داشتنی راجر هایفیلد در سایت Aeon دانشمند بزرگ آب و هوا، جیمز لاولاک.