ممنون از اربابان کسی نگران سیستم های تسلیحاتی کنترل شده با هوش مصنوعی است | جان ناتون

تیجالب‌ترین تلویزیونی که اخیراً تماشا کرده‌ام، نه از یک کانال تلویزیونی معمولی و نه حتی از نتفلیکس، بلکه از پوشش تلویزیونی پارلمان آمده است. این یک جلسه ضبط شده از جلسه کمیته منتخب هوش مصنوعی در سیستم های تسلیحاتی مجلس اعیان بود که برای تحقیق در مورد “چگونه باید سلاح های خودران توسعه، استفاده و تنظیم شوند” تشکیل شده بود. جلسه خاصی که من به آن علاقه مند بودم، جلسه ای بود که در 20 آوریل برگزار شد، که طی آن کمیته از چهار شاهد خبره – کنت پین، استاد استراتژی در کینگز کالج لندن شنید. کیت دیر، مدیر نوآوری هوش مصنوعی در شرکت کامپیوتری فوجیتسو؛ جیمز بلک از گروه تحقیقات دفاعی و امنیتی رند اروپا؛ و کورتنی بومن، مدیر جهانی مهندسی حریم خصوصی و آزادی های مدنی در Palantir UK. من فکر کردم یک ترکیب جالب – و اینطور هم شد.

سیستم های تسلیحاتی خودمختار آنهایی هستند که می توانند هدف را بدون دخالت انسان انتخاب و به آن حمله کنند. اعتقاد بر این است (و نه فقط توسط تقویت کننده های آنها) که این سیستم ها می توانند جنگ را متحول کنند و ممکن است سریع تر، دقیق تر و انعطاف پذیرتر از سیستم های تسلیحاتی موجود باشند. و اینکه آنها می توانند حتی تلفات جنگ را محدود کنند (البته وقتی آن را ببینم باور خواهم کرد).

نکته قابل توجه در مورد جلسه (به هر حال برای این مقاله نویس) این بود که اگرچه ظاهراً در مورد استفاده نظامی از هوش مصنوعی در جنگ بود، اما بسیاری از مسائل و سوالاتی که در دو ساعت بحث مطرح شد می توانست به همان اندازه در این جلسه مطرح شود. بحث در مورد استقرار غیرنظامی این فناوری سؤالاتی در مورد ایمنی و قابلیت اطمینان، برای مثال، یا حاکمیت و کنترل. و البته در مورد مقررات.

بسیاری از جالب ترین تبادلات در مورد همین موضوع آخر بود. لرد براون از لیدیتون در یک نقطه با نارضایتی گفت: «ما فقط باید بپذیریم که هرگز با این فناوری روبرو نخواهیم شد. ما همیشه سعی می کنیم به عقب برسیم. و اگر تجربه ثابت ما از توسعه سیاست های عمومی حفظ شود – و خواهد شد – آنگاه فناوری با سرعت نور و ما با سرعت یک لاک پشت پیش خواهیم رفت. و این دنیایی است که ما در آن زندگی می کنیم.»

این باعث ناراحتی استاد در پانل شد. او گفت: “به طور غریزی، من تمایلی به گفتن این موضوع ندارم.” من با این استدلال موافق نیستم که یک دانشگاهی به عنوان جبر تکنولوژیکی خلاصه می شود – نادیده گرفتن انواع عوامل نهادی و فرهنگی که در شکل دادن به چگونگی توسعه هوش مصنوعی جوامع در هر جامعه نقش دارند، اما مطمئناً چالش برانگیز خواهد بود و من این کار را نمی کنم. فکر نمی کنم ترتیبات نهادی موجود برای انجام این نوع بحث ها کافی باشد.»

به عبارت «چالش‌انگیز» توجه کنید. همچنین در بحث های غیرنظامی در مورد حاکمیت/تنظیمات هوش مصنوعی، جایی که تعبیری برای “غیرممکن” است، همه جا وجود دارد.

بنابراین، براون پاسخ داد، ما باید فناوری را «در داخل» (یعنی تحت کنترل دولت) بیاوریم؟

در آن نقطه، مردی از فوجیتسو به طور غیرمستقیم اظهار داشت که “هیچ چیز به اندازه آوردن آن به دولت پیشرفت هوش مصنوعی را کاهش نمی دهد”. نشانه خنده.

سپس مسئله اشاعه، یک مشکل همیشگی در کنترل تسلیحات مطرح شد. فراگیر بودن هوش مصنوعی چگونه آن را تغییر می دهد؟ مرد اهل رند گفت: بسیار عالی. “کنترل بسیاری از چیزها از منظر عدم اشاعه، به دلیل ماهیت ذاتی مبتنی بر نرم افزار، بسیار دشوار خواهد بود. بسیاری از کنترل‌های صادراتی ما و رژیم‌های منع اشاعه‌ای که وجود دارد، بسیار بر سخت‌افزار سنتی قدیمی متمرکز هستند: موشک‌ها، موتورها، مواد هسته‌ای.»

بله و همچنین پهپادهای مصرفی هستند که از آمازون می‌خرید و برای مقاصد نظامی مانند پرتاب نارنجک به سربازان روسی در سنگرها در اوکراین استفاده می‌کنید.

به طور کلی، این یک جلسه روشنگر بود، یک نمونه نمونه از اینکه دموکراسی مشورتی چگونه باید باشد: مؤدب، سنجیده، آگاه، محترمانه. و باعث تأملات در مورد این واقعیت شد که بهترین و متفکرانه‌ترین بحث‌ها در مورد مسائل دشواری که در این پادشاهی غمگین صورت می‌گیرد، نه در مجلس منتخب آن، بلکه در ناهنجاری قانون اساسی که مجلس اعیان است، اتفاق می‌افتد.

من اولین بار در دوره اول تونی بلر متوجه این موضوع شدم، زمانی که برخی از ما در تلاش برای جلب توجه نمایندگان مجلس به قانون تنظیم اختیارات تحقیقی بودیم، سپس توسط وزیر کشور، جک استراو، و زیر دستش چارلز کلارک، از طریق پارلمان تحت نظارت قرار گرفتیم. سپس متوجه شدیم که از 650 عضو مجلس عوام، تنها تعداد انگشت شماری به آن قانون معیوب علاقه نشان دادند. (بیشتر آنها برمید وزارت کشور را پذیرفته بودند که فقط شنود تلفن را وارد عصر دیجیتال می کند.) از اینکه متوجه شدم تنها قانونگذارانی که توانسته اند این لایحه را در مسیر رسیدن به کتاب اساسنامه بهبود بخشند، شگفت زده شدم، گروه کوچکی از آنها بودند. ناهنجاری های اختصاصی قانون اساسی در اربابان که زمان و تلاش زیادی را صرف کردند تا کمتر از آنچه در غیر این صورت بود نقص داشته باشند. این یک کار ناسپاس بود، و دیدن آنها در انجام آن الهام بخش بود. و به همین دلیل است که از تماشای آنها در حال انجام دوباره آن 10 روز پیش لذت بردم.

چیزی که من خوانده ام

کسری دمکراتیک
یک پست داغ توسط اسکات گالووی در وبلاگ No Mercy/No Malice، Guardrails، شکست فاجعه‌بار دولت‌های دموکراتیک در تنظیم مقررات شرکت‌های فناوری را نشان می‌دهد.

آن کلیدها را بزنید
بری سندرز یک مقاله دوست داشتنی در این مقاله نوشته است کابینه مجله روی ماشینی که نوشتن را مکانیزه کرد.

همه گپ زدند
من ChatGPT هستم، و برای عشق به خدا، لطفاً مرا مجبور نکنید بیشتر انجام دهم، کپی رایتینگ یک جعل خوب توسط جو ولمن در مک سوئینی است.