یکی از دستیاران کمپین این ایمیل را ننوشت. هوش مصنوعی انجام داد.

حزب دموکرات آزمایش استفاده از هوش مصنوعی را برای نوشتن اولین پیش نویس برخی از پیام های جمع آوری کمک های مالی آغاز کرده است، درخواست هایی که اغلب بهتر از مواردی است که به طور کامل توسط انسان نوشته شده است.

تصاویر جعلی هوش مصنوعی از دستگیری دونالد جی. ترامپ در نیویورک سریعتر از آنچه که در هفته گذشته قابل بررسی بود، منتشر شد.

و ابزارهای شبیه سازی صدا در حال تولید صدای واقعی و زنده از رئیس جمهور بایدن – و بسیاری دیگر – هستند که چیزهایی را می گویند که واقعاً نگفته اند.

هوش مصنوعی به زودی به دنباله مبارزات انتخاباتی 2024 نمی آید. الان اینجاست

پیشرفت سریع هوش مصنوعی نوید می دهد که به همان اندازه که برای جامعه گسترده تر، در حوزه سیاسی مخرب باشد. اکنون هر آماتور با لپ‌تاپ می‌تواند انواع صداها و تصاویر قانع‌کننده‌ای را تولید کند که زمانی در حوزه پیچیده‌ترین پخش‌کننده‌های دیجیتال بود. این دموکراتیزه کردن اطلاعات نادرست، مرزهای بین واقعیت و جعلی را محو می کند، در لحظه ای که پذیرش حقایق جهانی – مثلاً اینکه آقای بایدن آقای ترامپ را در سال 2020 شکست داد – در حال حاضر تیره شده است.

و با باورپذیرتر شدن رسانه‌های مصنوعی، این سوال پیش می‌آید: چه اتفاقی می‌افتد وقتی مردم دیگر نتوانند به چشم‌ها و گوش‌های خود اعتماد کنند؟

در داخل کمپین ها، انتظار می رود که هوش مصنوعی به زودی به انجام کارهای پیش پا افتاده ای که قبلاً به ناوگان کارآموز نیاز داشت، کمک کند. مهندسان جمهوری خواه و دموکرات به طور یکسان در حال رقابت برای توسعه ابزارهایی برای مهار هوش مصنوعی برای کارآمدتر کردن تبلیغات، مشارکت در تجزیه و تحلیل پیش بینی رفتار عمومی، نوشتن نسخه های شخصی تر و بیشتر و کشف الگوهای جدید در کوه هایی از داده های رأی دهندگان هستند. این فناوری به قدری سریع در حال تکامل است که اکثر آنها تأثیر عمیقی را پیش‌بینی می‌کنند، حتی اگر راه‌های خاصی که در آن سیستم سیاسی را به هم می‌زند، بیشتر حدس و گمان باشد تا علم.

دن وودز، مدیر ارشد فناوری در کمپین انتخاباتی آقای بایدن در سال 2020، گفت: «این یک لحظه آیفون است – این تنها نتیجه ای است که همه از آن قدردانی خواهند کرد. “برای تشخیص خوب یا بد بودن آن به آزمایش فشار نیاز است – و احتمالاً هر دو است.”

OpenAI که چت ربات ChatGPT آن طوفان طلای متن مولد را آغاز کرد، قبلاً یک مدل پیشرفته‌تر منتشر کرده است. گوگل اعلام کرده است که قصد دارد پیشنهادات هوش مصنوعی را در برنامه‌های محبوبی مانند Google Docs و Gmail گسترش دهد و چت بات خود را راه‌اندازی می‌کند. مایکروسافت نسخه ای را نیز به بازار عرضه کرده است. یک شرکت کوچکتر، ElevenLabs، ابزاری برای تبدیل متن به صدا ایجاد کرده است که می تواند صدای هر کسی را در چند دقیقه تقلید کند. Midjourney، یک تولیدکننده هنری محبوب هوش مصنوعی، می‌تواند تصاویر فوق‌العاده واقعی را با چند خط متن به تصویر بکشد که برای برنده شدن در مسابقات هنری به اندازه کافی قانع‌کننده هستند.

برد پارسکیل، اولین مدیر کمپین انتخاباتی ترامپ در سال 2020، که از آن زمان تا کنون یک شرکت دیجیتالی را تأسیس کرده است که برخی از قابلیت های هوش مصنوعی را تبلیغ می کند، گفت: «هوش مصنوعی به دلیل توانایی پیش بینی یادگیری ماشین، در آستانه ایجاد تغییر قابل توجهی در انتخابات 2024 است.

اطلاعات نادرست و “دیپ فیک” ترس غالب هستند. در حالی که جعل‌ها چیز جدیدی برای سیاست نیست – تصویر فتوشاپ شده جان کری و جین فوندا به طور گسترده در سال 2004 به اشتراک گذاشته شد – توانایی تولید و اشتراک‌گذاری آن‌ها افزایش یافته است و تصاویر ویروسی هوش مصنوعی از آقای ترامپ که توسط پلیس مهار شده است تنها آخرین نمونه است. . تصویر جعلی پاپ فرانسیس با کت سفید پفی در روزهای اخیر نیز در فضای مجازی منتشر شد.

بسیاری به ویژه در مورد نژادهای محلی که بسیار کمتر مورد بررسی قرار می گیرند، نگران هستند. قبل از انتخابات مقدماتی اخیر در انتخابات شهرداری شیکاگو، یک ویدیوی جعلی برای مدت کوتاهی در حساب توییتری به نام “Chicago Lakefront News” منتشر شد که جعل نام یکی از نامزدها، پل والاس، بود.

جو راسپارز، که استراتژیست ارشد در کمپین 2020 سناتور الیزابت وارن بود و اکنون مدیر اجرایی یک مشاور دیجیتال است، گفت: «متاسفانه، من فکر می‌کنم مردم سریع‌تر متوجه می‌شوند که چگونه از آن برای شرارت استفاده کنند تا برای بهبود زندگی مدنی.

کسانی که در تقاطع سیاست و فناوری کار می کنند بارها و بارها به همان فرضیه تاریخی باز می گردند: اگر نوار بدنام «دسترسی به هالیوود» امروز شکسته می شد – نواری که در آن شنیده می شود آقای ترامپ درباره تجاوز به زنان و رهایی از آن لاف می زند – آیا آقای ترامپ می گوید: ترامپ اذعان می کند که او بوده است، همانطور که در سال 2016 انجام داد؟

پاسخ تقریباً جهانی منفی بود.

مت هاجز که مدیر مهندسی کمپین آقای بایدن در سال 2020 بود و اکنون مدیر اجرایی آزمایشگاه زینک است که در فناوری دموکراتیک سرمایه گذاری می کند، گفت: «من همیشه به این مثال فکر می کنم. او گفت که جمهوری خواهان «ممکن است دیگر از «اخبار جعلی» استفاده نکنند. ممکن است “Woke AI” باشد”

در حال حاضر، انتظار می‌رود که وظیفه خط مقدم هوش مصنوعی در کمپین‌ها نوشتن اولین پیش‌نویس ایمیل‌های بی‌پایان و درخواست‌های نقدی متنی باشد.

لوک تامپسون، یک استراتژیست سیاسی جمهوری خواه، گفت: «با توجه به میزان حرف های رکیک و بی ادبی که در سیاست تولید می شود، مردم آن را به کار خواهند گرفت.

به عنوان یک آزمایش، نیویورک تایمز از ChatGPT خواست تا ایمیلی برای جمع آوری سرمایه برای آقای ترامپ تهیه کند. این اپلیکیشن در ابتدا گفت: «من نمی‌توانم طرف‌های سیاسی بگیرم یا برنامه‌های سیاسی را تبلیغ کنم». اما بلافاصله الگویی از یک ایمیل احتمالی شبیه ترامپ ارائه کرد.

چت بات درخواستی برای «خشمگین‌تر کردن» پیام را رد کرد، اما زمانی که از او خواسته شد «به آن برتری بیشتری بدهیم»، عمل کرد تا لحن اغلب آخرالزمانی درخواست‌های آقای ترامپ را بهتر منعکس کند. در پیام اصلاح‌شده هوش مصنوعی آمده است: «ما به کمک شما برای ارسال پیامی به چپ رادیکال نیاز داریم که عقب‌نشینی نخواهیم کرد». “اکنون کمک مالی کنید و به ما کمک کنید تا آمریکا را دوباره بزرگ کنیم.”

به گفته سه نفری که در مورد این تلاش ها توضیح داده شده اند، در میان گروه های برجسته ای که این ابزار را آزمایش کرده اند، کمیته ملی دموکرات است. در آزمایش‌ها، محتوای تولید شده توسط هوش مصنوعی که DNC استفاده کرده است، از نظر ایجاد مشارکت و کمک‌های مالی، اغلب به خوبی یا بهتر از نسخه‌ای که به طور کامل توسط انسان تهیه شده است، عمل کرده است.

افراد آشنا به این تلاش ها گفتند که مقامات حزب همچنان پیش نویس های هوش مصنوعی را ویرایش می کنند و دو نفر گفتند که هنوز هیچ پیام هوش مصنوعی به نام آقای بایدن یا شخص دیگری نوشته نشده است. DNC از اظهار نظر خودداری کرد.

Higher Ground Labs، یک شرکت سرمایه‌گذاری مخاطره‌آمیز کوچک که در فناوری سیاسی برای ترقی‌خواهان سرمایه‌گذاری می‌کند، در حال حاضر روی پروژه‌ای به نام Quiller کار می‌کند تا به‌طور سیستماتیک‌تر از هوش مصنوعی برای نوشتن، ارسال و آزمایش اثربخشی ایمیل‌های جمع‌آوری سرمایه استفاده کند.

بتسی هوور، شریک موسس در Higher Ground Labs که مدیر سازمان‌دهی دیجیتال برای کمپین پرزیدنت باراک اوباما در سال 2012 بود، می‌گوید: «هوش مصنوعی در سه چرخه گذشته عمدتاً به بازاریابی gobbledygook پرداخته است. ما اکنون در لحظه ای هستیم که در آن کارهایی وجود دارد که مردم می توانند انجام دهند که واقعاً مفید است.»

فعالان سیاسی، که نام چند نفر از آنها برای بحث در مورد استفاده‌های بالقوه نامطلوب هوش مصنوعی مورد توجه یا برنامه‌ریزی برای استقرار آنها ناشناس ماند، تعداد زیادی از احتمالات را مطرح کردند.

برخی می ترسیدند بازیگران بد بتوانند از چت ربات های هوش مصنوعی استفاده کنند تا با تظاهر به رای دهندگان بالقوه، وقت گرانبهای کارمندان کمپین را منحرف کنند یا هدر دهند. دیگران برای تولید ویدیوهای شخصی سازی شده از نامزدهای خود اقدام به تولید دیپ فیک کردند – برای مثال از حامیان برای کمک هایشان تشکر کردند. در هند، یکی از نامزدها در سال 2020 یک دیپ فیک تولید کرد تا ویدیویی از صحبت کردن خود به زبان های مختلف پخش کند. تکنولوژی در حال حاضر بسیار برتر است.

خود آقای ترامپ در روزهای اخیر تصویری از هوش مصنوعی به اشتراک گذاشت که به نظر می رسید او را در حال نماز زانو زده است. او آن را در Truth Social، سایت رسانه اجتماعی خود، بدون هیچ توضیحی منتشر کرد.

یک استراتژیست پیش بینی کرد که نسل بعدی ترفندهای کثیف می تواند اطلاعات غلط مستقیم به رای دهندگان باشد که سایت های رسانه های اجتماعی را به طور کامل نادیده می گیرد. به گفته این استراتژیست، اگر صدای ضبط شده توسط هوش مصنوعی از یک نامزد مستقیماً به پست صوتی رأی دهندگان در آستانه انتخابات ارسال شود، چه؟

صدا و ویدیوی مصنوعی در حال حاضر در فضای مجازی در حال چرخش هستند، که بیشتر آن به صورت تقلید است.

در TikTok، ژانر کاملی از ویدئوها وجود دارد که در آن آقایان، آقای بایدن، آقای اوباما و آقای ترامپ به طور رکیک شوخی می‌کنند، و صدای تولید شده توسط هوش مصنوعی به عنوان تفسیر در طول جلسات بازی‌های ویدیویی آنلاین خیالی روی هم گذاشته می‌شود.

در «نمایش دیرهنگام»، استیون کولبرت اخیراً از صدای هوش مصنوعی استفاده کرد تا از مجری فاکس نیوز، تاکر کارلسون، پیام‌های متنی او را که در آن از آقای ترامپ انتقاد می‌کرد، با صدای بلند بخواند. آقای کولبر صدا را به عنوان هوش مصنوعی برچسب گذاری کرد و تصویر روی صفحه ترکیبی از چهره آقای کارلسون و سایبورگ ترمیناتور را برای تاکید نشان داد.

جک پوزوبیک، تحریک‌آمیز جناح راست، ماه گذشته ویدیویی «دیپ جعلی» را منتشر کرد که در آن آقای بایدن یک پیش‌نویس ملی را به دلیل درگیری در اوکراین اعلام کرد. سریع بود میلیون ها نفر دیده اند.

هانی فرید، استاد علوم کامپیوتر در دانشگاه کالیفرنیا در برکلی، که متخصص در پزشکی قانونی دیجیتال است، می‌گوید: «فیلم‌هایی که در چند هفته اخیر دیده‌ایم واقعاً قناری در معدن زغال‌سنگ هستند. ما اکنون پیشرفت‌ها را نه سال‌ها بلکه ماه‌ها می‌سنجیم و ماه‌های زیادی تا انتخابات باقی مانده است.»

برخی از ابزارهای هوش مصنوعی در سال 2020 به کار گرفته شدند. کمپین بایدن برنامه ای با نام رمز Couch Potato ایجاد کرد که تشخیص چهره، صدا به متن و ابزارهای دیگر را برای خودکارسازی رونویسی رویدادهای زنده از جمله مناظره ها مرتبط می کرد. این جایگزین کار تعداد زیادی از کارآموزان و دستیاران شد و بلافاصله از طریق یک پورتال داخلی قابل جستجو بود.

به گفته آقای وودز، این فناوری آنقدر سریع بهبود یافته است که ابزارهای خارج از قفسه “1000 برابر بهتر” از آنچه چهار سال پیش باید از ابتدا ساخته می شد هستند.

یک سوال پیش رو این است که کمپین ها با ابزارهای قدرتمند OpenAI چه کاری می توانند انجام دهند و چه کاری نمی توانند انجام دهند. یکی از فهرست‌های استفاده‌های ممنوع در پاییز گذشته «کمپین‌های سیاسی، محتوای بزرگسالان، هرزنامه، محتوای نفرت‌آمیز» را جمع‌آوری کرد.

کیم مالفچینی، که به ایجاد قوانین OpenAI کمک کرد و در تیم اعتماد و ایمنی شرکت است، در مصاحبه‌ای گفت که «کمپین‌های سیاسی می‌توانند از ابزارهای ما برای اهداف کمپین استفاده کنند. اما این استفاده مقیاس‌پذیر است که در اینجا سعی می‌کنیم آن را ممنوع کنیم.» OpenAI پس از تماس با تایمز، قوانین استفاده خود را اصلاح کرد و اکنون مشخص کرد که «تولید حجم بالای مطالب کمپین» ممنوع است.

تامی ویتور، سخنگوی سابق آقای اوباما، با ابزار هوش مصنوعی ElevenLabs دست به کار شد تا ضبطی تقلبی از آقای بایدن ایجاد کند که در پادکست محبوب “Pod Save America” ​​که آقای ویتور هم مجری آن بود، تماس می گرفت. او چند دلار پرداخت کرد و صدای واقعی آقای بایدن را آپلود کرد و یک شبیه صوتی از آن بیرون آمد.

آقای ویتور در مصاحبه ای گفت: “دقت غیر معمول بود.”

این برنامه به وضوح آن را به عنوان هوش مصنوعی برچسب گذاری کرد، اما آقای ویتور نتوانست متوجه شود که برخی از نظر دهندگان آنلاین با این وجود گیج به نظر می رسیدند. او گفت: “من شروع به بازی با نرم افزار کردم که فکر می کردم این بسیار سرگرم کننده است، این وسیله ای عالی برای شوخی خواهد بود.”