اسکن تصویر گوگل نشان می دهد که چگونه شرکت های فناوری می توانند افراد بی گناه را جریمه کنند | جان ناتون

اچیک سناریوی فرضی است شما پدر و مادر یک کودک نوپا، یک پسر کوچک هستید. آلت تناسلی او به دلیل عفونت متورم شده است و به او آسیب می رساند. شما با پزشک عمومی تماس می گیرید و در نهایت به پرستار مطب مراجعه می کنید. پرستار به شما پیشنهاد می کند از ناحیه آسیب دیده عکس بگیرید و آن را ایمیل کنید تا بتواند با یکی از پزشکان مشورت کند.

بنابراین شما گوشی سامسونگ خود را بیرون بیاورید، چند عکس بگیرید و آنها را ارسال کنید. مدت کوتاهی بعد، پرستار تلفن می‌زند و می‌گوید که پزشک عمومی آنتی‌بیوتیک‌هایی تجویز کرده است که می‌توانید از داروخانه جراحی تهیه کنید. شما آنجا رانندگی می‌کنید، آنها را برمی‌دارید و بعد از چند ساعت ورم شروع به کاهش می‌کند و پسر شما در حال هیجان است. هراس تمام شد

دو روز بعد، پیامی از طرف گوگل در گوشی خود پیدا می کنید. حساب شما به دلیل «محتوای مضر» که «نقض شدید خط‌مشی‌های Google بوده و ممکن است غیرقانونی باشد» غیرفعال شده است. شما روی پیوند “بیشتر بیاموزید” کلیک کنید و فهرستی از دلایل احتمالی از جمله “آزار و بهره‌کشی جنسی از کودکان” را پیدا کنید. ناگهان، سکه کاهش می یابد: گوگل فکر می کند که عکس هایی که شما ارسال کرده اید، کودک آزاری است!

مهم نیست – فرمی وجود دارد که می توانید با پر کردن آن شرایط را توضیح دهید و از Google بخواهید تصمیم خود را لغو کند. در این مرحله متوجه می شوید که دیگر جیمیل ندارید، اما خوشبختانه یک حساب ایمیل قدیمی دارید که هنوز کار می کند، بنابراین از آن استفاده می کنید. با این حال، اکنون دیگر به دفترچه خاطرات، دفترچه آدرس و تمام اسناد کاری که در Google Docs نگه داشته اید، دسترسی ندارید. همچنین نمی توانید به عکس یا ویدیویی که تا به حال با تلفن خود گرفته اید دسترسی داشته باشید، زیرا همه آنها در سرورهای ابری Google قرار دارند – که دستگاه شما به طور متفکرانه (و به طور خودکار) آنها را آپلود کرده است.

مدت کوتاهی پس از آن، پاسخ Google را دریافت می کنید: این شرکت حساب شما را بازیابی نمی کند. توضیحی ارائه نشده است. دو روز بعد، در می زند. بیرون دو افسر پلیس هستند، یکی مرد، یکی زن. آنها اینجا هستند زیرا شما مظنون به نگهداری و انتقال تصاویر غیرقانونی هستید.

کابوس وار، نه؟ اما حداقل فرضی است. با این تفاوت که اینطور نیست: این اقتباسی است برای یک بافت بریتانیایی از آنچه برای “مارک”، پدری در سانفرانسیسکو اتفاق افتاد، همانطور که اخیراً به وضوح در نیویورک تایمز توسط روزنامه نگار برجسته فناوری کشمیر هیل. و تا زمان نوشتن این ستون، مارک هنوز حساب Google خود را پس نگرفته است. البته که ایالات متحده است، او این گزینه را دارد که از گوگل شکایت کند – همانطور که او این گزینه را دارد که باغ خود را با یک قاشق چای خوری کند.

پس‌زمینه این امر این است که پلتفرم‌های فناوری، خوشبختانه، در اسکن سرورهای خود برای تصاویر سوء استفاده از کودکان سخت‌تر شده‌اند. اما به دلیل تعداد غیرقابل تصور تصاویری که در این پلتفرم‌ها نگهداری می‌شوند، اسکن و شناسایی باید توسط سیستم‌های یادگیری ماشینی، به کمک ابزارهای دیگر (مانند برچسب‌گذاری رمزنگاری شده تصاویر غیرقانونی، که آنها را فوراً در سراسر جهان قابل تشخیص است) انجام شود.

همه اینها عالی است. با این حال، مشکل سیستم‌های تشخیص خودکار این است که آن‌ها همواره نسبتی از «مثبت‌های غلط» را منتشر می‌کنند – تصاویری که یک هشدار را نشان می‌دهند اما در واقع بی‌ضرر و قانونی هستند. اغلب این به این دلیل است که ماشین‌ها در درک زمینه وحشتناک هستند، کاری که در حال حاضر فقط انسان‌ها می‌توانند انجام دهند. هیل در تحقیق در مورد گزارش خود، عکس هایی را دید که مارک از پسرش گرفته بود. او می نویسد: “تصمیم برای پرچم گذاری آنها قابل درک بود.” «آنها عکس های صریح اندام تناسلی یک کودک هستند. اما زمینه مهم است: آنها توسط والدینی که نگران یک کودک بیمار بودند گرفته شدند.

بر این اساس، اکثر پلتفرم‌ها افراد را به کار می‌گیرند تا تصاویر مشکل‌ساز را در زمینه‌های خود بررسی کنند و تعیین کنند که آیا آنها اقدامات بیشتری را ضروری می‌کنند یا خیر. نکته جالب در مورد پرونده سانفرانسیسکو این است که تصاویر بود توسط یک انسان بازبینی شد، که تصمیم گرفت آنها بی گناه هستند، همانطور که پلیس، که تصاویر نیز به آنها ارجاع داده شد. و با این حال، با وجود این، گوگل بر تصمیم خود مبنی بر تعلیق حساب کاربری او ایستاد و درخواست تجدید نظر او را رد کرد. می‌تواند این کار را انجام دهد زیرا مالک این پلتفرم است و هر کسی که از آن استفاده می‌کند روی توافق‌نامه کلیک کرده تا شرایط و ضوابط آن را بپذیرد. از این نظر، هیچ تفاوتی با فیس بوک/متا، اپل، آمازون، مایکروسافت، توییتر، لینکدین، پینترست و بقیه ندارد.

این ترتیب تا زمانی که کاربران از خدمات و نحوه ارائه آن راضی باشند به خوبی کار می کند. اما لحظه ای که یک کاربر تصمیم می گیرد که توسط پلتفرم مورد بدرفتاری یا سوء استفاده قرار گرفته است، در یک سیاه چاله قانونی قرار می گیرد. اگر شما یک توسعه‌دهنده اپلیکیشن هستید که احساس می‌کنید با مالیات 30 درصدی اپل به‌عنوان قیمت فروش در آن بازار تحت فشار قرار گرفته‌اید، دو انتخاب دارید: پرداخت یا خفه کردن. به همین ترتیب، اگر در بازار آمازون فروش سودآوری داشته‌اید و ناگهان متوجه می‌شوید که این پلتفرم اکنون یک محصول قابل مقایسه ارزان‌تر را تحت برچسب خود می‌فروشد، خوب… سخت است. مطمئناً می‌توانید شکایت کنید یا درخواست تجدیدنظر کنید، اما در نهایت سکو، قاضی، هیئت منصفه و جلاد است. دموکراسی ها این را در هیچ حوزه دیگری از زندگی تحمل نمی کنند. پس چرا پلتفرم های فناوری استثنا هستند؟ آیا زمان آن نرسیده است که نباشند؟

چیزی که من خوانده ام

عکس خیلی بزرگه؟
نقد جالبی توسط ایان هسکت در مجله دیجیتالی Aeon وجود دارد که نشان می‌دهد چگونه یووال نوح هراری و همراهانش تاریخ بشر را در یک داستان برای همه قرار می‌دهند، با عنوان آنچه که تاریخ بزرگ از دست می‌دهد.

1-2-3، رفت…
Passing of Passwords یک آگهی ترحیم خوب برای رمز عبور توسط استاد هویت دیجیتال دیوید GW Birch در Substack خود است.

اخطار
گری مارکوس نقدی زیبا از مشکلات پروژه ربات جدید گوگل در Substack خود نوشته است.