پرسش و پاسخ: چرا ربات‌های گفتگوی سلامت روان به نرده‌های ایمنی سخت‌گیرانه نیاز دارند

سلامت روان همچنان یک تمرکز بالینی پیشرو برای سرمایه گذاران سلامت دیجیتال رقابت زیادی در این فضا وجود دارد، اما هنوز هم یک چالش بزرگ برای سیستم مراقبت های بهداشتی است: بسیاری از آمریکایی ها در مناطقی زندگی می کنند که کمبود متخصصان بهداشت روانی دارند و دسترسی به مراقبت را محدود می کند.

Wysa، سازنده یک چت ربات مبتنی بر هوش مصنوعی که هدف آن کمک به کاربران با وجود نگرانی هایی مانند اضطراب، استرس و خلق و خوی ضعیف است، اخیرا اعلام کرد 20 میلیون دلار بودجه سری B جمع آوری شد، مدت کوتاهی پس از اینکه استارت‌آپ موفق به دریافت نام دستگاه FDA شد تا از ابزار خود برای کمک به بزرگسالان مبتلا به دردهای اسکلتی- عضلانی مزمن استفاده کند.

راماکانت ومپاتی، موسس و رئیس شرکت، با او به گفتگو نشست MobiHealthNews برای بحث در مورد نحوه عملکرد ربات چت، نرده‌هایی که Wysa برای نظارت بر ایمنی و کیفیت استفاده می‌کند، و بعد از آخرین دور بودجه‌اش چه اتفاقی می‌افتد.

موبی سلامت نیوز: به نظر شما چرا چت بات ابزار مفیدی برای اضطراب و استرس است؟

راماکانت ومپاتی: دسترسی به آن ارتباط زیادی دارد. در اوایل سفر ویسا، بازخوردی از یک زن خانه دار دریافت کردیم که گفت: “ببین، من این راه حل را دوست دارم زیرا با خانواده ام جلوی تلویزیون نشسته بودم و یک جلسه کامل CBT را انجام دادم. [cognitive behavioral therapy]و هیچ کس نباید بداند.”

من فکر می کنم واقعا حریم خصوصی، ناشناس بودن و دسترسی است. از نقطه نظر محصول، کاربران ممکن است مستقیماً به آن فکر کنند یا نکنند، اما ایمنی و نرده‌های محافظی که برای اطمینان از مناسب بودن آن برای هدف در آن زمینه سلامتی در محصول ایجاد کرده‌ایم، بخش مهمی از ارزشی است که ارائه می‌کنیم. . فکر می کنم اینطوری فضای امنی ایجاد می کنید.

در ابتدا، زمانی که ما Wysa را راه اندازی کردیم، کاملاً مطمئن نبودم که چگونه این کار انجام می شود. وقتی در سال 2017 به صورت زنده پخش شدیم، اینطور گفتم: “آیا مردم واقعاً با یک چت بات درباره عمیق ترین و تاریک ترین ترس های خود صحبت خواهند کرد؟” شما از چت بات ها در زمینه خدمات مشتری، مانند وب سایت بانک، استفاده می کنید، و صادقانه بگویم، تجربه بسیار مورد نظر باقی می ماند. بنابراین، من کاملاً مطمئن نبودم که چگونه این مورد دریافت خواهد شد.

فکر می‌کنم پنج ماه پس از راه‌اندازی، این ایمیل را از دختری دریافت کردیم که می‌گفت وقتی هیچ کس دیگری نبود اینجا آنجا بود و این به نجات جان او کمک کرد. او نمی توانست با هیچ کس دیگری صحبت کند، یک دختر 13 ساله. و زمانی که این اتفاق افتاد، فکر می‌کنم این زمانی بود که این پنی، شخصاً برای من، به‌عنوان یک بنیان‌گذار کاهش یافت.

از آن زمان، ما یک تکامل سه مرحله‌ای را طی کرده‌ایم که از یک ایده به یک مفهوم به یک محصول یا کسب‌وکار تبدیل می‌شود. من فکر می‌کنم فاز یک به خودمان ثابت کرده‌ایم، واقعاً خودمان را متقاعد کرده‌ایم که کاربران آن را دوست دارند و از خدمات ارزش می‌گیرند. من فکر می کنم فاز دو برای اثبات این موضوع از نظر نتایج بالینی بوده است. بنابراین، اکنون 15 مورد بررسی شده داریم نشریاتی که در حال حاضر منتشر شده یا در حال اجرا هستند. ما در شش کارآزمایی کنترل تصادفی با شرکای مانند NHS و هاروارد شرکت داریم. و سپس، ما برای کار خود در مورد دردهای مزمن، نام دستگاه پیشرفت FDA را داریم.

من فکر می‌کنم همه اینها برای اثبات و ایجاد آن پایگاه شواهد است، که به دیگران اطمینان می‌دهد که این کار می‌کند. و سپس، فاز سه آن را به مقیاس تبدیل می کند.

MHN: شما به نرده های محافظ در محصول اشاره کردید. آیا می توانید آن ها را توصیف کنید؟

ومپاتی: شماره 1 این است که وقتی مردم در مورد هوش مصنوعی صحبت می کنند، تصورات غلط زیادی وجود دارد و ترس زیادی وجود دارد. و البته شک و تردیدهایی وجود دارد. کاری که ما با Wysa انجام می دهیم این است که هوش مصنوعی به یک معنا در یک جعبه قرار می گیرد.

جایی که از NLP استفاده می کنیم [natural language processing]، ما از NLU، درک زبان طبیعی استفاده می کنیم تا زمینه کاربر را درک کنیم و بفهمیم آنها در مورد چه چیزی صحبت می کنند و به دنبال چه هستند. اما زمانی که به کاربر پاسخ می دهد، یک پاسخ از پیش برنامه ریزی شده است. مکالمه توسط پزشکان نوشته شده است. بنابراین، ما تیمی از پزشکان در کارکنان داریم که در واقع محتوا را می نویسند، و ما به صراحت آن را آزمایش می کنیم.

بنابراین، بخش دوم این است که با توجه به اینکه ما از مدل‌های مولد استفاده نمی‌کنیم، همچنین بسیار آگاه هستیم که هوش مصنوعی هرگز آنچه را که کسی می‌گوید 100% نمی‌گیرد. همیشه مواردی وجود خواهد داشت که افراد چیزی مبهم می گویند، یا از جملات تودرتو یا پیچیده استفاده می کنند و مدل های هوش مصنوعی نمی توانند آنها را بگیرند. در این زمینه، هر زمان که ما در حال نوشتن یک اسکریپت هستیم، شما با این هدف می نویسید که وقتی متوجه نمی شوید کاربر چه می گوید، پاسخ تحریک نمی شود، آسیبی به آن وارد نمی شود.

برای انجام این کار، یک پروتکل تست بسیار رسمی نیز داریم. و ما از استاندارد ایمنی استفاده شده توسط NHS در بریتانیا پیروی می کنیم. مجموعه داده های ایمنی بالینی بزرگی داریم که از آن استفاده می کنیم زیرا اکنون 500 میلیون مکالمه در این پلت فرم داشته ایم. بنابراین، ما مجموعه عظیمی از داده های مکالمه داریم. ما زیرمجموعه ای از داده ها داریم که می دانیم هوش مصنوعی هرگز نمی تواند آنها را بگیرد. هر بار که یک اسکریپت مکالمه جدید ایجاد می کنیم، سپس با این مجموعه داده آزمایش می کنیم. اگر کاربر این چیزها را بگوید چه می شود؟ پاسخ چه خواهد بود؟ و سپس، پزشکان ما به پاسخ و گفتگو نگاه می کنند و قضاوت می کنند که آیا پاسخ مناسب است یا خیر.

MHN: وقتی سری B خود را معرفی کردید، Wysa گفت که می خواهد پشتیبانی زبان بیشتری را اضافه کند. چگونه تعیین می کنید که کدام زبان ها را شامل شود؟

ومپاتی: در روزهای اولیه Wysa، ما عادت داشتیم افرادی را بنویسند و داوطلبانه ترجمه کنند. یک نفر از برزیل نوشتیم و گفت: “ببین، من دوزبانه هستم، اما همسرم فقط پرتغالی صحبت می کند. و من می توانم برای شما ترجمه کنم.”

بنابراین، سوال سختی است. دلتان می سوزد، به خصوص برای زبان های کم منبع که در آن مردم پشتیبانی نمی شوند. اما برای ترجمه نه تنها کار زیادی لازم است، بلکه تقریباً اقتباسی است. تقریباً شبیه ساختن یک محصول جدید است. بنابراین، شما باید در مورد آنچه بر عهده می گیرید بسیار مراقب باشید. و این فقط یک ترجمه ثابت و یکباره نیست. شما باید دائماً آن را تماشا کنید، مطمئن شوید که ایمنی بالینی وجود دارد، و در طول زمان تکامل می‌یابد و بهبود می‌یابد.

بنابراین، از این منظر، چند زبان وجود دارد که ما در نظر داریم، که عمدتاً ناشی از تقاضای بازار و مکان‌هایی است که در آنها قوی هستیم. بنابراین، این ترکیبی از بازخورد بازار و اولویت‌های استراتژیک، و همچنین آنچه محصول می‌تواند از عهده آن برآید، مکان‌هایی است که استفاده از هوش مصنوعی در آن زبان خاص با ایمنی بالینی آسان‌تر است.

MHN: شما همچنین اشاره کردید که به دنبال ادغام با سرویس پیام رسانی WhatsApp هستید. این ادغام چگونه کار می کند؟ چگونه نگرانی های حفظ حریم خصوصی و امنیتی را مدیریت می کنید؟

ومپاتی: واتس اپ در حال حاضر یک مفهوم بسیار جدید برای ما است و ما در حال بررسی آن هستیم. ما از الزامات حریم خصوصی بسیار بسیار آگاه هستیم. واتس اپ به خودی خود رمزگذاری شده است، اما اگر پرده ناشناس بودن را بشکنید، چگونه این کار را به شیوه ای مسئولانه انجام می دهید؟ و چگونه مطمئن می شوید که تمام استانداردهای نظارتی را نیز رعایت می کنید؟ اینها همه مکالمات در حال حاضر در حال انجام است.

اما من فکر می‌کنم، در این مرحله، چیزی که واقعاً می‌خواهم برجسته کنم این است که ما این کار را با دقت انجام می‌دهیم. احساس هیجان زیادی در مورد فرصت واتس اپ وجود دارد، زیرا در بخش های بزرگی از جهان، این وسیله اصلی ارتباط است. در آسیا، در آفریقا.

افرادی را در جوامعی تصور کنید که در آنها از حمایت بهداشت روانی برخوردار نیستید. از نقطه نظر تاثیر، این یک رویا است. اما مرحله اولیه است