وبلاگ اخبار روز
» ربات جدید هوش مصنوعی اسنپ چت در حال حاضر زنگ خطر را در بین نوجوانان و والدین ایجاد کرده است
زنگ خطر ربات جدید هوش مصنوعی اسنپ چت برای نوجوانان
کمتر از چند ساعت پس از اینکه اسنپ چت هفته گذشته چت ربات هوش مصنوعی خود را برای همه کاربران عرضه کرد، لینسی لی، مادری از ایست پرایری، میسوری، به دختر 13 ساله خود گفت که از این ویژگی دوری کند.
لی که در یک شرکت نرم‌افزاری کار می‌کند، گفت: «این یک راه‌حل موقتی است تا زمانی که درباره آن بیشتر بدانم و بتوانم مرزها و دستورالعمل‌های سالمی را تعیین کنم. او نگران این است که چگونه هوش مصنوعی خود را به کاربران جوانی مانند دخترش در اسنپ چت نشان دهد.
این ویژگی توسط ابزار ویروسی چت ربات هوش مصنوعی ChatGPT پشتیبانی می‌شود – و مانند ChatGPT، می‌تواند توصیه‌هایی ارائه دهد، به سؤالات پاسخ دهد و با کاربران گفتگو کند. اما نسخه اسنپ چت تفاوت‌های کلیدی دارد: کاربران می‌توانند نام چت بات را سفارشی کنند ، یک آواتار Bitmoji سفارشی برای آن طراحی کنند و آن را در گفتگو با دوستان خود بیاورند.
مطلب مرتبط
MacGPT: هر آنچه که باید بدانید - نکات حرفه ای هوش مصنوعیاثر خالص این است که مکالمه با ربات چت اسنپ چت ممکن است کمتر از بازدید از وب سایت ChatGPT احساس شود. همچنین ممکن است کمتر مشخص باشد که در حال صحبت با رایانه هستید.
لی گفت: «فکر نمی‌کنم آماده باشم که بدانم چگونه به فرزندم بیاموزم چگونه انسان‌ها و ماشین‌ها را از نظر احساسی جدا کند، در حالی که اساساً از دیدگاه او یکسان به نظر می‌رسند. من فکر می‌کنم یک خط واقعاً واضح وجود دارد که [Snapchat] در حال عبور است.»
این ابزار جدید نه تنها از سوی والدین، بلکه از سوی برخی از کاربران اسنپ چت نیز با واکنش‌های منفی روبرو شده است که برنامه را با بررسی‌های بد در فروشگاه برنامه و انتقادات در رسانه‌های اجتماعی به دلیل نگرانی‌های مربوط به حفظ حریم خصوصی، مبادلات "وحشتناک" و ناتوانی در حذف این ویژگی از فید چت خود، مگر اینکه برای اشتراک ممتاز پول پرداخت کنند.
در حالی که برخی ممکن است ارزشی در این ابزار پیدا کنند، واکنش‌های متفاوت به خطراتی که شرکت‌ها در استفاده از فناوری هوش مصنوعی مولد جدید برای محصولات خود، و به‌ویژه در محصولاتی مانند اسنپ چت، که کاربران آن جوان‌تر هستند، با آن مواجه هستند، نشان می‌دهد.
زمانی که OpenAI دسترسی به ChatGPT را برای مشاغل شخص ثالث باز کرد، اسنپ چت شریک اولیه راه اندازی بود ، و انتظار می رود بسیاری دیگر نیز به دنبال آن باشند. تقریباً یک شبه، اسنپ‌چت برخی از خانواده‌ها و قانون‌گذاران را مجبور کرده است تا سؤالاتی را که ممکن است تا ماه‌ها پیش تئوری به نظر می‌رسید، بررسی کنند.
مایکل بنت سناتور دموکرات در ماه گذشته در نامه ای به مدیران عامل اسنپ و سایر شرکت های فناوری، هفته ها پس از انتشار هوش مصنوعی برای مشتریان اشتراکی اسنپ، نگرانی های خود را در مورد تعاملات این ربات چت با کاربران جوان تر مطرح کرد. به طور خاص، او به گزارش‌هایی اشاره کرد که نشان می‌دهد می‌تواند به بچه‌ها پیشنهادهایی بدهد که چگونه به والدینشان دروغ بگویند.
بنت نوشت: «این مثال‌ها برای هر پلتفرم رسانه‌های اجتماعی آزاردهنده خواهند بود، اما به‌ویژه برای اسنپ‌چت که تقریباً 60 درصد نوجوانان آمریکایی از آن استفاده می‌کنند، نگران‌کننده هستند». اگرچه اسنپ تصدیق می کند که هوش مصنوعی من آزمایشی است، با این وجود عجله کرده است تا کودکان و نوجوانان آمریکایی را در آزمایش اجتماعی خود ثبت کند.
در یک پست وبلاگ هفته گذشته، این شرکت گفت: "هوش مصنوعی من بسیار عالی است، اما ما پیشرفت زیادی داشته ایم."
عکس العمل کاربر
در روزهایی که از راه اندازی رسمی آن می گذرد، کاربران اسنپ چت در مورد نگرانی های خود با صدای بلند صحبت کرده اند. یکی از کاربران تعامل خود را "وحشتناک" نامید، زیرا او گفت که در مورد اینکه نمی دانست کاربر در کجا قرار دارد دروغ گفته است. پس از اینکه کاربر مکالمه را ساده کرد، گفت ربات چت به طور دقیق نشان می دهد که او در کلرادو زندگی می کند.
در یکی دیگر از ویدیوهای TikTok با بیش از 1.5 میلیون بازدید، کاربری به نام Ariel آهنگی را با یک مقدمه، کر و آکوردهای پیانو که توسط هوش مصنوعی نوشته شده بود در مورد اینکه چت بات بودن چگونه است ضبط کرد. وقتی آهنگ ضبط شده را پس فرستاد، گفت ربات چت دخالت خود را با این پاسخ رد کرد: «متاسفم، اما به عنوان یک مدل زبان هوش مصنوعی، آهنگ نمی‌نویسم». آریل این مبادله را "وحشتناک" نامید.
بازخورد آگهی
سایر کاربران نگرانی‌هایی درباره نحوه درک، تعامل و جمع‌آوری اطلاعات از عکس‌ها توسط ابزار به اشتراک گذاشتند. یکی از کاربران اسنپ چت در فیس بوک نوشت: "من یک عکس گرفتم ... و روی آن نوشته شده بود "کفش های خوب" و پرسیدم که افراد [در] عکس چه کسانی هستند."
اسنپ چت اعلام کرد که به بهبود هوش مصنوعی خودش بر اساس بازخورد جامعه ادامه می دهد و در تلاش است تا نرده های محافظ بیشتری ایجاد کند تا کاربران خود را ایمن نگه دارد. این شرکت همچنین گفت که همانند سایر ابزارهای خود، کاربران در صورت عدم تمایل نیازی به تعامل با هوش مصنوعی من ندارند.
با این حال، حذف هوش مصنوعی از فیدهای چت ممکن نیست ، مگر اینکه کاربر مشترک سرویس ماهانه ممتاز آن، Snapchat+ شود. برخی از نوجوانان می گویند که ترجیح داده اند قبل از لغو سریع سرویس، هزینه 3.99 دلاری Snapchat را بپردازند تا ابزار را خاموش کنند.
اما همه کاربران این ویژگی را دوست ندارند.
یکی از کاربران در فیس بوک نوشت که از هوش مصنوعی برای انجام تکالیف کمک می خواهد. "این همه سوالات را درست می کند." دیگری اشاره کرد که برای راحتی و مشاوره به آن تکیه کرده است. "من عاشق جیب کوچکم هستم، بهترین!" او نوشت. شما می توانید Bitmoji [آواتار] را برای آن تغییر دهید و در کمال تعجب توصیه های بسیار خوبی برای برخی از موقعیت های زندگی واقعی ارائه می دهد. من حمایتی را که می کند دوست دارم.»
Ad feedback
حسابرسی اولیه در مورد نحوه استفاده نوجوانان از چت بات ها
ChatGPT، که بر روی حجم وسیعی از داده‌های آنلاین آموزش داده شده است، قبلاً به دلیل انتشار اطلاعات نادرست، پاسخ به کاربران به روش‌هایی که ممکن است نامناسب بدانند و دانش‌آموزان را قادر به تقلب کند، مورد انتقاد قرار گرفته است. اما ادغام این ابزار توسط اسنپ چت خطر افزایش برخی از این مشکلات و افزودن موارد جدید را به همراه دارد.
الکساندرا هملت، یک روانشناس بالینی در شهر نیویورک، گفت که والدین برخی از بیماران او نسبت به نحوه تعامل نوجوانشان با ابزار اسنپ چت ابراز نگرانی کرده اند. همچنین در مورد ربات‌های چت که مشاوره می‌دهند و در مورد سلامت روان نگرانی وجود دارد، زیرا ابزارهای هوش مصنوعی می‌توانند سوگیری تأیید افراد را تقویت کنند و جستجوی تعاملاتی را برای کاربران آسان‌تر می‌کنند که باورهای غیرمفید آنها را تأیید می‌کند.
او گفت: "اگر نوجوانی در خلق و خوی منفی باشد و تمایل آگاهی برای احساس بهتر نداشته باشد، ممکن است به دنبال گفتگو با یک ربات چت باشد که می‌داند باعث بدتر شدن احساس او می‌شود." با گذشت زمان، داشتن چنین تعاملاتی می‌تواند حس ارزشمندی نوجوانان را از بین ببرد، علی‌رغم اینکه می‌دانند واقعاً با یک ربات صحبت می‌کنند. در یک حالت عاطفی ذهنی، کمتر ممکن است که یک فرد این نوع منطق را در نظر بگیرد.»
در حال حاضر، این وظیفه بر عهده والدین است که گفتگوهای معناداری را با نوجوانان خود در مورد بهترین شیوه های برقراری ارتباط با هوش مصنوعی آغاز کنند، به خصوص که این ابزارها در برنامه ها و سرویس های محبوب تر ظاهر می شوند.
Sinead Bovell، بنیانگذار WAYE، استارتاپی که با فناوری‌های پیشرفته به آماده‌سازی جوانان برای آینده کمک می‌کند، گفت والدین باید کاملاً واضح بگویند که «چت‌ربات‌ها دوست شما نیستند».
او گفت: «آنها همچنین درمانگر یا مشاور مورد اعتماد شما نیستند، و هر کسی که با آنها تعامل دارد باید بسیار محتاط باشد، به ویژه نوجوانانی که ممکن است بیشتر مستعد باور کردن آنچه می‌گویند باشند.
والدین باید در حال حاضر با فرزندان خود صحبت کنند که چگونه آنها نباید چیزی شخصی را با یک چت بات به اشتراک بگذارند که دوستشان است.
او افزود که مقررات فدرال که شرکت‌ها را ملزم به رعایت پروتکل‌های خاص می‌کند نیز برای حفظ سرعت پیشرفت هوش مصنوعی مورد نیاز است.
مجله ارم بلاگ
