نظرات توهین آمیز در اینستاگرام با هوش مصنوعی مدیریت خواهند شد

0 35

یکی از بخش های چالش برانگیز مدیریت هر فضای عمومی، عملکرد عموم مردم در آن است. نظرات، یکی از بخش هایی است که در شبکه های اجتماعی و فضای مجازی کنترل سختی دارد. اینستاگرام جهت مقابله با نظرات توهین آمیز و ناشایستی که در بین کاربران رد و بدل می شود، ویژگی های جدیدی را راه اندازی کرده که با استفاده از هوش مصنوعی عمل می کنند. در ادامه با ما همراه باشید تا درباره آن صحبت کنیم.

نظرات توهین آمیز و قلدری آنلاین، یک مسئله پیچیده است. چندین سال است که اینستاگرام تلاش می کند تا با استفاده از هوش مصنوعی، قلدری و سایر محتویات آزاردهنده در نظرات، تصاویر و ویدیوها را تشخیص دهد. این موضوع، از اهمیت خاصی برای نوجوانان برخوردار است، چراکه آن ها نسبت به سایر کاربران آسیب پذیرتر هستند. تیم اینستاگرام در این راستا دو ویژگی جدید را معرفی کرده است.

اولین ویژگی، از هوش مصنوعی جهت تشخیص خودکار نوشته های آزاردهنده و نظرات توهین آمیز استفاده می کند. پس از نوشتن چنین نظرd توسط یک کاربر، اپلیکیشن به طور خودکار از وی می خواهد تا درباره ارسال آن، تجدیدنظر کند. به این ترتیب، به کاربر فرصت داده می شود تا نوشته خود را اصلاح کرده و یا آن را حذف کند. این ویژگی، کاربر را ترغیب می کند تا در نوشته های خود کمتر از کلمات اهانت آمیز و خشن استفاده کند.

با این حال، اگر به دنبال یک گزینه کارآمدتر هستید، می توانید از ویژگی دیگری به نام Restrict استفاده کنید. در صورت اعمال این ویژگی روی یک کاربر، تنها آن کاربر خاص می تواند نظرات ارسال شده توسط خودش را مشاهده کند. البته کاربر اهانت کننده به هیچ وجه نمی تواند از توقیف شدن خود مطلع شود. به این ترتیب هیچ کس شاهد نظرات توهین آمیز وی نخواهد بود.

به این روش، Shadowbanning گفته می شود که از انجام اقدامات متقابل توسط کاربر توقیف شده جلوگیری می کند. با استفاده از ویژگی Restrict، این دسته از کاربران دیگر قادر نیستند تا از وضعیت آنلاین بودن شما و یا خواندن پیام ها اطلاع یابند. ویژگی اول در حال حاضر در اینستاگرام حضور دارد و ویژگی Restrict نیز به زودی به این اپلیکیشن اضافه می شود.

نظر شما درباره این ویژگی اینستاگرام چیست؟ به نظر می‌رسد ما هم به این سیستم نیازمندیم!

منبع: Toranji
نوشته: سینا عطایی

نظرات

آدرس ایمیل شما منتشر نخواهد شد.