امروزه دغدغه‌ی اصلی پلتفرم‌هایی مثل اینستاگرام، تأمین امنیت کاربران نوجوان است. یکی از مهم‌ترین چالش‌ها، تشخیص سن واقعی کاربران است؛ چرا که بسیاری از نوجوانان هنگام ثبت‌نام، سن خود را اشتباه وارد می‌کنند تا از محدودیت‌های سنی فرار کنند. اینجاست که هوش مصنوعی وارد میدان می‌شود.
هوش مصنوعی چگونه سن کاربران را تشخیص می‌دهد؟
اینستاگرام که زیرمجموعه‌ی شرکت متا (Meta) است، اخیراً گام‌های مهمی در استفاده از هوش مصنوعی برای راستی‌آزمایی سن کاربران برداشته است. این سیستم هوشمند از ترکیبی از داده‌ها و الگوهای رفتاری برای تخمین سن واقعی کاربر استفاده می‌کند. برخلاف گذشته که صرفاً تاریخ تولد وارد شده توسط کاربر ملاک بود، اکنون سیستم‌های پیشرفته‌ی متا، رفتارهای آنلاین افراد را تحلیل می‌کنند.
این رفتارها شامل نوع محتواهایی که کاربر با آن‌ها تعامل دارد (لایک، کامنت، اشتراک‌گذاری)، حساب‌هایی که دنبال می‌کند، زمان و نحوه‌ی استفاده از اپلیکیشن و حتی الگوهای مکالمه در پیام‌های خصوصی می‌شود. مدل‌های یادگیری ماشینی با بررسی این داده‌ها، الگوهایی را شناسایی می‌کنند که برای گروه‌های سنی مختلف مشخص و قابل تشخیص است.
جالب اینکه متا این تحلیل‌ها را با داده‌های محلی نیز تطبیق می‌دهد؛ مثلاً رفتار نوجوانان در ایالات متحده با نوجوانان دانمارک یا استرالیا می‌تواند تفاوت‌هایی داشته باشد که باید لحاظ شود.
چرا هوش مصنوعی ابزار مناسبی برای محافظت از نوجوانان است؟
بر اساس گزارش‌های منتشرشده، اینستاگرام در حال حاضر بیش از ۵۴ میلیون حساب کاربری نوجوان را در دسته‌بندی «حساب نوجوان» قرار داده است. این حساب‌ها به‌طور پیش‌فرض خصوصی هستند، امکان ارسال پیام از سوی غریبه‌ها به آن‌ها محدود شده و محتوای حساس یا نامناسب برایشان فیلتر می‌شود.
هوش مصنوعی نقش کلیدی در این دسته‌بندی ایفا می‌کند. به کمک آن، متا می‌تواند کاربرانی را شناسایی کند که در زمان ثبت‌نام سن خود را اشتباه وارد کرده‌اند و سپس به‌صورت خودکار حساب آن‌ها را به حساب نوجوان تبدیل می‌کند. علاوه بر این، اگر کاربری بیش از ۶۰ دقیقه در روز در اینستاگرام فعال باشد، هشداری دریافت می‌کند و ویژگی «حالت خواب» نیز از ساعت ۱۰ شب تا ۷ صبح فعال می‌شود تا اعلان‌ها خاموش و پیام‌های خصوصی پاسخ خودکار دریافت کنند.
اما این همه‌ی ماجرا نیست. متا حتی در حال آزمایش فناوری جدیدی به نام تشخیص سن از طریق ویدئوی سلفی است که در همکاری با شرکت Yoti توسعه یافته و در برخی مناطق در حال آزمایش است. در این روش، کاربر یک ویدئو از خود می‌گیرد و هوش مصنوعی با تحلیل تصویر، سن تقریبی او را تخمین می‌زند.
هوش مصنوعی در برابر قانون: چالش‌ها و آینده
علت اصلی این اقدامات، افزایش فشارهای نظارتی و قانونی بر پلتفرم‌های اجتماعی است. بسیاری از کشورها از جمله ایالات متحده، استرالیا، دانمارک و بریتانیا در حال بررسی قوانینی برای افزایش سن مجاز استفاده از شبکه‌های اجتماعی هستند. در برخی موارد، حتی درخواست شده که این مسئولیت از دوش شبکه‌های اجتماعی برداشته شده و به اپ‌استورها (مثل گوگل‌پلی و اپ‌استور اپل) واگذار شود.
با وجود تلاش‌های متا، هنوز بسیاری از منتقدان می‌گویند که این اقدامات کافی نیستند. از سوی دیگر، پیاده‌سازی راستی‌آزمایی سنی از طریق کارت شناسایی رسمی یا مداخله والدین نیز با چالش‌های حقوقی و حریم خصوصی مواجه است. در چنین شرایطی، استفاده از هوش مصنوعی به‌عنوان راه‌حلی میان‌بر اما قدرتمند مطرح شده است.
از طرف دیگر، این تلاش‌ها باعث شده گفت‌وگوهای بیشتری بین والدین و نوجوانان شکل بگیرد. اینستاگرام اکنون پیام‌هایی برای والدین ارسال می‌کند تا آن‌ها را در جریان ویژگی‌های امنیتی قرار دهد و توصیه‌هایی برای صحبت در مورد سن، اینترنت و ایمنی آنلاین ارائه کند.
هوش مصنوعی در خدمت ایمنی دیجیتال
در حالی که استفاده از هوش مصنوعی در زمینه‌های مختلف از جمله بازاریابی، پزشکی و حمل‌ونقل رشد کرده، نقش آن در ایمن‌سازی فضای دیجیتال برای کودکان و نوجوانان اهمیت ویژه‌ای دارد. تجربه‌ی متا با اینستاگرام نشان می‌دهد که اگرچه هوش مصنوعی هنوز جایگزین هوش انسانی و تصمیم‌گیری والدین نیست، اما می‌تواند ابزاری ارزشمند برای کمک به تشخیص، پیشگیری و محافظت باشد.
با توجه به سرعت رشد فناوری و پیچیدگی رفتارهای آنلاین، باید دید که در آینده چه مدل‌های هوشمندتری برای تشخیص سن، رصد محتوا و حتی تعاملات اجتماعی در فضای دیجیتال معرفی خواهند شد. آنچه مسلم است، این است که هوش مصنوعی دیگر نه فقط ابزار تحلیل داده، بلکه همراه همیشگی در محافظت از نسل آینده است.
اگر به اخبار جذاب هوش مصنوعی علاقه دارید، این مطالب را از دست ندهید؛ هرکدام دنیای تازه‌ای برای شما خواهند گشود.
معرفی مدل هوش مصنوعی o3 و o4-mini
منبع: socialmediatoday
