پایش هوشمند محتوا منجر به تسهیل دسترسی به محتوای مناسب می‌شود

به گزارش خبرگزاری آگاه؛ حسن نجفی سولاری، مدرس دانشگاه و پژوهشگر رسانه و فضای مجازی، امروز در نخستین روز از رویداد هم‌اندیشی مرزبانی دیجیتال، با موضوع «هوش مصنوعی و مرزبانی رسانه‌ای» سخن گفت و تأکید کرد این حوزه از جمله نیاز‌های روز حکمرانی واقع‌گرا در نظام جهانی به شمار می‌رود و می‌تواند از همین امروز در سطوح عینی، عملی و کاربردی مورد استفاده قرار گیرد. او گفت انتخاب این موضوع با توجه به نیاز‌های جاری کشور‌ها در عرصه حکمرانی، تجربه‌های موجود در جهان و ضرورت بهره‌برداری مستقیم مخاطبان از دستاورد‌های آن انجام شده است. 

او در ابتدای سخنان خود با اشاره به پیشینه تاریخی مرزبانی در حوزه ارتباطات و رسانه بیان کرد: در هیچ مقطع تاریخی نمی‌توان گفت مرزبانی در ارتباطات و رسانه وجود نداشته است. به گفته وی، از لحظه‌ای که ارتباطات در زندگی انسان پدید آمد، مرزبانی آن نیز شکل گرفت و انسان همواره ارتباطات گسترده را با نوعی مرزبانی عقلایی هدایت کرده است تا بتواند آنچه در ذهن دارد به شکلی مطلوب به دیگران منتقل کند و در عین حال درجه آزادی مخاطب را هم به‌طور کامل از میان نبرد. 

نجفی سولاری افزود: در الگوی کنونی نیز وقتی از هوش مصنوعی و مرزبانی رسانه‌ای سخن گفته می‌شود، باید به همین نقطه توجه داشت؛ یعنی مرزبانی باید انجام شود، اما این مرزبانی نباید به معنای از بین رفتن بی‌ضابطه آزادی فرد باشد. او تصریح کرد پرسش اصلی این است که آیا اساساً می‌توان برای مرزبانی از هوش مصنوعی استفاده کرد و پاسخ این پرسش مثبت است. 

هوش مصنوعی هم ابزار صیانت است و هم زمینه‌ساز تهدید است

این مدرس دانشگاه در ادامه گفت: هوش مصنوعی در مرزبانی رسانه‌ای شبیه یک شمشیر دو لبه عمل می‌کند. او توضیح داد این فناوری از یک سو به شناسایی، حذف و مقابله با جعلیات کمک می‌کند، موضوعات مثبت را تقویت می‌کند و برای مخاطب زمینه‌ای فراهم می‌آورد تا به آنچه واقعاً خواسته و نیاز او است دسترسی پیدا کند. از سوی دیگر، همین فناوری می‌تواند جعل را تولید کند، هویت را تحریف کند و محتوایی در اختیار کاربر قرار دهد که به‌ظاهر عین واقعیت و حقیقت به نظر برسد. 

او تأکید کرد: هوش مصنوعی در فضای مجازی قابل استفاده است، اما مانند یک چاقوی برنده می‌تواند تهدیدآفرین باشد و در همان حال، همچون یک ابزار کارآمد برای هدایت، نظارت و حمایت نیز عمل کند. به گفته وی، زمانی می‌توان از هوش مصنوعی در مرزبانی بهره گرفت که روش‌ها و تکنیک‌های این کار به‌درستی شناخته شده باشد. 

 پایه‌های مرزبانی دیجیتال و مدیریت محتوا

نجفی سولاری در تشریح روش‌های مرزبانی با هوش مصنوعی گفت: نخستین روش، فیلترینگ هوشمند محتوا است. او افزود این مفهوم گاهی با برداشت‌های منفی همراه می‌شود و برخی آن را معادل انسداد یا نوعی رویکرد تحکمی می‌دانند، در حالی که از منظر هوش مصنوعی، فیلترینگ محتوا به معنای ایجاد یک کانال و معبر هوشمند برای تسهیل دسترسی به محتوای مناسب و حذف محتوای ناخوشایند یا نامطلوب برای کاربر است. 

او ادامه داد: این فرایند به دو شیوه انجام می‌شود. شیوه نخست، تشخیص خودکار محتوای مناسب با استفاده از پردازش زبان طبیعی است. به گفته او، پردازش زبان طبیعی یکی از روش‌های مهم و پیشرفته در هوش مصنوعی است و کمک فراوانی می‌کند تا محتوا‌ها از هم تفکیک و طبقه‌بندی شوند. او توضیح داد با افزودن فراداده یا متادیتا می‌توان این امکان را فراهم کرد که سامانه، محتوا‌ها را طبقه‌بندی کند، زیرا ممکن است یک محتوا از نگاه فردی مثبت و از نگاه فردی دیگر منفی تلقی شود و یا در یک چارچوب، هنجار و در چارچوبی دیگر، ناهنجار شناخته شود. 

این پژوهشگر رسانه و فضای مجازی افزود: پردازش زبان طبیعی می‌تواند در همین نقطه به سیاست‌گذار و کاربر کمک کند تا نحوه تشخیص و طبقه‌بندی محتوا‌ها دقیق‌تر انجام شود. او سپس از «بینایی ماشین» به‌عنوان روش دوم یاد کرد و گفت همان‌گونه که چشم انسان اشیا را در طبیعت می‌بیند و ابعاد، شکل و مرز‌های آنها را تشخیص می‌دهد، هوش مصنوعی نیز می‌تواند بر مبنای داده‌های تعریف‌شده، شکل‌ها، اندازه‌ها، نماد‌ها و الگو‌ها را شناسایی کند و مشخص سازد که هر یک از آنها مثبت هستند یا منفی و مجاز هستند یا غیرمجاز. 

نجفی سولاری تصریح کرد: بر این اساس، یکی از راه‌های اصلی مرزبانی هوشمند، استفاده از پردازش زبان طبیعی و راه دیگر، بهره‌گیری از بینایی ماشین است. او گفت پردازش زبان طبیعی اکنون در بسیاری از شبکه‌های اجتماعی برای کنترل و مدیریت محتوا به کار گرفته می‌شود. 

شبکه‌های اجتماعی از پردازش زبان طبیعی برای کنترل محتوا استفاده می‌کنند

او با اشاره به عملکرد سکو‌های بین‌المللی گفت: بسیاری از شبکه‌های اجتماعی اعلام می‌کنند که با تروریسم مقابله می‌کنند و یکی از ابزار‌های آنها برای این کار، پردازش زبان طبیعی است. او توضیح داد در این روش، متن‌ها و ابرمتن‌ها از نظر وجود برخی واژه‌ها و ترکیب‌ها بررسی می‌شوند و سامانه می‌تواند نسبت به وجود آنها حساس شود. 

نجفی سولاری افزود: این حساسیت در مواردی به سطح تحلیل جمله هم می‌رسد و سامانه ممکن است در مرحله‌ای بالاتر، معنای جمله‌ها را نیز ارزیابی کند و سپس درباره حذف یا عدم حذف تصمیم بگیرد. او گفت در سال‌های اخیر به دلیل اعتراض‌های گسترده به خطا‌های ناشی از پردازش زبان طبیعی، برخی سکو‌ها مرحله سومی را نیز وارد این فرایند کرده‌اند و آن، دخالت انسان در تصمیم نهایی است، زیرا تشخیص انسانی از نظر احساس، عاطفه و دقت در برخی موارد کامل‌تر عمل می‌کند. 

او در ادامه بیان کرد: در ایران نیز نمونه‌هایی از این نوع پردازش در سامانه‌های پالایش محتوا دیده می‌شود و بسیاری از کاربران با صفحاتی مواجه شده‌اند که در آن اعلام می‌شود دسترسی به یک صفحه ممکن نیست و در عوض، محتوای دیگری به آگاهن پیشنهاد می‌شود. به گفته وی، مشابه این رویه در جهان نیز با گستره و دقت بیشتر در وب‌سایت‌ها، وبلاگ‌ها، فروم‌ها، شبکه‌های اجتماعی و رسانه‌های اجتماعی جریان دارد و در همه این حوزه‌ها نوعی کنترل و مراقبت برای رعایت حقوق کاربران اعمال می‌شود. او تأکید کرد فیلترینگ در این معنا، ابزاری برای کمک به کاربران در حفظ حقوقشان تلقی می‌شود. 

هوش مصنوعی می‌تواند ناهنجاری‌های رفتاری را شناسایی کند

نجفی سولاری در بخش دیگری از سخنان خود گفت: یکی دیگر از روش‌های مرزبانی با هوش مصنوعی، تشخیص ناهنجاری‌های رفتاری است. او توضیح داد در برخی مواقع نمی‌توان صرفاً با دیدن یک عکس یا خواندن یک متن تشخیص داد که یک پدیده رسانه‌ای هنجار است یا ناهنجار، بلکه به یک سطح تحلیلی بالاتر نیاز است و هوش مصنوعی در همین سطح به کمک می‌آید. 

او در ادامه اضافه کرد: هوش مصنوعی می‌تواند تشخیص دهد که یک محتوا یا یک الگوی رفتاری، از جهت رفتار ناهنجار است و برای کاربر یا جامعه مشکل ایجاد می‌کند. به گفته وی، این ناهنجاری ممکن است به خشونت، پرخاش، دوقطبی شدن جامعه، ایجاد تردید و دودلی در تصمیم‌گیری یا شکل‌گیری خطای هاله‌ای در ذهن منجر شود؛ وضعیتی که در آن فرد، امور نادرست را به‌اشتباه درست تصور می‌کند. 

این پژوهشگر رسانه و فضای مجازی تأکید کرد: ناهنجاری رفتاری خطر بزرگی ایجاد می‌کند و به همین دلیل وجود یک سامانه شناسایی ضروری است. او گفت هوش مصنوعی در این زمینه به دو روش عمل می‌کند. روش نخست، مانیتورینگ الگو‌های ترافیک شبکه است. در این روش، تعداد زیادی از کنش‌های شبکه‌ای پایش می‌شوند و از آنها یک الگو یا مدل ساخته می‌شود و سپس مشخص می‌شود که این مدل هنجار است یا ناهنجار. 

نجفی سولاری افزود: سیاست‌گذار یا کاربر می‌تواند تعیین کند که رسیدن به چه الگویی به معنای آسیب است؛ برای مثال الگویی که موجب پرخاش، افسردگی در نوجوان، کاهش انگیزه درس و تلاش یا اختلال در وضعیت روحی فرد شود. او گفت هوش مصنوعی با استفاده از مانیتورینگ الگو‌های ترافیک شبکه می‌تواند این موارد را شناسایی و درباره آنها اقدام کند. 

سوءاستفاده سیاسی از داده‌های شبکه‌ای یک تهدید واقعی است

او در ادامه با اشاره به کاربرد سیاسی این روش گفت: از مانیتورینگ الگو‌های ترافیک شبکه در حوزه‌های سیاسی نیز استفاده جدی می‌شود. به گفته وی، برخی جریان‌های ضدایرانی و مخالف جمهوری اسلامی و نیز افرادی که در فضای مجازی علیه حامیان نظام فعالیت می‌کنند، از همین الگو‌ها برای شناسایی افراد استفاده می‌کنند و پس از شناسایی، زمینه برخورد‌های خشن و پرخاشگرانه را فراهم می‌سازند. 

نجفی سولاری افزود: در برخی نمونه‌های موجود، این نوع رصد و شناسایی حتی بستر تهدید‌های جدی‌تر را نیز پدید آورده است و از همین رو، هوش مصنوعی می‌تواند در صورت استفاده نادرست، به ابزار یک دیکتاتوری فناورانه تبدیل شود. 

او سپس به روش دوم در شناسایی ناهنجاری‌های رفتاری اشاره کرد و گفت: جلوگیری از نفوذ‌های غیرمجاز و شناسایی حملات سایبری یکی از مهم‌ترین کاربرد‌های هوش مصنوعی در این حوزه است. او توضیح داد زیست‌بوم مجازی در حوزه رسانه، خدمات و زیرساخت به‌طور مداوم در معرض هجمه قرار دارد و این مسئله محدود به ایران نیست و در همه دنیا جریان دارد. 

نجفی سولاری افزود: این حملات می‌توانند سخت‌افزاری، نرم‌افزاری یا مغزافزاری باشند و نفوذ‌های غیرمجاز نیز به‌صورت مستمر رخ می‌دهند. او گفت در چنین شرایطی، هوش مصنوعی می‌تواند این حملات و نفوذ‌ها را شناسایی کند و امکان مقابله با آنها را در اختیار مدیران و مسئولان قرار دهد. به گفته او، در تشخیص این ناهنجاری‌ها، یک داده یا یک اطلاع منفرد بررسی نمی‌شود، بلکه مجموعه‌ای از داده‌ها زیر ذره‌بین قرار می‌گیرند تا رفتار ناهنجار شناسایی و با آن مقابله شود. 

احراز هویت پیشرفته به یک نیاز جدی در مرزبانی دیجیتال تبدیل شده است

این مدرس دانشگاه در ادامه گفت: یکی دیگر از حوزه‌های مهم کاربرد هوش مصنوعی در مرزبانی، سیستم‌های احراز هویت پیشرفته است. او افزود در بسیاری از موقعیت‌ها، این پرسش مطرح می‌شود که فردی که قصد ورود به یک قلمرو یا دسترسی به یک محیط خاص را دارد، از چه سطحی از اعتماد برخوردار است و آیا ورود او باید مجاز شناخته شود یا خیر. 

او توضیح داد: در این زمینه، تشخیص چهره و فناوری‌های بیومتریک نقش تعیین‌کننده دارند. به گفته وی، هیچ اثر انگشتی دقیقاً همانند اثر انگشت فرد دیگر نیست و الگوی چشم انسان نیز ویژگی‌های منحصر‌به‌فرد خود را دارد، اما تشخیص این تفاوت‌ها از عهده هر ابزار ساده‌ای برنمی‌آید و نیازمند یک سامانه هوش مصنوعی است که میلیارد‌ها داده را در خود نگه دارد و بر اساس آنها، چهره و ویژگی‌های افراد را به‌صورت بیومتریک شناسایی کند. 

نجفی سولاری افزود: چنین سامانه‌ای می‌تواند مشخص کند که یک فرد در چه موقعیت‌هایی حضور داشته، چه سوابقی را پشت سر گذاشته و آیا باید به او اجازه ورود به یک محیط یا کشور داده شود یا خیر. او تصریح کرد این ابزار می‌تواند هم خطرآفرین باشد، هم مورد نیاز باشد، هم در عملیات تروریستی مورد سوءاستفاده قرار گیرد و هم به امنیت ملی کشور‌ها کمک کند. 

تحلیل رفتار کاربر مسیر تازه‌ای برای کشف هویت گشوده است

او در بخش دیگری از سخنان خود گفت: در برخی مواقع ممکن است تصویر چهره یا داده‌های مستقیم هویتی در دسترس نباشد، اما رفتار فرد در زیست‌بوم دیجیتال در اختیار باشد. به گفته وی، در این حالت هوش مصنوعی می‌تواند مجموعه اقدام‌های فرد را در سامانه‌ها و خدمات مختلف، از نرم‌افزار‌های تردد و مسیریابی گرفته تا شبکه‌های اجتماعی و پیام‌رسان‌ها، تحلیل کند و از خلال همین تحلیل به کشف هویت برسد. 

نجفی سولاری بیان کرد: بر اساس یک اصل مهم، هیچ دو انسانی در جهان دقیقاً یک الگوی رفتاری ندارند و همین تفاوت‌های رفتاری، امکان شناسایی را برای هوش مصنوعی فراهم می‌کند. او افزود انسان عادی یا یک ماشین ساده قادر به چنین تشخیصی نیست، اما هوش مصنوعی می‌تواند رفتار‌ها را آگاهلیز کند و بگوید این الگو به چه شخصی و در چه جایگاهی تعلق دارد. 

او تأکید کرد: این ظرفیت می‌تواند منشأ آسیب باشد و در مواردی موجب گرفتاری افراد شود، اما در کاربرد‌های مثبت نیز دستاورد‌های مهمی دارد. او گفت یکی از استفاده‌های مفید از تحلیل رفتار با هوش مصنوعی، انتخاب افراد برای نقش‌های سینمایی، تلویزیونی، اجرا، تیپ‌شناسی و شخصیت‌شناسی برای مشاغل مختلف است. به گفته وی، با استفاده از تحلیل رفتار می‌توان بررسی کرد که یک فرد برای حسابداری مناسب‌تر است یا برای روابط عمومی و این روند هم‌اکنون نیز در حال استفاده است. 

پایش و هشدار لحظه‌ای از مهم‌ترین مزیت‌های هوش مصنوعی است

نجفی سولاری سپس به موضوع پایش و هشدار لحظه‌ای پرداخت و گفت: هوش مصنوعی در این بخش، کمک بزرگی به انسان کرده است. او توضیح داد همان‌گونه که حواس پنج‌گانه در برخی موقعیت‌ها به سرعت به انسان هشدار می‌دهند، هوش مصنوعی می‌تواند این هشدار‌ها را در مقیاسی بسیار گسترده‌تر و با سرعتی چندین برابر در اختیار انسان قرار دهد. 

او افزود: یکی از نمونه‌های روشن این توانایی، اسکن خودکار ترافیک مرزی است. به گفته وی، وقتی هزاران خودرو قصد عبور از یک نقطه را دارند، باید مشخص شود کدام خودرو مجاز به عبور است، کدام مورد باید متوقف شود و کدام وسیله باید به بخش دیگری هدایت شود. او گفت توان و دقت یک نگهبان انسانی محدود است، اما سامانه هوشمند می‌تواند در لحظه تشخیص دهد که یک مورد خطرناک است و نباید عبور کند یا موردی دیگر مجاز به ادامه مسیر است. 

نجفی سولاری تصریح کرد: کاربرد‌های هوش مصنوعی در هشدار‌های لحظه‌ای بسیار فراتر از این نمونه است. او افزود این فناوری می‌تواند پیش از رسیدن فرد به نقطه خطر، میزان تهدید، آلودگی یا ریسک محیط را برای او مشخص کند؛ برای مثال اعلام کند ورود به یک محل خاص خطر جانی دارد یا یک محیط به ویروس یا عامل بیماری‌زا آلوده است و به این ترتیب، فرد را از خطر دور نگه دارد. 

او ادامه داد: هشدار سریع در برابر تهدیدات امنیتی نیز از دیگر ظرفیت‌های جدی این فناوری است و همین نمونه‌ها نشان می‌دهد که هوش مصنوعی در مرزبانی رسانه‌ای و دیجیتال، کارکردی عملی و مؤثر پیدا کرده است. 

حریم خصوصی در استفاده از هوش مصنوعی با تهدید مواجه می‌شود

این پژوهشگر رسانه و فضای مجازی در ادامه سخنان خود گفت: با وجود همه ظرفیت‌های مثبت، استفاده از هوش مصنوعی با چالش‌هایی نیز همراه است. او نخستین چالش را مسئله حریم خصوصی دانست و بیان کرد: افرادی که از هوش مصنوعی استفاده می‌کنند، در بسیاری از موارد با این واقعیت روبه‌رو می‌شوند که بخشی از حریم خصوصی آگاهن در معرض آسیب قرار می‌گیرد. 

او افزود: برای کسانی که به هر دلیل نمی‌خواهند همه هویتشان آشکار شود یا ترجیح می‌دهند اطلاعاتشان در همه جا درز نکند، این مسئله حساسیت بیشتری پیدا می‌کند. به گفته وی، هوش مصنوعی در برخی مواقع مانند یک اتاق شیشه‌ای عمل می‌کند و می‌تواند مرز‌های حریم خصوصی را بشکند و آنها را افشا کند. 

خطای تشخیص یکی از ضعف‌های مهم سامانه‌های هوشمند است

نجفی سولاری چالش دوم را خطای تشخیص دانست و گفت: نباید تصور کرد که خروجی هوش مصنوعی همواره قطعی و بدون اشتباه است. او توضیح داد این سامانه‌ها در برخی موارد تشخیص‌هایی ارائه می‌کنند که می‌تواند کاربر را به تصمیمی کاملاً نادرست برساند. 

او افزود: زمانی که پشتیبانی اطلاعاتی سامانه کافی نباشد یا داده‌های مورد استفاده دچار نقص باشند، هوش مصنوعی ممکن است راهنمایی‌های غلط ارائه دهد و تصمیم‌گیری انسان را به سمت خطا ببرد. به گفته وی، این مسئله از آن جهت اهمیت دارد که اعتماد بی‌چون‌وچرا به سامانه‌های هوشمند، خود می‌تواند منشأ بحران شود. 

امکان دور زدن سامانه‌ها از دیگر چالش‌های هوش مصنوعی است

این مدرس دانشگاه در ادامه گفت: هوش مصنوعی در برخی موارد می‌تواند زمینه دور زدن سیستم‌های امنیتی، اطلاعاتی و نظارتی را نیز فراهم کند. او افزود همان‌گونه که از برخی ظرفیت‌های فناورانه برای دور زدن تحریم‌ها استفاده می‌شود، در حوزه‌های دیگر هم ممکن است همین فناوری به ابزاری برای عبور از ضوابط، تخلف و سوءاستفاده تبدیل شود. 

نجفی سولاری تصریح کرد: هوش مصنوعی یک دیوار نفوذناپذیر نیست و می‌توان در برخی موقعیت‌ها مسیر‌های دور زدن آن را نیز پیدا کرد. به گفته او، همین ویژگی لزوم هوشیاری بیشتر در استفاده از این فناوری را نشان می‌دهد. 

هوش مصنوعی می‌تواند به سرقت حقوق مؤلف دامن بزند

او چالش دیگر را مسئله اخلاق و حقوق مؤلف دانست و بیان کرد: هوش مصنوعی ممکن است راه‌هایی را برای سرقت حقوق صاحبان آثار به کاربران نشان دهد یا زمینه استفاده از برخی تولیدات و تألیفات را بدون آگاهی از مالک اصلی آنها فراهم کند. 

نجفی سولاری افزود: این مسئله در حوزه‌های رسانه‌ای، علمی و فرهنگی اهمیت فراوانی دارد و از جمله نقاطی است که کاربران و سیاست‌گذاران باید با دقت بیشتری با آن مواجه شوند. به گفته وی، برخی سرقت‌های فکری و اخلاقی در بستر همین ابزار‌ها شکل می‌گیرند و لازم است این خطر به‌روشنی دیده شود. 

مرزبندی محتوا از کاربرد‌های روز هوش مصنوعی در رسانه است

این پژوهشگر رسانه و فضای مجازی در بخش دیگری از سخنان خود به نمونه‌های عینی استفاده مثبت از هوش مصنوعی در رسانه اشاره کرد و گفت: یکی از کاربرد‌های پررنگ این روز‌ها در شبکه‌های اجتماعی، مرزبندی محتوا است. او توضیح داد گاهی لازم است یک محتوا به دست گروهی خاص برسد و به دست گروهی دیگر نرسد و این کار در مواردی کاملاً درست و ضروری است. 

او افزود: برای مثال، برخی محتوا‌ها برای کودکان و نوجوانان مناسب نیستند، اما برای بزرگسالان یا افراد خانواده‌دار مشکلی ایجاد نمی‌کنند. در برخی موارد نیز لازم است موضوعی شفاف ارائه شود و موضوعی دیگر در سطحی کنترل‌شده‌تر باقی بماند یا محتوا برای گروه‌های مختلف آموزشی و اجتماعی دسته‌بندی شود. به گفته وی، هوش مصنوعی در این مرزبندی به رسانه و مدیران محتوا کمک فراوانی می‌کند. 

نجفی سولاری ادامه داد: هوش مصنوعی در خودِ محتوا نیز مرزبندی ایجاد می‌کند؛ به این معنا که وقتی محتوایی تولید می‌شود، می‌توان خلاقیت، احساس، جهت‌گیری و لایه‌های مختلف آن را مدیریت و تنظیم کرد. او گفت در همین چارچوب، ابزار‌هایی برای شفاف‌سازی، حفاظت از محتوای تولیدشده، شناسایی جعل و پالایش محتوا به کار گرفته می‌شوند و هر یک از آنها بخشی از کارکرد‌های جدید هوش مصنوعی در رسانه را شکل می‌دهند. 

دیپ‌فیک‌ها از مهم‌ترین تهدید‌های رسانه‌ای در عصر هوش مصنوعی هستند

او سپس به برخی تخلفات و آسیب‌های عملیاتی در این حوزه اشاره کرد و گفت: یکی از نمونه‌های روشن، دیپ‌فیک‌ها هستند که می‌توانند چهره افراد را به شکلی تغییر دهند که مخاطب متوجه فاصله آن با واقعیت نشود. او افزود این مسئله از جدی‌ترین تهدید‌های امروز در فضای رسانه‌ای به شمار می‌رود و نشان می‌دهد که هوش مصنوعی چگونه می‌تواند مرز حقیقت و جعل را مخدوش کند. 

نجفی سولاری همچنین تصریح کرد: برخی سامانه‌های هوشمند از ده‌ها زبان پشتیبانی می‌کنند و می‌توانند خود را با مقررات جهانی تطبیق دهند و همین موضوع به رسانه‌ها و پلتفرم‌های بزرگ امکان می‌دهد که در سطحی گسترده‌تر، کنترل، پالایش و مراقبت از محتوا را دنبال کنند. 

او ادامه داد: ابزار‌هایی نیز وجود دارند که می‌توانند کلمات، احساسات و حتی کامنت‌ها را فیلتر کنند و با تحلیل لایه‌های مختلف محتوا، نوعی مرزبانی دقیق‌تر را در فضای رسانه‌ای به اجرا بگذارند. به گفته وی، این قابلیت‌ها در کنار جذابیت فنی، اثرگذاری سیاسی و فرهنگی نیز پیدا کرده‌اند. 

ابزار‌های نوین هوش مصنوعی توان تکمیل و افشای روایت‌ها را دارند

این مدرس دانشگاه در ادامه گفت: برخی ابزار‌های پیشرفته هوش مصنوعی توانایی تکمیل روایت‌ها و داستان‌ها را نیز دارند و می‌توانند محتوای ناقص را توسعه دهند و آن را به شکلی منسجم‌تر ارائه کنند. او افزود ابزار‌هایی نیز وجود دارند که با کنار هم گذاشتن داده‌ها و تحلیل گزاره‌های پراکنده، خلاف‌گویی‌ها و تناقض‌های دیگران را آشکار می‌کنند و در نتیجه، به کشف خطا و افشای تحریف کمک می‌رسانند. 

نجفی سولاری تصریح کرد: در مرزبانی اختصاصی دیجیتال، ابزار‌های مدیا مانیتورینگ به اندازه‌ای مهارت و امکان فراهم می‌کنند که بتوان از آنها برای صیانت از شبکه‌های اجتماعی قدرتمند استفاده کرد. او گفت با استفاده از همین ابزار‌ها می‌توان دیپ‌فیک‌ها را تشخیص داد، عناصر مسموم را شناسایی کرد، ممنوعیت‌ها را کشف کرد و محتوا‌ها را به‌صورت دقیق دسته‌بندی کرد. 

مرزبانی هوشمند به شناخت همزمان فرصت‌ها و خطر‌ها نیاز دارد

او در ادامۀ سخنان خود تأکید کرد: هوش مصنوعی مانند یک شمشیر دو لبه، برنده، نافذ و اثرگذار است. به گفته وی، این فناوری استفاده‌های مثبت متعددی دارد و در عین حال، خطر‌های خاص خود را نیز به همراه می‌آورد. 

نجفی سولاری در خاتمه اضافه کرد: برخی از ابزار‌های هوش مصنوعی که امروز در دسترس قرار دارند، هم نسخه فارسی دارند و هم به زبان‌های دیگر ارائه می‌شوند و هر یک از آنها قدرت‌ها، کاربردها، خطر‌ها و سطوح متفاوتی از اثرگذاری را در اختیار کاربران قرار می‌دهند. او تأکید کرد شناخت این ظرفیت‌ها و تهدید‌ها برای هرگونه سیاست‌گذاری در مرزبانی رسانه‌ای و دیجیتال ضرورت دارد. 

انتهای خبر/255419/