از کجا بفهمیم یک تصویر را هوش مصنوعی ساخته؟

به گزارش ایسا در دنیایی که فناوری هوش مصنوعی (AI) با سرعت حیرت انگیز پیشرفت می کند توانایی شناسایی تصاویر واقعی از هوش مصنوعی به یک چالش مهم تبدیل شده است. هنگامی که تصویری از پاپ به یک ژاکت پفی ویروسی بزرگ تبدیل شد جهان با یک واقعیت نگران کننده روبرو شد: ما دیگر نمی توانیم به آنچه می بینیم اعتماد کنیم.

از تصاویر سرگرم کننده و عجیب گرفته تا محتوای معتبر امروز ابزارهای هوش مصنوعی تولیدی مانند دال-ای انتشار پایدار و میانی مجله تصاویری را ایجاد می کنند که می توانند ابتدا و حتی در بررسی های دقیق تر ما را تقلب کنند. این گزارش مفصل به بررسی روشهای شناسایی تصاویر تولید شده توسط هوش مصنوعی چالش های مرتبط و پیامدهای اجتماعی و ارائه راه حل های عملی برای بهبود مهارت های تشخیصی می پردازد.

انقلاب در ایجاد تصاویر

قدرت و خطر ابزارهای هوش مصنوعی که تصاویر را از توضیحات متن تولید می کنند به لطف دسترسی آسان و هزینه های کم یا رایگان برای هر کسی در دسترس است.

ابزارهایی مانند Google Gemini Adobe Firefly و Craiyon به کاربران این امکان را می دهند تا ایده های ذهنی خود را به تصاویر شگفت انگیز تبدیل کنند که فقط از طریق عکاسی یا نقاشی امکان پذیر بودند. اما این قدرت خلاق خطرات دارد. از تصاویر دروغین می توان برای تبلیغات سیاسی استفاده کرد که محتوای غیراخلاقی مانند دیپلمات مستهجن یا حتی فریب عمومی را در اخبار تولید می کند. با پیشرفت هوش مصنوعی شناسایی این تصاویر دشوارتر شده است و وعده هایی به عنوان علامت گذاری آب تصاویر تولید شده هنوز به دست نیامده است و به نظر می رسد در برابر دستکاری عمدی ناکارآمد است.

چرا تشخیص تصاویر جعلی مهم است؟

عواقب عدم توانایی در شناسایی تصاویر تولید شده توسط هوش مصنوعی فراتر از یک شوخی ساده است. به عنوان مثال تصاویر دروغین از زلزله خیالی سال توسط یک زیرمجموعه میان دوره ای منتشر شد که چگونه یک داستان مصنوعی از جاده های فروپاشی امدادگران و مردم ترسیده به سرعت می توان به عنوان یک واقعیت پذیرفت.

این واقعه خیالی که فقط در ذهن یک هوش مصنوعی بود برای کسانی که تحقیق نکردند واقعی به نظر می رسید. چنین مواردی خطر ابتلا به اطلاعات نادرست در رسانه های اجتماعی و حتی رسانه های خبری را نشان می دهد که در آن تصاویر دروغین می تواند اعتماد به نفس عمومی را تضعیف کند.

روشهای تشخیص تصاویر تولید شده توسط هوش مصنوعی

با وجود چالش ها علائم و تکنیک هایی وجود دارد که می تواند به شناسایی تصاویر تولید شده توسط هوش مصنوعی کمک کند. این روشها اگرچه کامل نیستند اما ابزارهای قدرتمندی برای بهبود احساس شناخت کاربران فراهم می کنند. موارد زیر چهار روش اصلی است که شامل ترکیبی از تجزیه و تحلیل بصری و ابزارهای دیجیتال است:

1. جستجوی عاشق تصویر: ردیابی منبع

یکی از اولین مراحل برای ارزیابی اعتبار یک تصویر چرخش تصویر است. ابزارهایی مانند جستجوی تصویر معکوس Google می توانند منبع یک تصویر را شناسایی کنند یا اگر به نظر می رسد در هر جای دیگر به نظر می رسد. این روش مخصوصاً برای تصاویر خبری یا مواردی که در رسانه های اجتماعی است مفید است. اگر یک تصویر ادعا کند یک رویداد مهم است اما فقط در منابع نامعتبر یافت می شود بسیار زیاد است.

نمونه ای از زمین لرزه در Caskadia نشانگر قدرت و محدودیت های این روش است. جستجوی معکوس می تواند تصویری را به یک خبر به ظاهر معتبر از NBC News متصل کند اما یک مطالعه دقیق تر نشان می دهد که هوش مصنوعی نمونه آثار یک عکاس خبری را نشان داده است. این نشان می دهد که جستجوی معکوس باید با تجزیه و تحلیل انتقادی همراه باشد تا از فریب خوردن جلوگیری شود.

2. ناهنجاری های شکار: بزرگنمایی در جزئیات

هوش مصنوعی تصاویر خود را با ترکیب بخش هایی از داده های آموزشی که گاهی اوقات منجر به انحراف ظریف می شود ایجاد می کند. برای تشخیص این انحرافات کاربران باید با دقت و حداکثر تصویر را به حداکثر برسانند. پیکسل های سرگردان خطوط عجیب یا شکل های اشتباه در این مورد واضح تر می شوند.

به عنوان مثال تصویری از یک موزه شلوغ ساخته شده توسط پایداری AI در نگاه اول واقعی به نظر می رسد. اما با بزرگنمایی به جمعیت می فهمیم که مردم ترکیبی غیر طبیعی از ویژگی ها چهره ها و اجسام مشابه قسمت های مختلف هستند. این انحرافات نشانه ای از درگیری هوش مصنوعی است که در مطالعات سطحی دیده نمی شود.

1. پوست صاف: کمال غیرواقعی

یکی از مضرات متداول هوش مصنوعی عدم توانایی در بازتولید بافتهای طبیعی پوست مانند منافذ یا نقص است. تصاویری که خیلی صاف و نامنظم به نظر می رسند اغلب مصنوعی هستند.

تشخیص این ویژگی در دنیای پر از فیلترهای دیجیتال دشوارتر شده است اما تفاوت های ظریف مانند روشنایی غیر طبیعی یا عدم بعد در تصاویر مصنوعی می تواند اثری مهم باشد.

1. بررسی جزئیات: متناسب با اشیاء و بدن

بررسی دقیق تصاویر می تواند ناسازگاری آشکار را نشان دهد مانند گوشواره هایی که یکنواخت یا غیر طبیعی نیستند.

این تصاویر در نگاه اول مملو از ناهنجاری هایی مانند دندان و انگشتان است که به آنها احساس تقارن می بخشد که به نظر می رسد گاهی اوقات از سبک های هنری غیرواقعی مانند نقاشی های جان کورین الهام گرفته می شود علائم روشنی از هوش مصنوعی است.

چالش های تشخیص و محدودیت ها

با وجود این روش ها تشخیص تصاویر تولید شده توسط هوش مصنوعی هنوز چالش برانگیز است. آخرین پیشرفت در مدل های تولیدی مانند Dall-E و Paitable Diffusion تصاویر را به حدی واقعی کرده است که حتی متخصصان نیز گاهی فریب می خورند.

مارک آب که به عنوان راه حلی برای شناسایی تصاویر مصنوعی پیشنهاد شده است به دلیل امکان حذف یا دستکاری غیرقابل اعتماد است. علاوه بر این جستجوی معکوس برای تصویر ممکن است نتایج گمراه کننده ای داشته باشد به ویژه اگر هوش مصنوعی از تصاویر واقعی به عنوان مرجع استفاده کرده است.

چالش دیگر سرعت تولید این تصاویر است. اگرچه فقط چند ثانیه طول می کشد تا یک تصویر کاذب ایجاد شود اما اعتبار آن می تواند زمان باشد. این عدم تعادل اجازه می دهد تا تصاویر جعلی به سرعت در شبکه های اجتماعی ارسال شوند و قبل از شناسایی آسیب های قابل توجهی ایجاد کنند.

پیامدهای اجتماعی و نیاز به صلاحیت رسانه ها

عدم توانایی در کشف تصاویر تولید شده توسط هوش مصنوعی عواقب گسترده ای دارد. از گسترش اطلاعات نادرست در انتخابات و بحران های جهانی تا صدمات شخصی ناشی از دیپلم های غیراخلاقی فناوری می تواند اعتماد عمومی به رسانه ها و تصاویر بصری را تضعیف کند. نمونه زلزله در کاسکادیا نشان داد که چگونه یک داستان دروغین می تواند به سرعت ایمان عمومی را شکل دهد به خصوص در محیط های دیجیتال که اغلب به شدت نادیده گرفته می شوند.

برای رفع این تهدید لازم است دانش رسانه ای تقویت شود. آموزش کاربران برای پرسیدن سؤالاتی مانند “این تصویر از کجا آمده است؟” یا “آیا منطقی است؟” این می تواند به کاهش تأثیر محتوای کاذب کمک کند. توسعه ابزارهای تشخیص خودکار اگرچه هنوز در مراحل اولیه است اما می تواند مکمل تلاش برای انسان باشد.

پایان پیام