گوگل تشخیص تصاویر ساخته یا ویرایش شده توسط هوش مصنوعی را ساده‌تر کرده است. این کار با افزودن واترمارک‌های دیجیتال نامرئی به تصاویری که با ابزار Reimagine ویرایش میشوند، انجام می‌شود.
Reimagine که همراه با سری پیکسل 9 به عنوان بخشی از ویژگی Magic Editor در Google Photos معرفی شد، این امکان را به کاربران می‌دهد که هر منطقه‌ای از یک تصویر را انتخاب کرده و آن را با یک دستور متنی به چیزی کاملاً متفاوت تبدیل کنند. این امکانات هوش مصنوعی معمولاً خلاقانه و سرگرم‌کننده هستند، اما میتوانند گمراه‌کننده هم باشند، زیرا تشخیص اینکه کدام بخش از تصویر واقعی است و کدام‌یک ویرایش شده، دشوار می‌شود.
تصاویر ساخته شده توسط هوش مصنوعی نشانه گذاری میشوند!
حالا، طبق اطلاعیه گوگل در بلاگ Google Photos، تصاویری که با Reimagine ویرایش شده‌اند، یک واترمارک نامرئی به نام SynthID دریافت می‌کنند. این واترمارک نشان می‌دهد که تغییرات انجام شده توسط هوش مصنوعی بوده‌اند. برای مشاهده این تغییرات، می‌توانید به بخش “About this image” (درباره این تصویر) مراجعه کنید و از آنجا ببینید که آیا تصویر ویرایش شده است یا خیر.
این اطلاعات تشخیص تصاویر جعلی در شبکه‌های اجتماعی یا پیام‌رسان‌ها را بسیار آسان‌تر می‌کند؛ به شرطی که این تصاویر با ابزارهای هوش مصنوعی گوگل ویرایش شده باشند. برای مثال، تصاویری که با Reimagine ویرایش شده‌اند، در بخش “AI info” در گوگل فوتوز نمایش داده میشوند که عبارت “Credit: Edited with Google AI, Digital source type: Edited using Generative AI” را نشان می‌دهد. شما می‌توانید این اطلاعات را خارج از گوگل فوتوز نیز مشاهده کنید: اگر کسی عکسی مشکوک برای شما ارسال کند، کافی است از ویژگی “Circle to Search” استفاده کنید تا تصویر را بررسی کرده و به دنبال نشانه‌های هوش مصنوعی بگردید.
واترمارک‌های SynthID تنها توسط نرم‌افزارهای خاصی قابل خواندن هستند و با چشم غیر مسلح قابل مشاهده نیستند. چون این واترمارک‌ها جزئی از خود تصویر هستند، حذف آن‌ها نسبت به تگ‌های معمولی تصویر که هر کسی می‌تواند با استفاده از ابزارها به راحتی حذف کند، سخت‌تر است.
گوگل قبلاً از SynthID برای واترمارک‌گذاری تصاویر تولید شده با ابزار Imagen خود استفاده می‌کرد. اما اکنون این ویژگی را به تصاویری که کاربران با استفاده از Reimagine ویرایش کرده‌اند، اعم از اینکه توسط هوش مصنوعی تولید شده باشند یا نه، اضافه کرده است. Reimagine در حال حاضر تنها بر روی سری Pixel 9 و نسخه‌های جدیدتر در دسترس است، اما همه دستگاه‌ها قادر به خواندن واترمارک‌های SynthID هستند.
واترمارک‌های هوش مصنوعی در Google Photos
واترمارک‌های SynthID به‌طور خاص برای مقاومت در برابر ویرایش و دستکاری‌های معمول طراحی شده‌اند و حذف آن‌ها دشوار است. با این حال، ویرایش‌های مکرر تصویر ممکن است باعث کاهش کیفیت آن‌ها در تشخیص عکس های ساخته شده توسط هوش مصنوعی شود. علاوه بر این، گوگل اشاره می‌کند که ویرایش‌های جزئی مانند “تغییر رنگ یک گل کوچک در پس‌زمینه تصویر” ممکن است از چشم SynthID دور بمانند و واترمارک‌گذاری نشوند، زیرا این تغییرات ممکن است آن‌قدر کوچک باشند که توسط فناوری تشخیص داده نشوند.
علاوه بر تصاویر، SynthID می‌تواند صدا، متن و ویدیو را نیز واترمارک‌گذاری کند. نرم‌افزار گوگل برای کدگذاری و کدگشایی واترمارک‌های SynthID در داخل متن همین حالا هم در دسترس عموم قرار دارد، اما ابزارهای واترمارک‌گذاری تصویری خود را پنهان نگه داشته است. این موضوع باعث می‌شود شیطنت‌ها برای یافتن راهی به منظور دور زدن این موضوع کمتر شود. اما همچنین به این معنا نیز هست که اگر نظارت عمومی نباشد، نمی‌توان فهمید گوگل چه اطلاعات دیگری را در تصاویر جاسازی می‌کند.
پس برای اینکه SynthID واقعاً مفید واقع شود، باید در دسترس عموم قرار گیرد.
گوگل باید ابزارهای SynthID را در دسترس عموم بگذارد
اگرچه اقدامات گوگل برای افزودن واترمارک برای تشخیص تصاویر ساخته شده با هوش مصنوعی قابل تحسین است، اما SynthID برای تصاویر تنها یک ابزار کوچک در مبارزه با دیپ‌فیک‌ها و اطلاعات غلطی است که با هوش مصنوعی تولید می‌شود. یکی از محدودیت‌ها این است که تنها گوگل قادر به شناسایی واترمارک‌های SynthID در تصاویر است. این به این معناست که در حالی که Google Photos، Circle to Search و Google Lens میتوانند تصاویر حاوی واترمارک SynthID را شناسایی کنند، سایر نرم‌افزارها قادر به انجام این کار نخواهند بود. به عنوان مثال، اگر تصویری که با ابزار “Reimagine” ویرایش شده را در اینستاگرام آپلود کنید، این اپلیکیشن قادر به تشخیص اینکه تصویر شما تولید شده توسط هوش مصنوعی است، نخواهد بود.
اینستاگرام از کاربران می‌خواهد که در صورت لزوم، برچسب “AI” را به تصاویر آپلود شده اضافه کنند و اشاره می‌کند که متا این برچسب‌گذاری را در شرایط خاصی الزامی کرده است. با این حال، تصمیم برای فعال کردن یا نکردن این برچسب همچنان به عهده کاربر است! بسیاری از ابزارهای رایگان و متن‌باز موجود هرگز کاربرد را مجبور نخواهند کرد که برچسب‌ها یا واترمارک‌هایی که باعث تشخیص تولید محتوا با هوش مصنوعی باشد، به محتوای خود اضافه کنند.
