تشخیص اکانت فیک – عکس پروفایل Fake را تشخیص دهید
V7 Labs یک نرم افزار جدید مبتنی بر هوش مصنوعی (AI) ایجاد کرده است که به عنوان یک افزونه گوگل کروم کار می کند و قادر است تصاویر پروفایل تولید شده مصنوعی – مانند موارد بالا – را با دقت ادعایی 99.28 درصد تشخیص دهد.
V7 یک شرکت نرم افزاری است که محصولاتی را طراحی می کند که برای خودکارسازی کارهای بصری ساخته شده اند. این شرکت می‌گوید که دنیا بر تصمیم‌گیری بصری متکی است و در تلاش است تا یادگیری عمیق را قوی‌تر و آسان‌تر کند تا هر کسب‌وکاری بتواند هوش مصنوعی پیشرفته‌ای را از یک پلتفرم واحد پیاده‌سازی کند.
تشخیص عکس پروفایل جعلی و فیک
آلبرتو ریزولی، یکی از بنیانگذاران V7 Labs، نرم افزار جدید را برای کمک به مهار اطلاعات نادرست آنلاین توصیف می کند. او این ویژگی را در ویدئویی که در Loom منتشر شده نشان داده است.
ریتزولی می‌گوید: «این روزها محتوای گمراه‌کننده زیادی در رسانه‌های اجتماعی وجود دارد و یکی از انتشار دهندگان آن پروفایل‌های جعلی هستند. ما یک افزونه کروم ساختیم که می‌تواند تشخیص دهد که آیا یک عکس نمایه یک شخص واقعی است یا یک پرتره ایجاد شده توسط هوش مصنوعی.
او با بررسی عکس نمایه شخصی که اخیراً او را به لینکدین اضافه کرده است، نحوه کار را نشان می دهد. با چند کلیک، افزونه توانست به سرعت تشخیص دهد که او یک فرد جعلی است. در آن مثال خاص، برخی از شاخص‌های گویا وجود داشت که عکس واقعی نبود، مانند گوشواره‌ای که به طرز نامناسبی قرار داده شده بود و مردمک‌هایی با ظاهری عجیب. با این حال، این موارد فقط با بازرسی دقیق متوجه می شوند و تصاویر پروفایل جعلی هنوز می توانند کاملا گمراه کننده باشند.
Rizzoli مثال دومی را نشان می‌دهد که بسیار واقعی‌تر است و نقص‌های کمتر یا بدون فوراً قابل‌توجهی دارد، اما افزونه او توانست آن را به عنوان یک عکس جعلی با اطمینان تقریباً 100٪ تشخیص دهد.
او توضیح می‌دهد که بسیاری از این عکس‌ها در وب‌سایت This Person Does Not Exist تولید شده‌اند ، که روی یک ژنراتور چهره هوش مصنوعی کار می‌کند که توسط NVIDIA StyleGAN، یک شبکه عصبی که در سال 2018 توسعه داده است، کار می‌کند. این سایت توسط یک مهندس نرم‌افزار راه‌اندازی شده است. سانفرانسیسکو و استفاده از آن بسیار ساده است. پس از بارگذاری سایت، به سادگی یک چهره جدید تولید شده توسط هوش مصنوعی را نشان می دهد. هر بار که صفحه به روز می شود، یک چهره جدید ظاهر می شود که از ابتدا از یک بردار 512 بعدی ساخته شده است .
دو عکس بالا با استفاده از این فرآیند تولید شده اند.
ویژگی هایی وجود دارد که مولد چهره هوش مصنوعی از خود نشان می دهد، مانند شخصی که به خوبی در کادر عکس و ویژگی های صورت متمرکز شده است. همانطور که گفته شد، نرم افزار Rizzoli هنوز هم می تواند بین یک شخص واقعی در عکسی که بسیار شبیه عکس هایی است که با استفاده از برنامه هوش مصنوعی تولید شده است، و جعلی تفاوت قائل شود.
مبارزه با اطلاعات غلط خطرناک
چند نمونه اول Rizzoli نسبتاً بی ضرر به نظر می رسند، اما او می گوید که نرم افزار او می تواند بهتر با اخبار جعلی و اطلاعات نادرست مبارزه کند.
او می گوید: «این چیزی است که بسیار در حال رشد است، به خصوص در آمازون که ده ها نویسنده کتاب در آن حضور دارند. این امر به طور فزاینده ای رایج می شود که بسیار ارزان است تا فقط یک شخصیت جعلی ایجاد کنید و به مردم آموزش بازاریابی را انجام دهید. شاید بخشی از یک طرح بزرگتر باشد.»
آنها البته در رسانه های اجتماعی نیز وجود دارند، زیرا ریتزولی به نمونه ای از کاربر توییتر با چهره ای تولید شده توسط هوش مصنوعی اشاره می کند که در حال انتشار اطلاعات نادرست در مورد جنگ در اوکراین است.
او می‌گوید: «این برنامه افزودنی کروم به مقامات (و افراد عادی) کمک می‌کند تا نمایه‌هایی را که اخبار جعلی منتشر می‌کنند و هرج‌ومرج اطلاعاتی ایجاد می‌کنند، شناسایی و گزارش کنند، به‌ویژه در مواجهه با تهاجم روسیه به اوکراین .
در حال حاضر، برنامه افزودنی فقط بر روی تصاویر تولید شده توسط GaN کار می کند، بنابراین قادر به تشخیص دیپ فیک های با کیفیت بالا که در ویدیوها وجود دارد، نیست. حداقل الان نه.