DEEPFAKE چیست ؟

توسط | هوش مصنوعی

Deepfake یک فناوری مبتنی بر هوش مصنوعی است که برای تولید یا تغییر محتوای ویدیو به کار می رود و در واقع چیزی را ارائه می دهد که رخ نداده است. این فناوری بخشی از یادگیری عمیق است.

deepfake کاربردهای فراوانی دارد برای مثال در صورت تغییر در یک پلان از فیلم، اگر بازیگران تغییرات حالت خاصی نداشته باشند ، می توان به جای ساخت دوباره پلان های گرفته شده، آن قسمت از فیلم را به روزرسانی کرد . با این وجود، این فناوری از پتانسیل استفاده مخرب زیادی برخوردار است که منجر به سوءاستفاده های فراوانی شده است. فقط از چند سال پیش تاکنون که اولین محصولات این فناوری بوجود آمدند، پیشرفت های بسیار چشمگیری در کیفیت یادگیری عمیق رخ داده است. از آن زمان تاکنون دانشمندان حوزه هوش مصنوعی نسبت به اثرات مخرب این فناوری بارها هشدار داده اند.

جالب است بدانید تازه هنگامی که محققان دانشگاه واشنگتن فیلمی غیرواقعی از باراک اوباما را در اینترنت منتشر کردند ، مشخص شد که این فناوری چه قابلیت های مخربی دارد . این محققان توانستند آنچه را که می خواستند در این ویدئو از زبان اوباما بیان کنند. حال تصور کنید که که عده ای بخواهند از این فناوری برای ساخت فیلم هایی از مقامات کشورها در جهت منافع خودشان استفاده کنند ، قطعا تحولات بزرگی بوجود خواهد آمد که می تواند تهدیدی برای امنیت جهانی باشد. نمونه دیگری از این فناوری ، یک فیلم تغییر یافته از سخنگوی مجلس آمریکا خانم نانسی پلوسی است که توسط دونالد ترامپ  بازخوانی شد و موجب بروز اختلافاتی بین دولت و کنگره آمریکا گردید.

DEEPFAKE به سرعت رشد می کند

فناوری Deepfake سریعتر از آن چیزی که تصور می شود ، در حال پیشرفت است. اخیرا محققان یک ابزار نرم افزاری جدید ایجاد کرده اند که به کاربران این امکان را می دهد تا به راحتی یک ویدیو را ویرایش کنند. این فناوری هنوز در دسترس عموم مردم نیست اما نمونه کارهایی که انجام شده نشانگر سهولت استفاده از این ابزار برای تغییر فیلم ها است.

فناوری دیگر این حوزه Deep Video Portraits است . این فناوری سیستمی است که در دانشگاه استنفورد ساخته شده و نه تنها می تواند حالت های گوناگون چهره را دستکاری کند ، بلکه توانایی آن را دارد که حرکت های مختلفی از جمله موقعیت های کامل سه بعدی سر، نگاه چشم ، چشمک زدن و حتی چرخش سر را نیز با استفاده از عصب مولد ایجاد کند. اگرچه این فیلم ها بی نقص نیستند، اما به طرز باورنکردنی واقعی بنظر می رسند. این سیستم می تواند برای دوبله صوتی یک فیلم به زبان های دیگر بسیار مفید باشد اما در عین حال محققان به خوبی می دانند که می توان از آن سوءاستفاده های فراوانی کرد.

فناوری شگرف

آزمایشگاه هوش مصنوعی سامسونگ با استفاده از این فناوری، لبخند ژوکوند مونالیزا و یک “پرتره زنده” از سالوادور دالی ، مریلین مونرو و دیگران را با استفاده از یادگیری ماشین برای ایجاد فیلم های واقع گرایانه از یک تصویر واحد ایجاد کرده است.این سیستم فقط برای ایجاد تصویر زنده نیاز به چند عکس از چهره واقعی دارد. این موضوع می تواند افراد عادی را که بدلیل نبود ویدئوهای کافی از آن ها فکر می کنند در برابر این فناوری مصون اند دچار نگرانی کند. هوش مصنوعی سامسونگ نشان می دهد که می تواند ویدئوهای واقع گرایانه ای با فیلم های ویدیویی و عکس های عمومی تر تهیه کند.

حال که می دانیم با چه فناوری و دانشی روبرو هستیم ، واقع بینانه تر و راحت تر از آن استفاده می کنیم ، اما سوال اصلی این است که برای محافظت از خود و دیگران در برابر سوء استفاده های حاصل از این فناوری باید چه کارهایی انجام دهیم ؟

آیا شبکه های اجتماعی مجبور می شوند فیلم های انتشاریافته را حذف کنند؟

آیا راهی برای جدا کردن سرگرمی از سوء استفاده وجود دارد؟