Съдържание
- Какво е deepfake?
- Как работи deepfake?
- Произходът
- Опасностите
- Намиране на решение
- Популярно съдържание на deepfake
Съдържанието на Deepfake създава хаос сред хората, израснали с идеята, че виждането вярва. Снимките и видеоклиповете, считани някога за безспорни доказателства за нещо, което се случва, сега са поставени под въпрос от масите. Това може да се очаква, след като разберете удивително реалистичното видео на Барак Обама, който нарича президента Тръмп „тотален и завършен модел ****“, не е нищо друго освен създаване на дълбоки фалшификати.
Съдържанието на Deepfake създава хаос сред хората, израснали с идеята, че виждането вярва.
Едгар СервантесТехнологията, която участва, повдига вежди и генерира въпроси, поради което сме тук, за да ви предоставим пълното задълбочено описание на това какво представлява, как работи и дали наистина има причина да се притеснявате.
Какво е deepfake?
Deepfake е AI (изкуствен интелект) техника, която използва машинно обучение за създаване или манипулиране на съдържание. Често се използва за създаване на монтажи или наслагване на лице на човек над друг, но неговите възможности се простират далеч отвъд това. Тази технология има много други приложения. Те включват манипулиране или създаване на звук, движение, пейзажи, животни и др.
Как работи deepfake?
Съдържанието на Deepfake се създава чрез техника на машинно обучение, известна като GAN (генеративна състезателна мрежа). GAN използват две невронни мрежи: генератор и дискриминатор. Те постоянно се състезават един срещу друг.
Генераторът ще се опита да създаде реалистично изображение, докато дискриминаторът ще се опита да определи дали е фалшив или не. Ако генераторът заблуди дискриминатора, дискриминаторът използва събраната информация, за да стане по-добър съдия. По същия начин, ако дискриминаторът определи, че изображението на генератора е фалшиво, генераторът ще стане по-добър при създаването на фалшиво изображение. Безкрайният цикъл може да продължи, докато изображението, видеото или аудиото вече не са видимо фалшиви за човешката перспектива.
Произходът
Първите видеоклипове на deepfake очевидно бяха порно!
Едгар СервантесПървите видеоклипове на deepfake очевидно бяха порно! По-конкретно, беше обичайно да виждаме лица на знаменитости, наслагвани над порно актриси. Мемовете на Никълъс Кейдж също бяха популярни, сред другите забавни изобретения.
Думата deepfake стана синоним на тази техника през 2017 г., благодарение на потребител на Reddit, който получи името „deepfakes“. Потребителят се присъедини от други в сега забранените R / deepfakes subreddit, където те споделиха своите творения със света.
Истинският създател на генеративни състезателни мрежи е Иън Гудфелд. Заедно с колегите си той представи концепцията в Университета в Монреал през 2014 г. След това премина към работа за Google и в момента е нает в Apple.
Опасностите
В грешни ръце, създаването на дълбоки фалшици може да се използва за фалшифициране на много повече от глупавите мемоари на Никълъс Кейдж.
Едгар СервантесВъпреки че манипулацията със съдържание не е нищо ново, тя изискваше сериозни умения. Трябваше ви мощен компютър и наистина добра причина (или просто прекалено много свободно време), за да направите фалшиво съдържание. Софтуерът за създаване на Deepfake като FakeApp е безплатен, лесен за намиране и не изисква много компютърна мощност. И тъй като върши цялата работа сама по себе си, не е нужно да сте квалифициран редактор, за да правите безумно истински дълбочинни медии.
Ето защо широката общественост, знаменитостите, политическите субекти и правителствата се притесняват от движението на дълбоките фалшификати. В грешни ръце, създаването на дълбоки фалшици може да се използва за фалшифициране на много повече от глупавите мемоари на Никълъс Кейдж. Представете си някой да създава фалшиви новини или да инкриминира видео доказателства. Можете да добавите фалшиви и да отмъстите порно към проблема. Нещата могат да се объркат наистина бързо.
Друга причина да се притеснявате за съдържанието на дълбоки фейкове е, че важните личности също могат да отрекат минали действия. Тъй като видеоклиповете на deepfake изглеждат толкова истински, всеки би могъл да твърди, че истински клип е deepfake.
Прочетете също: Сложността на етиката и AI
Намиране на решение
Въпреки че е много близо до реалното, обучено око все още може да забележи фалшив видеоклип, като обърне голямо внимание. Тревогата е, че в един момент в бъдеще може да не успеем да кажем разликата.
Twitter, Pornhub, Reddit и други безуспешно се опитват да се отърват от такова съдържание. От по-официална страна, DARPA (Агенция за напреднали научноизследователски проекти в областта на отбраната) работи с изследователски институции и Университета в Колорадо, за да създаде начин да забележите дълбоки вълни.
Най-доброто, което можем да направим за борба с видеоклипове в дълбоки фалшиви игри е да бъдем по-наблюдателни и по-малко лековерни.
Едгар СервантесДокато нямаме софтуер, който може да забележи нередности в подобни видеоклипове, най-доброто, което можем да направим, е да бъдем по-наблюдателни и по-малко лековерни. Направете проучване, преди да приемете, че видео, изображение или аудио е реално. Това е нещо, което трябваше да правим вече, така или иначе.
Популярно съдържание на deepfake
Jordan Peele се присъединява към Buzzfeed, за да състави това видео, което има за цел да създаде съзнание.
Онлайн експертът по манипулация Клер Уорд ни показва колко реалистично могат да изглеждат тези видеоклипове, като се появяват като Адел през първите 30 секунди от видеото. Това видео от The New York Times ни дава чудесен поглед върху темата.
Watchmojo дава е курирал списък на някои от най-популярните deepfake видеоклипове наоколо. Това е забавно видео с много страхотни примери.
Притеснявате ли се от последствията от deepfake видеоклипове? Това със сигурност е тема, която трябва да имаме предвид, като същевременно работим и върху намирането на решения.
