Не вярвайте на никого: Какво заплашва невронната мрежа, прави порно
Дмитрий Куркин
Фалшиви порно клиповев която звездата на филма "Wonder Woman" Гал Gadot твърди, че правят секс с неговия брат, който се появи в мрежата тази седмица, се оказа не просто фалшив, а фалшив генериран от изкуствен интелект.
Авторът на видеото, анонимен потребител на reddit с прозвището deepfakes, в интервю с Vice, потвърди, че е използвал невронната мрежа, за да „вземе фотосесия“ лицето на Gadot към тялото на порно актрисата. Фалшивата, като цяло, е забележима, а дълбоките фейкове не са планирали да правят никакви пари за него - според него, той просто искаше да провери колко лесно би било да се използва AI. И той има лоши новини за нас: беше много лесно да се направи фалшиво порно у дома.
Проблемът, като цяло, не е в самите порнофикси: търсенето на снимки и видеоклипове, където знаменитости като актьори и актриси правят секс, е, е и ще бъде с фетишистите и феновете на усещанията. По отношение на външната прилика със звездите в порно индустрията се създават цели кариери - това явление дори е довело до забележително заглавие на жълтата преса: „Джуджето на Гордън Рамзи е намерено мъртво в язовирна дупка“.
Но ако преди производството се нуждаеше от време, ресурси и някакво умение, тогава невронната мрежа, обучена да заварява лица към изображението, значително опростява задачата. Роботите се придържат, не човек, а роботите от време на време стават по-умни, което означава, че фалшификатите ще изглеждат все по-надеждни. Потребителят на deepfakes поясни, че е събрал своя AI софтуер от импровизираните елементи, открити в библиотеките с отворен код, и е заснел снимки и видеоклипове в обществени канали и хостинг като YouTube. Казано по-просто, всички инструменти за генериране на pornofeikov лежат под носа му, не само с него, но и сред милиони хора по целия свят.
И това, строго погледнато, дори не е новина. Още през 2003 г. експерти от Университета на Орегон Здраве и наука предупредиха, че аудио-измами са "лесни за изработване и трудни за определяне". До 2017 г. предсказанието се сбъдна и имаше фалшиви звукови записи, генерирани от невронни мрежи, които са много трудни за разграничаване от реалните. Следвайки аудиото, видеото беше спряно. Развитието на персонала на университета във Вашингтон синхронизира изражението на лицето с лицето му с речта му: във видеоклипа с Барак Обама например, само аудио присъства, картината се генерира от програмата. Свържете се едно с другото - и сега има готови фалшиви видеоклипове, в които, да речем, известен либерален политик "признава" своите симпатии към Хитлер.
Необходимо е малко въображение, за да си представите как могат да доведат до такива злоупотреби изкуствения интелект - чатботите на Microsoft, които троловете от Twitter са се превърнали в расистки за по-малко от един ден, ще изглеждат като доста шега. Разбира се, порно-технологията не е застрашена главно от Гал Гадо, Тейлър Суифт или Дженифър Лоурънс. Те са достатъчно подсигурени, за да наемат армия от ИТ специалисти, които разпознават фалшификат, и флот от адвокати, които ще съдят всеки, който се опита да използва тези фалшификати за лична изгода.
Не, простите смъртни ще станат жертви на нови безвредни алгоритми. Цифровите фалшификати могат да се използват за порнография, кибер-преследване, мрежов тормоз, изнудване и манипулиране от хора, които са лесно внушителни и не следват новините от областта на напредналите технологии ("Вашата дъщеря е записана на видео, прехвърлете пари веднага, в противен случай ВСИЧКО ще се види"). И ние не говорим непременно за порно: фалшификати могат да бъдат пуснати в Мрежата за политическа пропаганда и подбуждане към омраза.
- Но това е чудовищно! Да, чудовищно, и не е виновен кодерът на дълбоките фънки. Тъй като хакерите понякога влизат в банковите системи не за да крадат пари, а за да насочат отдела за киберзащита към дупки в сигурността, така че е изобретен от анонимния програмист, само ни поставя пред факта: ерата на цифровите фалшификати не е антиутопична история на ужасите. "Черно огледало" и предстоящата реалност. Тя все още не е разбрана от съвременната етика (може ли порнофилите да се разглеждат като нахлуване в личния живот на други хора?), Нито с действащия закон. Но в нея трябва да живеем по някакъв начин през следващите години. Така че е необходимо да се разработи антидот срещу такова запълване.
Корените на речниците на Колинс наричат термина "фалшива новина" израза на 2017 г., като подчертават, че средният потребител е пристрастен към кликането и пресъздава сензационните заглавия, без да губи време за проверка на автентичността на информацията. Междувременно, фалшивите новини могат да повлияят на резултатите от изборите и референдумите. И това също е част от новата реалност, в която вече съществуваме и в която ще трябва да се научим да бъдем по-малко несериозни.
Социалните мрежи вече са направили интернет един стъклен стенен дом, където милиони хора могат да гледат живота ви всеки ден - дори когато не го искате. Сега е очевидно, че в тази къща няма врата: всеки може да се опита да нахлуе във вашето лично пространство, използвайки AI, за да изкриви лицето ви от порнорола или от филма „Властелинът на пръстените“. Поверителността е мъртва, но не само Биг Брадър е виновен за това под формата на специални служби и глобални корпорации, но и на нас самите.
Светът на дигиталните фалшификати идва, но това не е причина за паника, параноя, отказ от използване на интернет или изисквания за забрана на невронни мрежи. Това е причина да се мисли за мрежова хигиена и нова етика, в която тя ще бъде фиксирана веднъж завинаги, че използването на чужд образ за създаване на цифрова фалшива е нищожно и незаконно. Времената, в които хората безусловно вярват на всичко, което казват по телевизията (дори ако казват, че “Ленин е гъба”), изчезват. По същия начин постепенно се привикваме да не вярваме на всичко, което е написано в интернет.
Корица:Warp записи