Діпфейки: як працюють і як навчитися їх розпізнавати?

Що таке діпфейк? Deepfake – це технологія, яка використовує штучний інтелект для створення реалістичних підроблених аудіо- та відеозаписів, які часто вводять в оману. Їх можна використовувати для дезінформації, політичних маніпуляцій чи шахрайства.

Щоб захиститись від шахраїв, які використовують діпфейки, важливо використовувати інструменти перевірки контенту, висвітлювати в громадськості та застосовувати передові рішення на основі штучного інтелекту для виявлення підроблених матеріалів.

Що таке діпфейк

Діпфейки – це методи створення підробленого мультимедійного контенту, такого, як зображення, відео- або аудіозаписи, використовуючи штучний інтелект. Назва походить від поєднання слів Deep learning («глибоке навчання») та Fake («підробка»). Deepfakes використовують передові алгоритми машинного навчання створення реалістичних, але хибних кадрів, у яких одна людина замінюється точної «копією» іншого.

Технологія deep fake дозволяє створювати надзвичайно переконливі підробки, які важко відрізнити від справжніх записів. Діпфейки можуть зображати, наприклад:

• знаменитостей у компрометуючих ситуаціях;
• політиків, які роблять спірні заяви;
• звичайних людей у ​​фальшивих чи провокаційних сценах.

Як працюють діпфейки?

Як працює технологія deepfake? Створення діпфейків ґрунтується на використанні глибоких нейронних мереж, навчених на великих наборах даних, таких, як тисячі фотографій або відео однієї людини. Алгоритми аналізують риси обличчя, міміку та інтонацію голосу, навчаючись відтворювати в нових, підроблених матеріалах.

Ключовий прийом тут – підміна осіб. Нейронна мережа «накладає» обличчя однієї людини на тіло іншої у вихідному записі, зіставляючи його за висвітленням, ракурсом та виразом обличчя. Інший підхід – синтез мови, при якому модель ШІ генерує голос, що звучить ідентично голосу конкретної людини, на основі зразків її реальної мови.

Весь процес значною мірою автоматизовано за рахунок використання методів машинного навчання, таких, як GAN (генеративно-змагальні мережі). Дві конкуруючі нейронні мережі – генератор і дискримінатор – навчають одна одну, покращуючи якість діпфейків у наступних ітераціях.

Існують також готові інструменти, такі, як FakeApp або DeepFaceLab, які дозволяють людям без особливих знань створювати переконливі підробки.

Як розпізнати діпфейк та захиститися?

Розпізнавання діпфейків – складне завдання, що вимагає як технічних знань, так і пильності,  критичного мислення. У міру того, як технології створення фейкових медіа продовжують удосконалюватися, реалістичність діпфейків продовжує зростати, через що їх стає важче відрізнити від справжніх записів. Однак є кілька порад та методів, які можуть допомогти виявити потенційні підробки.

Отже, як розпізнати діпфейк? По-перше, варто звернути увагу на будь-які аномалії та невідповідності у самому записі. Діпфейки, хоч і стають усе більше “просунутими”, як і раніше, часто містять незначні помилки та артефакти, які видають їхню синтетичну природу.

До них можуть належати, наприклад:

• неприродні рухи рота, які не синхронізовані зі звуком;
• дивне моргання або асиметрія обличчя, що вказують на цифрову маніпуляцію зображеннями.

Також варто звернути увагу на такі деталі, як відображення в зіницях, тіні, що падають, або елементи фону, які можуть виглядати неприродно або навіть бути фізично неможливими в діпфейках.

Також може бути корисний аналіз метаданих запису, таких, як:

• дата створення файлу;
• інформація про автора;
• розташування GPS.

Діпфейки часто не містять цих даних або містять суперечливу та підозрілу інформацію, що вказує на маніпуляцію. Також варто звернути увагу на те, як поширюється запис: підробки часто спочатку з’являються на спеціалізованих форумах чи в соціальних мережах, а вже потім підхоплюються мейнстрімом. Початковий контекст і джерело матеріалу можуть багато сказати про його справжність.

Такі інструменти, як Deeptrace, Sensity та Reality Defender здатні з великою точністю визначати діпфейки, хоча для інтерпретації результатів потрібні спеціальні знання.

Розробка ігор 2D та 3D

Ліцей

Поради батькам: як захистити дитину

Діпфейки – це більше, ніж просто цифрові хитрощі. Вони можуть становити серйозну небезпеку для дітей, впливаючи на їхню безпеку, конфіденційність та емоційне благополуччя. Ось деякі особливі ризики для дітей:

• Крадіжка особистих даних. Deepfakes можуть видавати себе за обличчя або голос дитини, потенційно відкриваючи доступ до особистих облікових записів, шахрайство або маніпулюючи членами сім’ї.
• Кібербулінг. Діпфейки можуть використовуватися для створення контенту, що висміює або принижує дітей, що може призвести до кібербулінгу.
• Дезінформація. Діти можуть бути введені в оману за допомогою сфальшованих відео або зображень, що може викликати плутанину щодо реальності та вплинути на  сприйняття ними світу.
• Вторгнення в особисте життя. Особисті фотографії або відео, розміщені в інтернеті, можуть використовуватися для створення діпфейків, наражаючи дітей на ризик видачі себе за інших або переслідування.

Як говорити з дітьми про штучний інтелект і діпфейки? Відкриті, спокійні та відповідні віку розмови – найпотужніші інструменти, які є у вас як у батьків. З чого розпочати?

Адаптуйте пояснення штучного інтелекту та діпфейків до віку та рівня розуміння вашої дитини. Як тільки ваші діти зрозуміють основи, поясніть їм, що ШІ може бути використаний і не за призначенням. Наведіть приклади: підроблене відео, на якому хтось говорить або робить те, чого насправді не робив.

Навчайте дитину критичному мисленню і заохочуйте її завжди ставити під сумнів те, що вона бачить в інтернеті. Обговоріть правила поведінки в інтернеті та встановіть правила обміну фотографіями, відео або особистою інформацією.