live

Те, що ніхто не говорив: Чим небезпечні діпфейки та як їх розпізнати

Топ-новина
Топ-новина
Фото EAST NEWS Скріншот діпфейка з Бараком Обамою, на якому відмічені маркерні ділянки обличчя
загрузка...
загрузка...

Фейкові відео в майбутньому можуть спричинити чимало проблем і наразі немає інструментів для їх розпізнання

Щоденно людство отримує велику кількість інформації з різних джерел, в тому числі і з відео-контенту. Проте в відео можуть показувати те, що ніхто ніколи не говорив, і видавати це за правду. Сучасні технології дозволяють вкладати в уста людей заяви, яких не було в реальності. А якщо таких відео буде безліч? Як у такій ситуації розпізнати правду?

Розповідаємо детальніше, що таке діпфейк і як боротися з його розповсюдженням.

Діпфейк – що це?

Діпфейк або deepfake – це технологія створення несправжніх, фейкових, відео за допомогою штучного інтелекту, 3D-моделювання та нейросистем для заміни облич. Такі технології дозволяють створити відео, якого насправді не було, "змусити" людину говорити те, чого вона ніколи не говорила. Наприклад, у 2018 році в мережі з’явилося відео, в якому колишній президент США Барак Обама назвав Дональда Трампа "засранцем". Тоді автори відео самі зізналися у створенні фейкового ролика і закликали користувачів бути більш пильними.

Фейкове відео з’явилося в червні 2019 року з главою Facebook Марком Цукербергом, в якому він говорить про те, що "одна людина володіє краденими даними про мільярди людей, всі їхні таємниці, їхнє життя та майбутнє".

І таких діпфейків у мережі чимало.

Фахівці зазначають, що діпфейк можна розпізнати за деякими особливостями – людина на відео рідко моргає, можуть бути неприродні рухи голови чи колір очей. Проте таких характеристик замало, щоб пересічні глядачі змогли відразу впізнати фейкове відео.

Чим небезпечні діпфейки

Після обнародування відео з Бараком Обамою, в США припустили, що діпфейки стануть найсучаснішою інформаційною зброєю. Вона буде особливо затребуваною в умовах дезінформаційних воєн. Експерти вважають, що ця технологія буде використовуватися для внесення плутанини і поширення дезінформації. І відрізнити правду від брехні буде все важче.

У компанії IntSights назвали діпфейки однією із головних загроз кібербезпеки 2019 року. Ця тенденція збережеться і в 2020 році. А фахівці компанії Forcepoint вважають, що кіберзлочинці можуть використовувати діпфейки для створення компрометуючих фото і відео, а потім за їхньою допомогою шантажувати людей для отримання бажаного.

При великій кількості фейкових новин глядачі не зможуть відрізнити правду від вимислу і втратять довіру до інформації.

Тож важливо створити програми, які будуть виявляти несправжні відео.

Як намагаються боротися з діпфейками

Наразі діпфейки ще не спричинили великих проблем, проте в майбутньому можливе їх використання з умисним впливом на політичну, соціальну ситуацію, на життя окремої людини чи групи осіб.

В США були стурбовані ймовірністю впливу на вибори за допомогою фейкових відео. Департамент оборони США та університети і працюють над технологіями виявлення підроблених зображень та відео.

До того ж Сполучені Штати Америки готові заплатити чималі гроші за відповідний інструмент. З метою стимулювати розробку технологій закон про Оборонний бюджет США (NDAA) передбачає проведення відповідного конкурсу в рамках Проектів з просунутого штучного інтелекту. Приз у 5 мільйонів доларів може бути призначено одному, або декільком переможцям у конкурсі, який проводитиме служба Директора національної розвідки США.

У США переконані, що загроза використання діпфейків йде з Росії та Китаю. Проте використанням фекових відео занепокоєні і в Китаї – влада розробила правила регулювання інтернет-простору. Так, з 1 січня 2020 року використання та розповсюдження діпфейків без позначення його неправдивості буде вважатися кримінальним злочином.

Ці правила стосуються не тільки розробників, а й тих, хто таке відео завантажує, та інтернет-площадок, на яких воно буде розповсюджуватися. Від останніх вимагають розробити та впровадити технологію, здатну автоматично розпізнавати діпфейки.

Боротися з маніпулятивним контентом, в тому числі і з діпфейками будуть і в соціальних мережах. Так, в Facebook повідомили про посилення у 2020 році заходів проти такого відео. Особливо це важливо у контексті виборів президента США восени цього року.

В соцмережі виокремили два критерія, через які відео будуть видалені:

- їх редагували чи обробляли (якщо це не стосується якості або чіткості зображення) в спосіб, через який глядач може вважати, що людина на відео каже щось, чого вона насправді не говорила;
- їх створив штучний інтелект чи машинне навчання, яке поєднує, замінює чи накладає контент на відео в такий спосіб, що вони видаються справжніми.

При цьому відео, створені для пародії чи сатир, зміни порядку слів або вилучення окремих фраз, видаляти не будуть. Видалене відео будуть перевіряти, і якщо оцінять його як фейкове чи частково фейкове, його розповсюдження обмежать. А користувачі, які намагатимуться його поширити, отримають попередження, що контент фальшивий.

Попередити розповсюдження діпфейків вирішили й на соціальній платформі Reddit. Там змінили правила публікації відредагованих матеріалів і заборонили публікацію діпфейків - від шахрайського використання чужих осіб до просто заяви про себе від імені інших людей.

В майбутньому вони можуть спричинити значні проблеми до того, як їх викриють. Технології створення фейкових відео розвиваються швидше ніж засоби їх розпізнання. Наразі ще немає технології по викриттю діпфейків – над створенням такого засобу працюють в міністерстві оборони США.

 
Loading...
Loading...

Редакція не несе відповідальності за думку, яку автори висловлюють у блогах на сторінках ZIK.UA

*Якщо Ви знайшли помилку в тексті новини, виділіть її та натисніть Ctrl+Enter.

Loading...