Новини » Світ 24 квітня, 2019, 11:54
Системи штучного інтелекту як загроза демократії
Фото: Getty Images/Global Images Ukraine
Фото: Getty Images/Global Images Ukraine

Американський технологічний гігант Microsoft об’єднався з китайським військовим університетом для розробки систем штучного інтелекту, які потенційно могли б підвищити можливості державного нагляду та цензури. Два американські сенатори публічно засудили таке партнерство, проте те, чого хоче від Майкрософт Національний університет оборонних технологій Китаю, – не єдина проблема.

Дослідження, опубліковане у виданні International Business Times, свідчить про те, що поява цифрових репресій глибоко впливає на відносини між громадянами та державою. Нові технології озброюють уряди безпрецедентними можливостями для моніторингу та спостереження за окремими людьми. Навіть уряди в демократичних країнах з сильними традиціями верховенства права піддаються спокусі скористатися з цих нових можливостей.

Країнам зі слабкими демократичними установами та частими порушеннями прав людини, системи штучного інтелекту (ШІ) швидше за все нанесуть величезний удар. Китай є яскравим цьому прикладом. Його керівництво з ентузіазмом взялися за технології штучного інтелекту та створило найскладнішу державну систему спостереження у провінції Сіньцзян, щоденно відстежуючи пересування громадян та використання ними смартфонів.

Така експлуатація цих технологій є згубним прикладом для автократів та становить пряму загрозу відкритим демократичним суспільствам. Хоча немає жодних доказів того, що інші уряди за допомогою ШІ встановили такий же ж рівень спостереження, китайські компанії активно експортують ці технології по всьому світу.

Системи штучного інтелекту застосовуються у всьому світі, допомагаючи запускати смартфони, пошукові системи в Інтернеті та цифрові голосові помічники. Багато людей не усвідомлюють, наскільки швидко розвиваються ШІ завдяки постійно зростаючому обсягу даних, вдосконаленим алгоритмам та просунутим комп’ютерним мікросхемам.

Щоразу, коли з’являється більше інформації та її аналіз стає легшим, інтерес уряду, і не лише авторитарного, зростає. У США, наприклад, у 1970-х роках з’явилася інформація про те, що урядові установи, такі як ФБР, ЦРУ та Агентство національної безпеки, створили мережі вітчизняного спостереження для моніторингу та переслідування тих, хто виступав за громадянські права, політичних активістів та індіанських груп. Ці проблеми ніде не зникли: сьогодні цифрові технології підвищили здатність ще більшої кількості агентств проводити ще більш ретельний нагляд.

Наприклад, американська поліція охоче запровадила технології штучного інтелекту. Вона почала використовувати програмне забезпечення, яке покликане передбачити, де, швидше за все, можуть відбутися злочини, щоб вирішити, куди відправити офіцерів на патрулювання. Вона також використовує розпізнавання обличчя та аналіз ДНК у кримінальних розслідуваннях. Проте, аналіз цих систем свідчить про упередженість даних, що часто призводить до хибних висновків, таких як помилкове твердження про те, що афроамериканці частіше скоюють злочини, ніж люди іншої раси.

В авторитарних країнах системи штучного інтелекту можуть безпосередньо здійснювати внутрішній контроль та нагляд, допомагаючи внутрішнім силам безпеки обробляти величезну кількість інформації, включаючи повідомлення соціальних медіа, текстові повідомлення, електронні листи та телефонні дзвінки, швидше та ефективніше. Поліція може визначити соціальні тенденції та конкретних людей, що можуть становити загрозу для режиму на основі інформації, виявленої цими системами.

Наприклад, китайський уряд використовував ШІ для широкомасштабних репресій у регіонах, де проживають етнічні меншини. Системи спостереження у Сіньцзяні та Тибеті були описані як «орвельські». За допомогою цих систем китайські органи влади «довільно затримували» від 1 до 2 млн осіб.

Дослідження, опубліковане у виданні International Business Times, розглянуло 90 країн світу, від закритих авторитарних режимів до недосконалих демократій, включаючи Таїланд, Туреччину, Бангладеш та Кенію. Виявилося, що китайські компанії експортують технології спостереження ШІ принаймні у 54 з цих країн. Дуже часто ця технологія є частиною ініціативи Китаю «Один пояс – один шлях», яка фінансує розгалужену мережу доріг, залізниць, енергетичних трубопроводів та телекомунікаційних мереж, які обслуговують 60% населення світу та економіки, які виробляють 40% світового ВВП.

Наприклад, китайські компанії, такі як Huawei та ZTE, будують «розумні міста» у Пакистані, на Філіппінах і в Кенії, що включають вбудовані технології спостереження. Наприклад, Huawei облаштував Bonifacio Global City на Філіппінах камерами високої чіткості, підключеними до Інтернету, які забезпечують «цілодобове інтелектуальне спостереження з аналітикою даних для виявлення злочинів та допомоги в управлінні трафіком».

Hikvision, Yitu і SenseTime поставляють сучасні фотокамери для розпізнавання облич для використання в таких містах як Сінгапур, який оголосив про створення програми спостереження з 110 000 фотоапаратів, що будуть вбудовані у вуличні ліхтарі. Зімбабве створює національну базу даних, яка може використовуватися для розпізнавання облич.

Однак продаж сучасного обладнання для отримання прибутку відрізняється від використання технології з вираженою геополітичною метою. Ці нові можливості можуть стати початком глобального спостереження: оскільки уряди, щоб керувати своїм населенням та підтримувати владу, стають все більш залежними від китайських технологій, вони будуть стикатися з все більшим тиском з боку Китаю. Проте, наразі видається, що основним мотивом Китаю є домінувати на ринку нових технологій та отримати величезний прибуток від цього.

Окрім можливостей у сфері спостереження, ШІ може допомогти репресивним урядам маніпулювати наявною інформацією та поширювати дезінформацію. Як відомо, штучний інтелект також стоїть за технологією «діпфейк», механізмом заміщення обличчя однієї людини на відео обличчям іншої. Стирання меж між правдою та вигадкою може стати небезпечним інструментом на виборах, де існує незначна різниця у голосах, коли один кандидат зможе створити фальшиві відео, демонструючи свого конкурента у негативному світлі.

На думку Стівена Фельдштейна, доцента та завідувача кафедри ім.Френка та Бетіни Черч в Державному університеті Бойсе, політики у демократичних країнах повинні ретельно зважити усі ризики, пов’язані з ШІ як у своїх суспільствах, так і суспільствах, що живуть під авторитарними режимами в усьому світі. Важливим питанням є те, як багато країн приймуть китайську модель цифрового спостереження. Проте, видання International Business Times, зазначає, що не лише авторитарні країни відчувають спокусу скористатися з ШІ. І не лише китайські компанії поширюють цю технологію: багато американських компаній, включаючи Microsoft, IBM, Cisco та Thermo Fisher, також надають розширені можливості тоталітарним урядам. Зловживання ШІ не обмежується лише автократичними державами.

Переклад з англійської Оксани Вергелес, для ІА ZIK

Редакція не завжди поділяє позицію авторів публікацій.

* Якщо Ви знайшли помилку в тексті новини, виділіть її та натисніть Ctrl+Enter.
реклама
більше новин
Top
2019-05-19 09:19 :06