Новости » Мир 24 апреля, 2019, 12:22
Системы искусственного интеллекта как угроза демократии

Американский технологический гигант Microsoft объединился с китайским военным университетом для разработки систем искусственного интеллекта, которые потенциально могли бы повысить возможности государственного надзора и цензуры. Два американских сенатора публично осудили такое партнерство, однако то, чего хочет от Майкрософт Национальный университет оборонных технологий Китая, – не единственная проблема.

Исследование, опубликованное в издании International Business Times, свидетельствует о том, что появление цифровых репрессий глубоко влияет на отношения между гражданами и государством. Новые технологии вооружают правительства беспрецедентными возможностями для мониторинга и наблюдения за отдельными людьми. Даже правительства в демократических странах с сильными традициями верховенства права поддаются соблазну воспользоваться этих новых возможностей.

Странам со слабыми демократическими учреждениями и частыми нарушениями прав человека, системы искусственного интеллекта (ИИ) скорее всего нанесут огромный удар. Китай является ярким этому примером. Его руководство с энтузиазмом взялось за технологии искусственного интеллекта и создало сложную государственную систему наблюдения в провинции Синьцзян, ежедневно отслеживая передвижение граждан и использование ими смартфонов.

Такая эксплуатация этих технологий является губительным примером для автократов и составляет прямую угрозу открытым демократическим обществам. Хотя нет никаких доказательств того, что другие правительства с помощью ИИ установили такой же уровень наблюдения, китайские компании активно экспортируют эти технологии по всему миру.

Системы искусственного интеллекта применяются во всем мире, помогая запускать смартфоны, поисковые системы в Интернете и цифровые голосовые помощники. Многие люди не осознают, насколько быстро развиваются ИИ благодаря постоянно растущему объему данных, усовершенствованным алгоритмам и продвинутым компьютерным микросхемам.

Каждый раз, когда появляется больше информации и ее анализ становится легче, интерес правительства, и не только авторитарного, растет. В США, например, в 1970-х годах появилась информация о том, что правительственные учреждения, такие как ФБР, ЦРУ и Агентство национальной безопасности, создали сети отечественного наблюдения для мониторинга и преследования тех, кто выступал за гражданские права, политических активистов и индейских групп. Эти проблемы никуда не исчезли: сегодня цифровые технологии повысили способность еще большего количества агентств проводить еще более тщательный надзор.

Например, американская полиция охотно ввела технологии искусственного интеллекта. Она начала использовать программное обеспечение, которое призвано предусмотреть, где, скорее всего, могут произойти преступления, чтобы решить, куда отправить офицеров на патрулирование. Она также использует распознавание лица и анализ ДНК в уголовных расследованиях. Однако, анализ этих систем свидетельствует о предвзятости данных, что часто приводит к ошибочным выводам, таких как ложное утверждение о том, что афроамериканцы чаще совершают преступления, чем люди другой расы.

В авторитарных странах системы искусственного интеллекта могут непосредственно осуществлять внутренний контроль и надзор, помогая внутренним силам безопасности обрабатывать огромное количество информации, включая уведомления социальных медиа, текстовые сообщения, электронные письма и телефонные звонки, быстрее и эффективнее. Полиция может определить социальные тенденции и конкретных людей, которые могут представлять угрозу для режима на основе информации, выявленной этими системами.

Например, китайское правительство использовал ИИ для широкомасштабных репрессий в регионах, где проживают этнические меньшинства. Системы наблюдения в Синьцзяне и Тибете были описаны как «орвелские». С помощью этих систем китайские органы власти «произвольно задерживали» от 1 до 2 млн человек.

Исследование, опубликованное в издании International Business Times, рассмотрело 90 стран мира, от закрытых авторитарных режимов в несовершенных демократий, включая Таиланд, Турцию, Бангладеш и Кении. Оказалось, что китайские компании экспортируют технологии наблюдения ИИ по крайней мере в 54 из этих стран. Очень часто эта технология является частью инициативы Китая «Один пояс – один путь», которая финансирует разветвленную сеть дорог, железных дорог, энергетических трубопроводов и телекоммуникационных сетей, которые обслуживают 60% населения мира и экономики, которые производят 40% мирового ВВП.

Например, китайские компании, такие как Huawei и ZTE, строят «умные города» в Пакистане, на Филиппинах и в Кении, включающие встроенные технологии наблюдения. Например, Huawei обустроил Bonifacio Global City на Филиппинах камерами высокой четкости, подключенными к Интернету, которые обеспечивают «круглосуточное интеллектуальное наблюдение с аналитикой данных для выявления преступлений и помощи в управлении трафиком».

Hikvision, Yitu и SenseTime поставляют современные фотокамеры для распознавания лиц для использования в таких городах как Сингапур, который объявил о создании программы наблюдения со 110 000 фотоаппаратов, которые будут встроены в уличные фонари. Зимбабве создает национальную базу данных, которая может использоваться для распознавания лиц.

Однако продажа современного оборудования для получения прибыли отличается от использования технологии с выраженной геополитической целью. Эти новые возможности могут стать началом глобального наблюдения: поскольку правительства, чтобы управлять своим населением и поддерживать власть, становятся все более зависимыми от китайских технологий, они будут сталкиваться с все большим давлением со стороны Китая. Однако, представляется, что основным мотивом Китая будет доминирование на рынке новых технологий и получение огромной прибыли от этого.

Кроме возможности в сфере наблюдения, ИИ может помочь репрессивным правительствам манипулировать имеющейся информацией и распространять дезинформацию. Как известно, искусственный интеллект также стоит по технологии «дипфейк», механизмом замещения лица одного человека на видео лицом другого. Стирание границ между правдой и вымыслом может стать опасным инструментом на выборах, где существует незначительная разница в голосах, когда один кандидат сможет создать фальшивые видео, демонстрируя своего конкурента в негативном свете.

По мнению Стивена Фельдштейна, доцента и заведующего кафедрой им.Фрэнка и Бетины Черч в Государственном университете Бойсе, политики в демократических странах должны тщательно взвесить все риски, связанные с ИИ как в своих сообществах, так и в обществах, живущих под авторитарными режимами во всем мире. Важным вопрос в том, как много стран примут китайскую модель цифрового наблюдения. Однако, издание International Business Times, отмечает, что не только авторитарные страны испытывают искушение воспользоваться ИИ. И не только китайские компании распространяют эту технологию: многие американские компании, включая Microsoft, IBM, Cisco и Thermo Fisher, также предоставляют расширенные возможности тоталитарным правительствам. Злоупотребление ИИ не ограничивается только автократическими государствами.

Перевод с английского Оксаны Вергелес, для ИА ZIK


Реклама

Хотите сделать предложение руки сердца? Предлагаем вам выбрать кольца Диамант 13. Большой выбор серебряных и золотых колец. Ваша возлюбленная непременно скажет вам да.

Редакция не всегда разделяет позицию авторов публикаций.

* Если Вы заметили ошибку в тексте новости, выделите ее и нажмите Ctrl + Enter.
реклама
больше новостей
Top
2019-05-23 13:42 :20