Опасности от изкуствения интелект за човешките права и демокрацията - Китай (част 1 от 3)

В серия от статии разглеждаме заплахите и рисковете от изкуствения интелект (ИИ) и представяме потенциални решения за намаляване на негативното им влияние. В първата статия представихме заплахите чрез дийпфейк и други видове фалшиви новини и информация. Текущият текст цели да онагледи конкретно рисковете за демокрацията и човешките права, както и да даде някои насоки за това какво може да направим, за да се предпазим.

Заплахи

В последните години се увеличава използването на ИИ като инструмент за социален контрол, наблюдение и управление на населението чрез различни методи, които включват:

• Масово видеонаблюдение и разпознаване на хора, което ограничава правото на личен живот;

• Проследяване на дигиталното поведение, спомагащ за създаването на психологичен профил на всеки потребител;

• Социален кредит, управляван от алгоритми, улесняващ да бъдат потискани и наказвани хора за „неправилни“ мнения и действия;

• Предиктивна полиция, която използва ИИ, за да прогнозира времето, мястото и извършителите на бъдещи престъпления, но в някои случаи води до това хора да се наказват на базата на вероятност, а не по доказателства;

• Цензура и манипулация на информацията.

  
  

По-надолу ще разгледаме степента на заплахи и рискове за населението на Китай, САЩ и Европа от начина на използване на ИИ от частни компании и държавни институции. Няма да изследваме Русия, където не са толкова напреднали в разработката на ИИ, в сравнение с лидерите САЩ и Китай.

Китай

Снимка: Unsplash

Чрез масово видеонаблюдение и разпознаване на лица анонимността в публичното пространство на практика изчезва. В Китай има средно една камера за всеки двама човека, много от тях са свързани с ИИ и се използват от полицията и местните власти. Разпознават се не само лицата на хората, но и техните емоции, а се разработват и решения, които да идентифицират човек по неговата походка или жестове. Към някои от камерите има вградени микрофони, така че автоматично се слушат разговорите на хората. Поддържа се и база данни с изображения на ирисите на очите, както и ДНК на мъжете.

С помощта на проследяване на дигиталното поведение всеки човек се профилира според неговите политически възгледи, навици и конакти. ИИ анализира: социални мрежи, чатове, онлайн покупки, търсения и плащания.

Китайската система за социален кредит (SCS) е национална рамка за оценка на надеждността на физически лица, фирми и държавни организации. Чрез алгоритми тя възнаграждава доброто поведение и санкционира нарушенията, като използва система с точки. Хората с по-висок брой точки биват награждавани, например с по-лесно отпускане на заеми, с безплатен достъп до паркове и др. На тези, които са с нисък брой точки се налагат ограничения, като забрана за напускане на страната, закупуване на билети за високоскоростни влакове и самолетни полети, теглене на кредити, престой в някои хотели, записване на детето си в определени училища, започване на определен вид работа. Възможно е дори да бъде отнета научна степен Доктор и човек да загуби работата си.

Политиката на социален кредит варира в различните райони на държата, като една от най-строгите имплементации е в гр. Rongcheng. Там има хиляди правила, чрез които човек би могъл да повиши социалния си кредит или да го понижи, например:

• Печелене на точки:

  • ако човек върне изгубено портмоне;

  • при дарение на орган;

  • ако сигнализира за нещо незаконно, като хора, които изпълняват суеверни ритуали;

  • ако предостави информация за хората в общността, в която живее.

• Отнемане на точки при:

  • нарушения на правилата на движение;

  • финансови измами;

  • обучаване на хора, на каквото и да е било без да е получено предварително разрешение от институциите;

  • критикуване на правителството;

  • дори споделяне в социалните мрежи на негативни коментари, които не са свързани с политика.

Предиктивната полиция в Китай, с помощта на ИИ, идентифицира „рискови лица“ или групи и „предвижда“ кой може да извърши престъпление. В някои случаи да се стигне до наказание, преди то да бъде извършено. Например, според hrw.org, както и, както може да се види и от документалния филм на DW, китайските власти, подкрепени от технологиите, произволно и за неопределено време задържат масово тюркски мюсюлмани в Синцзян за действия и поведение, които не са престъпления съгласно китайското законодателство.

Чрез цензура и манипулация на информацията в интернет и медиите се налага контрол върху реалността. ИИ се използва за елиминиране на опозиция. Автоматично се изтрива „неподходящо“ съдържание в интернет, потиска се критиката към партията и се усилва пропаганда чрез алгоритми. Ако ИИ засече публикация в социалната мрежа на снимка на протест, то тя се изтрива автоматично. Ако се публикува критика към правителството, ботове добавят коментари в защита на управляващите и тяхната политика.

Един от инструмените за централизиране на информация на населението е мега платформата WeChat, която се използва от над 90% от интернет потребителите в Китай. Разбира се, китайското правителство има достъп до всички данни в него, а функционалностите, които покрива са:

• Комуникация - текстови, гласови и видео съобщения, както и групови чатове и социална мрежа, подобна на Instagram;

• Мобилни плащания във физически и онлайн магазини, услуги като пазаруване и резервации;

• Обществени услуги, които включват: плащане на глоби, докладване на проблеми, резервиране на час за медицински преглед, виртуална здравна консултация и мониторинг.

Както ще видим от следващите примери, горепосочените заплахи не са валидни само за Китай, тъй като той изнася ИИ базираните си технологии в други държави и помага за възприемане на идеята, че тотално наблюдение води до подобряване на сигурността.

Статията продължава:

Част 2 - САЩ

Част 3 - Европейски съюз; какво можем да направим