Если вы находитесь в России или планируете в нее возвращаться, вам нельзя репостить наши материалы в соцсетях, ссылаться на них и публиковать цитаты.
Подробнее о том, что можно и нельзя, читайте в карточках.
Другие новости
показать ещеЕсли вы находитесь в России или планируете в нее возвращаться, вам нельзя репостить наши материалы в соцсетях, ссылаться на них и публиковать цитаты.
Подробнее о том, что можно и нельзя, читайте в карточках.
Lighthouse Reports и WIRED провели совместное расследование датской системы слежки за получатель_ницами социальных пособий от государства. Расследователь_ницы выяснили, что с помощью машинного обучения в Дании собирают данные о гражданстве и “незарегистрированных” партнер_ках людей, что позволяет заподозрить их в мошенничестве с пособиями.
Аналитический отдел Датского управления государственных пособий с помощью искусственного интеллекта собирает информацию о налогах, домах, автомобилях, отношениях, работодатель_ницах, путешествиях и гражданстве людей и с помощью машинного обучения выявляет и предсказывает случаи обмана. Это одна из самых сложных и масштабных систем выявления мошенничества с пособиями в мире.
По подсчетам KMD — крупнейшей датской IT-компании, 5% всех социальных выплат были получены мошенническим путем.
Эта система создает алгоритмы, которые позволяют составить профиль получатель_ницы пособия. Для этого система использует любые данные о получатель_нице — вплоть до информации о том, кто спал с н_ей рядом ночью. После этого программа отмечает тех получатель_ниц пособий, которых она посчитала подозрительными.
Среди характеристик, которые учитывает система, есть характеристика гражданства, что приравнивается к расовому профилированиюСогласно определению Комитета по ликвидации расовой дискриминации ООН, расовое профилирование совершается правоохранительными органами. Оно не мотивировано разумными основаниями и базируется на признаках цвета кожи и происхождения, а также может включать религию, гендер, сексуальную ориентацию, инвалидность, миграционный статус. Расовое профилирование используется в контекстах контроля иммиграции и борьбы с преступностью..
Один из алгоритмов может выяснить, связан_а ли получатель_ница пособия со страной вне Евросоюза. Система отслеживает, эмигрировал ли человек или его родственни_цы из Дании, а также являлся ли он когда-либо граждан_кой другой страны.
Кроме того, аналитический отдел собирает данные о семейном положении получатель_ниц пособий, продолжительность их брака, а также то, с кем они живут и жили ли они или их дети за пределами Дании. Для государства важно, состоит ли получатель_ница пособия в “скрытых” отношениях, так как люди без партнер_ки получают больше пособий.
"Идеология, которая лежит в основе этих алгоритмических систем и пристального наблюдения и слежки за людьми, получающими пособие, — это глубокое подозрение в отношении бедных", — говорит Виктория Адельмант, директорка Digital Welfare and Human Rights Project.
В 2022 году аналитический отдел управления пособий отобрал для проверки почти 50 тысяч случаев. Мошенничество было зафиксировано в 4 тысячах случаев, что позволило вернуть в казну 23,1 миллиона евро. Годовой бюджет отдела — 3,1 миллиона евро.
Датские правозащитни_цы из Justitia назвали работу аналитического отдела “систематической слежкой”, несоизмеримой с масштабами мошенничества. Они заявили, что цифровая слежка нарушает право на частную жизнь. Работу аналитического отдела раскритиковали и другие правозащитные организации.
Глава аналитического отдела Анника Якобсен считает, что такое использование персональных данных не противоречит европейскому законодательству, и что борьба с мошенничеством повышает доверие к социальному государству. Она считает, что машинная проверка более справедлива, чем случайный отбор.
"[Критики] говорят, что когда машина просматривает данные, она нарушает права граждан, [в то время как] я склонна думать, что случайная проверка граждан нарушает их права", — говорит Якобсен. — "Что на самом деле является нарушением прав гражданина? Это нарушение прав, если вы находитесь в желудке машины и бегаете там?"
Расследователь_ницы отмечают, что данными о масштабах мошенничества манипулируют консервативные силы. Правые политик_ессы считают, что Дания якобы каждый год теряет сотни миллионов евро из-за того, что недобросовестные люди все чаще получают поддержку от государства обманным путем.
Дания тратит на пособия 26% ВВП: это больше, чем Швеция или Великобритания. Берни Сандерс назвал датскую систему помощи уязвимым граждан_кам образцовой.
В Нидерландах внедрение подобной системы обернулось отставкой правительства. В 2021 году 20 тысяч семей были ошибочно обвинены в мошенничестве с пособиями. 70% родителей семей имени мигрантское прошлое в первом или во втором поколении. Их заставили вернуть тысячи евро в казну. Это произошло из-за того, что чиновни_цы интерпретировали мелкие ошибки в документах как обман. Amnesty International назвала ксенофобным использование маркера национальности как фактора риска мошенничества.
В Евросоюзе планируют принять закон об искусственном интеллекте, который запретит системам использовать “уязвимость любой группы”. Предполагается, что к датской системе будут предъявляться более строгие требования, включая прозрачность и “высокий уровень точности”.