Правозащитники обеспокоены планами правительства Великобритании начать массовое наблюдение за банковскими счетами для борьбы с мошенничеством в сфере соцвыплат. Предполагается использовать автоматизацию и искусственный интеллект, чтобы выявлять мошеннические операции и ошибки, которые обходятся бюджету в 10 млрд фунтов стерлингов в год. По мнению экспертов, такие меры могут серьезно нарушить частную жизнь граждан.
В письме министру по делам труда и пенсий Лиз Кендалл представители организаций, занимающихся правами инвалидов, пенсионеров и защитой конфиденциальности, заявили, что, если банки будут сканировать счета граждан для выявления подозрительной активности, это станет «вторжением в личную жизнь» и может привести к наказанию уязвимых слоев населения.
Хотя детали законопроекта (от консервативной партии) пока неизвестны, Министерство труда и пенсий заявило, что правительство не будет иметь прямого доступа к счетам и не собирается использовать ИИ для анализа данных. Если возникнут подозрения в мошенничестве, то расследованием займутся сотрудники министерства. Считается, что обмен данными с банками поможет сэкономить около 1,6 млрд фунтов стерлингов за 5 лет.
Ранее представители консервативной партии уже предлагали подобный законопроект, но он не прошел парламент до выборов в июле. Тогда инициативу поддержали в технологической отрасли, так как закон мог бы повысить доверие к инструментам ИИ. Однако аспекты, касающиеся конфиденциальности данных и автоматизированных решений, вызвали много споров.
Новый законопроект может обязать банки и другие компании проверять банковские счета всех граждан для выявления нарушений (в т.ч. переплат) у получателей соцвыплат. Но такие меры могут выявить только около 3% от всех потерь из-за ошибок и мошенничества.
Подписанты письма отмечают, что подобный подход к массовому наблюдению «непропорционален». Правозащитники также выражают опасения, что система алгоритмического контроля может привести к ошибкам и негативно сказаться на наиболее уязвимых гражданах.
Министерство труда и пенсий, комментируя ситуацию, отметило, что утверждения организаций не соответствуют действительности. По словам ведомства, новые полномочия будут использоваться тщательно и пропорционально, а также под строгим надзором. Информация, предоставляемая банками, не будет связана с алгоритмами министерства, и любые сигналы о потенциальном мошенничестве будут всесторонне изучены сотрудником.
Опасения возникают на фоне расширения использования ИИ в госструктурах: около 70% ведомств уже применяют или планируют применять ИИ. Однако такие алгоритмы не совершенны — недавно стало известно, что программа министерства ошибочно отметила более 200 000 случаев подозрений на мошенничество.