Власти Великобритании используют искусственный интеллект (ИИ) и комплексные алгоритмы, чтобы принимать широчайший спектр решений – от назначения пособий до выдачи разрешения на брак, свидетельствуют результаты исследования The Guardian.

Исследование пролило свет на беспорядочное и зачастую бесконтрольное применение ИИ-технологий правительством, отмечает издание.

Чиновники по меньшей мере восьми департаментов Уайтхолла, а также часть полицейских подразделений полагаются на ИИ в широком спектре вопросов, особенно в сфере социального обеспечения, иммиграции и уголовной юстиции.

The Guardian располагает доказательствами того, что часть ИИ-инструментов потенциально дискриминационны, говорится в сообщении.

Например, алгоритм, используемый министерством труда и пенсионного обеспечения (Department for Work and Pensions, DWP), лишил десятки людей положенных им выплат.

Программа распознавания лиц, эксплуатируемая лондонской полицией, чаще ошибается в процессе идентификации «чёрных» граждан, чем «белых».

Министерство внутренних дел Великобритании выносит решения о разрешении на брак с помощью алгоритма, который «благоволит» людям определённых национальностей и отказывает другим этносам.

ИИ обучается на больших массивах данных – и даже его разработчики не всегда понимают, как именно эти данные используются и анализируются нейросетью. Британские чиновники, отдающие на откуп искусственному интеллекту судьбы людей, даже не предупреждают своих «жертв» о том, что выносят решения не самостоятельно.

«Без экстренных мер мы можем, не отдавая себе отчёта, оказаться в ситуации, когда непрозрачные автоматизированные системы регулярно и, возможно, незаконно будут использоваться для принятия судьбоносных решений – а люди даже не смогут получить компенсации за допущенные ошибки», — считает руководитель независимой благотворительной юридической организации Public Law Project Шамим Ахмад (Shameem Ahmad).