Правительству Албанезе грозит повторение скандала Robodebt из-за алгоритмов и ИИ: «оно идёт к этому с открытыми глазами»

Поводом стал алгоритм в системе поддержки пожилых

Центр подготовил доклад на фоне растущей обеспокоенности использованием алгоритма в Интегрированном инструменте оценки (IAT). С его помощью определяют, какой объём домашней поддержки положен пожилым австралийцам. Проверки показали, что система регулярно занижает потребности людей и размер предоставляемых им пакетов поддержки. При этом правительство запретило специалистам по оценке ухода вручную исправлять ошибочные решения алгоритма.

Кэтрин Уильямс заявила, что примеры работы алгоритма в сфере ухода за пожилыми показали отсутствие надёжных правил для государственных систем автоматизированного принятия решений. Центр решил опубликовать свои рекомендации сейчас, чтобы они могли повлиять на рамочную политику правительства.

Правила пока не опубликованы

Министерство генерального прокурора Австралии разрабатывает правила использования автоматизированных решений. Общественные консультации завершились в январе 2025 года. Генеральный прокурор Мишель Роуленд не ответила на вопросы о том, когда проект документа будет готов и опубликован. Она сообщила, что правительство намерено применять такие системы безопасно и ответственно, чтобы предоставлять жителям страны своевременные и эффективные услуги.

По словам Роуленд, правила должны учесть рекомендации королевской комиссии по делу Robodebt. Однако в октябре доклад федерального омбудсмена установил, что при разработке и внедрении IAT правительство проигнорировало рекомендации комиссии о прозрачности. Роуленд также не уточнила, будут ли новые правила распространяться на решения, принятые до их введения. Она заявила, что рамочная политика должна повысить точность и последовательность административных решений, закрепить меры защиты, включая требования к прозрачности, и обеспечить законное и ответственное использование автоматизации при надлежащем человеческом контроле. Также, по её словам, правила помогут повысить производительность и сделать услуги быстрее и надёжнее.

Восемь рекомендаций доклада Центра общественной добросовестности включают:

Депутат требует закрепить правила законом

В сентябре независимый депутат Кейт Чейни внесла законопроект, который должен создать первую законодательно закреплённую обязательную систему регулирования автоматизированных решений в правительстве. Чейни заявила, что консультации министерства по этой теме завершились почти два года назад. После встречи с генеральным прокурором, по её словам, ей сообщили, что работа продолжается. Депутат призвала сохранять давление, чтобы разработку правил не отложили из-за её сложности.

Чейни также отметила, что госведомства принимают решения об автоматизации без единого подхода и достаточной прозрачности. По её словам, правительство ищет способы сократить расходы государственной службы, и автоматизация решений может помочь в этом. Но людям нужно сообщать, когда решение принято автоматически и в каких случаях такой подход недопустим, объяснять причины решения и ясно указывать, как его можно пересмотреть. По словам Чейни, именно этого люди ждут от правительства.

По оценке Dataist, спор касается не только точности алгоритмов, но и возможности проверить решения, которые влияют на доступ людей к государственной поддержке. Пока рамочные правила не опубликованы, а прозрачность работы IAT уже стала предметом критики федерального омбудсмена. Обязательный реестр и независимый надзор могли бы сделать применение таких систем заметнее для общества, но правительство пока не назвало сроков публикации правил.