Австралия приближается к будущему, созданному ИИ: закон о правах человека нужен как никогда

Алгоритмы без правовых гарантий

На фоне приближения к постчеловеческому будущему отсутствие в Австралии закона о правах человека будет повышать риски для всех. Парламент страны так и не смог принять полноценное законодательство о правах человека, хотя его поддерживает большинство граждан.

Искусственный — и авторитарный — интеллект, автоматизированные решения, инструменты независимой оценки и алгоритмы будут определять, как люди живут и какую государственную поддержку получают.

Права человека по-прежнему недостаточно защищены законами, несмотря на рекомендации парламентского комитета, масштабную петицию и кампанию, а также действующие законы в Виктории, Квинсленде и Австралийской столичной территории. В среде непрозрачных алгоритмов и компьютеров, которые могут просто отказать, права легко теряются.

Правительство продвигает предложенную цифровую обязанность заботиться о пользователях — «моя лента, мой выбор», как коротко сформулировал премьер-министр. План предусматривает ограничения для алгоритмов, отточенных глобальными гигантами слежки, и даёт австралийцам возможность влиять на информацию, которую они получают. Права требовать точной информации при этом не появляется.

Одновременно правительство спешит внедрять похожие инструменты для определения объёма поддержки, которую люди получают при обращении за жизненно важными услугами. Единственным заметным сопротивлением остаётся законопроект частного члена парламента Кейт Чейни.

Сотни тысяч государственных служащих прошли обучение работе с ИИ. Однако комиссар по вопросам информации выяснил, что лишь немногие ведомства сообщили о его использовании.

Программа GovAI должна стать практикой, а не только объявлением: до июля каждое ведомство и агентство обязали назначить руководителя по ИИ.

К декабрю ведомства и компании, использующие ИИ для решений, влияющих на людей, должны обновить положения о конфиденциальности и указать это в них.

Но кто читает такие положения перед нажатием кнопки согласия?

Закон не выполняет рекомендации королевской комиссии по делу Robodebt. Он не обязывает компании и ведомства раскрывать:

Ошибки в системе ухода

Система поддержки пожилых людей стала первым крупным сигналом проблемы.

Всего через 10 месяцев стало ясно, что автоматизированный интегрированный инструмент оценки IAT, который министерство использует для определения права на услуги и доступа к ним, не справляется. Вопреки рекомендациям по передовой практике и урокам Robodebt, в нём нет человеческого контроля и возможности отменить решение.

Как сообщала Мелисса Дейви, тревожные сигналы появились уже через несколько дней после внедрения инструмента.

Представители органов здравоохранения штатов сочли ситуацию потенциально катастрофической. Во всех штатах начали составлять таблицы с неподходящими решениями. В Новом Южном Уэльсе их называли «несогласованными результатами IAT». Руководитель службы здравоохранения Западной Австралии предупреждал: без возможности проявить усмотрение небольшая, но уязвимая группа пожилых людей может столкнуться с катастрофическими последствиями, пока доступ к услугам определяется алгоритмом.

Проблема затрагивает не только самих пожилых людей. Для штатов и территорий это означает дополнительную нагрузку на больницы: они становятся единственным вариантом для тех, кто не может получить достаточный уход дома или место в учреждении. Целые больницы фактически заполняются людьми, которым нужна более подходящая помощь в другом месте.

Годами общество слышало истории о тяжёлом положении в системе ухода за пожилыми, которые раскрывала королевская комиссия. До публикации её итогового доклада ситуацию усугубила пандемия: учреждения проживания превратились в закрытые зоны, пожилые люди оказались отрезаны от внешнего мира, близкие стучали в окна, а сотрудники боялись за своё здоровье.

Права тысяч людей были серьёзно нарушены.

Что изменил новый закон

Авторы нового Закона об уходе за пожилыми, вступившего в силу в ноябре прошлого года, отнеслись к этому опыту серьёзно. В начале закона закреплено фундаментальное право человека на достоинство, уважение и самостоятельность.

В домах престарелых по всей Австралии на досках объявлений разместили заявление о правах пожилого человека — для тех, кто ещё мог его прочитать, и для их близких.

Гораздо менее заметным осталось другое обстоятельство: жильцы не могли обратиться в суд, если их права нарушали. Механизм подачи жалоб существовал, но закреплённые в нём права не имели полноценной юридической силы.

Право пожилых людей на уход снова начали распределять по нормам и ограничениям:

Поначалу лишь особенно внимательные чиновники штатов и некоторые организации защиты интересов заметили, что доступ ограничивает также алгоритм, который нельзя отменить решением человека.

Разрыв между началом Закона об уходе за пожилыми и его практическим применением оказался резким. В первой части говорится о праве пожилых австралийцев получать помощь и пользоваться достоинством и уважением. Реализация закона сводится к операциям: минутам ухода, спискам задач и обязанностям организаций.

Бывшая генеральная инспекторка системы ухода за пожилыми Натали Сигел-Браун сказала в Национальном пресс-клубе, что «механика реформ подрывает поэзию закона».

Вместо полноценной жизни права пожилых людей, перефразируя Т. С. Элиота, начинают отмерять кофейными ложками.