Омбудсмен Австралии назвал алгоритм оценки ухода за пожилыми несправедливым — The Guardian
Федеральный омбудсмен Австралии Иан Андерсон раскритиковал алгоритм, по которому определяется объем государственной поддержки пожилых людей, нуждающихся в уходе на дому. В 104-страничном отчете алгоритм, используемый в системе Integrated Assessment Tool, назвали необоснованным, несправедливым и не имеющим надлежащего человеческого контроля, сообщает The Guardian.
Решение алгоритма нельзя изменить
Инструмент Integrated Assessment Tool формирует рекомендацию по пакету финансирования ухода на основании данных, которые вводят оценщики. При этом специалисты не могут самостоятельно изменить решение алгоритма, даже если считают его клинически неприемлемым или ошибочным.
В отчете отмечается, что в открытом доступе нет содержательного объяснения того, как алгоритм преобразует введенные данные в результат. Авторы отчета назвали его технологическим «черным ящиком» и указали, что в таких условиях разумный человек не мог бы быть уверен в справедливости и последовательности системы оценки.
Замечания к консультациям и контролю
Расследование также установило, что информация правительства о предыдущих испытаниях и консультациях создавала впечатление, будто они касались нынешней модели инструмента и правил принятия решений. Согласно выводу омбудсмена, на самом деле эти меры проводились в отношении ранних версий системы и предыдущего законодательства, а содержательных консультаций по действующей модели не было.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
Отдельно в отчете указано на недостатки надзора за поставщиками услуг по оценке. Ведомство, ответственное за систему, не обеспечило выполнение контрактных требований по контролю качества и не проверило, имеют ли все оценщики обязательную клиническую квалификацию.
Призыв изменить законодательство
Андерсон заявил, что законодательство следует изменить, чтобы оценщики могли сами исправлять клинически некорректные алгоритмические решения. Он также выразил сомнение, что объявленная в июле процедура пересмотра, по которой оценщики могут передавать ошибочные решения в Министерство здравоохранения и старения, является достаточной.
Омбудсмен призвал комплексно пересмотреть законодательство об оценке потребностей и правила, на которых основывается алгоритм. В отчете также констатировали, что ведомство не выполнило рекомендации королевской комиссии по делу Robodebt относительно прозрачности автоматизированного принятия государственных решений.
