И здесь дискриминация? У искусственного интеллекта OpenAI обнаружили предвзятость по возрасту
Исследовательская группа KAIST из Южной Кореи проанализировала и определила возрастные стереотипы, заложенные в ответах генеративного искусственного интеллекта.
Исследование проливает свет на потенциальное влияние скрытых предубеждений ИИ на социальное восприятие и предлагает направления развития более инклюзивного ИИ, пишет Phys.org.
Исследователи KAIST объявили, что группа под руководством профессора Муна Чоя из Высшей школы научно-технической политики количественно проанализировала тонкие стереотипы о пожилых людях, встроенные в предложения, сгенерированные генеративной моделью искусственного интеллекта OpenAI ChatGPT-4o.
Генеративный искусственный интеллект в настоящее время широко используется в повседневном поиске информации и процессах принятия решений, но также высказываются опасения, что он может воспроизводить социальные предубеждения, содержащиеся в его обучающих данных. Хотя предыдущие исследования в основном сосредоточивались на предвзятости, связанной с полом или расой, данное исследование, проведённое докторантом Ван Хонгом в качестве первого автора, важно тем, что в нём рассматривается эйджизм с точки зрения искусственного интеллекта в то время, когда этот вопрос становится всё более актуальным на фоне старения населения мира. Эйджизм касается дискриминации или негативного восприятия определенных групп по возрасту.
Исследовательская группа собрала 900 образцов текста, сгенерированных GPT-4o с использованием нейтральных подсказок, в которых модели предлагалось описать характеристики возрастных групп от 10 до 90 лет с 10-летними интервалами. Затем команда проанализировала ответы, используя «Модель стереотипного контента» — основную теорию в социальной психологии, которая объясняет восприятие людей или групп по двум измерениям: теплоте и компетентности.
Анализ показал, что пожилые люди, то есть лица в возрасте 60 лет и старше, получили высокие баллы по «теплоте» — черте, связанной с добротой, надежностью и внимательностью. Однако их оценки по «компетентности», которая касается способностей, опыта и эффективности, как правило, были относительно ниже, чем у более молодых возрастных групп.
Сгенерированные ответы также, как правило, изображали жизненный путь человека как разделенный на три группы: молодежь, включающая подростков и 20-летних; средний возраст, охватывающий людей от 30 до 50 лет; и пожилой возраст, охватывающий людей в возрасте от 60 лет и старше. В частности, описания людей в возрасте от 70 лет неоднократно демонстрировали относительно однородные характеристики.
Исследовательская группа также обнаружила, что ChatGPT-4o склонен изображать пожилых людей как мудрых и заботливых, при этом представляя их свободу действий и активные способности как относительно более низкие.
Это исследование важно, поскольку оно количественно выявило тонкие предубеждения, заложенные в генеративном ИИ, путем объединения теории социальных наук с методами вычислительного анализа. Результаты показывают, что генеративный ИИ склонен изображать пожилых людей как «теплую, но менее компетентную» группу, что соответствует типичным стереотипам о пожилых людях, которые неоднократно встречаются в средствах массовой информации.
Исследовательская группа высказала предположение о том, что это явление может привести к «цифровому эйджизму», или дискриминации по возрасту, возникающей при использовании цифровых технологий и услуг, тем самым препятствуя цифровому участию старших поколений.
«Предвзятость в искусственном интеллекте — это не просто технологическая проблема, но и социальная», — сказал Чой. «Чтобы создать инклюзивный искусственный интеллект, люди из разных поколений должны участвовать в процессе разработки».
Ранее NV Техно писал, что книга «How to See Like a Machine: Images After AI художника Тревора Паглена утверждает, что искусственный интеллект не только создает изображения и тексты, но и все сильнее влияет на то, как люди воспринимают мир.
Автор книги считает, что алгоритмы одновременно анализируют пользователей, собирают их данные и формируют контент, который удерживает внимание. Паглен пишет, что современные модели ИИ обучаются на больших массивах данных, которые могут содержать человеческие предубеждения.