Комиссар Кипра предупредила о гендерных предубеждениях ИИ — Cyprus Mail
Комиссар Кипра по вопросам гендерного равенства Джози Христодулу заявила на Cyprus Forum в Никосии, что системы искусственного интеллекта уже воспроизводят человеческие предубеждения и гендерные стереотипы. Она подчеркнула необходимость привлекать женщин к проектированию и разработке технологий, поскольку на работу ИИ влияют данные для обучения моделей и люди, которые их создают, сообщает Cyprus Mail.
Стереотипы в данных для обучения ИИ
Во время дискуссии об искусственном интеллекте и равном участии Христодулу объяснила, что модели не формируют свои предположения изолированно, а обучаются на материалах, которые могут содержать устоявшиеся социальные стереотипы. В качестве примера она привела ситуацию, когда в обучающих текстах врач постоянно изображается мужчиной, а медсестра — женщиной: в таком случае модель будет воспроизводить это предположение.
По ее словам, проблема усугубляется недостаточной представленностью женщин в технологическом и инновационном секторах. Люди, которые создают новые системы, влияют на то, какими будут эти технологии и какой опыт они будут учитывать. Христодулу считает, что расширять возможности для девочек в науке нужно еще в школе, чтобы они могли свободно выбирать образование и профессиональный путь.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
В то же время она обратила внимание, что часть женщин приходит в технологические профессии, но впоследствии оставляет их, в том числе после решения создать семью. По мнению комиссара, на такие ожидания с раннего возраста влияют культура и стереотипы. Она отметила, что женщины должны не только присутствовать в отрасли, но и участвовать в решениях по разработке и использованию новейших технологий.
Риски для детей в интернете
На форуме также обсудили влияние ИИ на детей. Научный координатор Hope For Children CRC Policy Center Родула Папаламвриану сосредоточилась на использовании искусственного интеллекта для онлайн-насилия, в частности на создании сексуализированных изображений с помощью технологии дипфейков и их распространении в социальных сетях.
Она отметила, что ответ не должен сводиться только к запрету технологий или к неограниченному доступу детей к ним. По ее мнению, молодые люди должны понимать, как работают такие инструменты, и критически оценивать информацию, которую они видят или получают. Папаламвриану также подчеркнула необходимость согласованного подхода к цифровой грамотности в образовании и человеческого контроля над технологиями, особенно для защиты уязвимых детей.
