Профессор с Кипра предупредил о зависимости мышления от ИИ — Cyprus Mail
Профессор искусственного интеллекта Университета Неаполис в Пафосе на Кипре Саввас А. Хаджихристофис заявил, что главная угроза со стороны ИИ может заключаться не в восстании машин, а в постепенной утрате людьми уверенности в своей способности мыслить и принимать решения без алгоритмов. Об этом он сказал Кипрскому информационному агентству, сообщает Cyprus Mail.
Хаджихристофис, который также занимает должность проректора по исследованиям и инновациям, назвал более глубокой проблемой некритическое доверие к машинам. По его мнению, общество может прийти к состоянию, при котором не будет чувствовать себя способным принимать решения без консультации с ИИ.
Риски концентрации технологий
Профессор призвал серьезно относиться к предупреждениям исследователей, покинувших крупные технологические компании. Он отметил, что такие специалисты хорошо понимают системы изнутри и видят, как чрезвычайно мощные инструменты быстро концентрируются в руках небольшого числа компаний.
В то же время Хаджихристофис подчеркнул, что заявления руководителей компаний о безопасности ИИ нельзя отделять от их коммерческих интересов. Он упомянул предложения генерального директора Anthropic Дарио Амодеи о независимой оценке моделей, общих стандартах безопасности, проверках перед выпуском систем и ограничениях для применений, связанных с кибератаками или биологическим оружием. Профессор также отметил, что глава OpenAI Сэм Альтман выступал за продолжение развития технологий при более строгом надзоре и более медленных темпах.
Больше актуальных новостей — в Telegram-канале UA.News Telegram.
По мнению ученого, пауза в развитии ИИ может повысить безопасность лишь при наличии универсальных правил, прозрачности и независимого контроля. Если условия такой паузы будут определять нынешние лидеры отрасли, это способно укрепить их доминирование на рынке. Он связал этот риск с ситуацией, когда регулируемые субъекты получают решающее влияние на правила, призванные их контролировать.
Образование и человеческая ответственность
Хаджихристофис также указал на практические опасности ИИ: автоматизированные кибератаки, злонамеренное биологическое применение, дезинформацию, массовую слежку, дискриминацию при найме или кредитовании, потерю рабочих мест и системы вооружений без достаточного человеческого контроля. Однако он призвал не сосредотачиваться только на сценариях уничтожения человечества, поскольку, по его оценке, негативное влияние уже может проявляться в образовании, труде, демократии и повседневном принятии решений.
Первым ответом на эти вызовы профессор назвал образование. Дети, по его убеждению, должны понимать, как формируется ответ ИИ, как проверять источники, распознавать неопределенность, кто отбирает данные и кому выгодно автоматизированное решение. Он также подчеркнул необходимость сохранить в образовании критическое мышление, воображение, память, эмпатию, диалог, этическое суждение и ответственность.
На институциональном уровне Хаджихристофис предложил независимый надзор за наиболее мощными моделями, обязательное сообщение о серьезных инцидентах, доступ регуляторов и независимых исследователей к необходимой информации, четкую человеческую ответственность за решения высокого риска и действенные санкции. Он добавил, что Закон ЕС об искусственном интеллекте может ограничить неконтролируемое влияние корпораций при условии независимого, прозрачного и надлежащим образом обеспеченного исполнения.
