Кого ты слушаешь? Подросток застрял на скале, последовав советам искусственного интеллекта

Вместо привычного пешеходного маршрута ИИ завел парня на скалу, которую используют для тренировок альпинисты, пишет Gizmodo.

Волонтеры спасательной службы North Shore получили сообщение о подростке, застрявшем на скале на горе Краун, расположенной примерно в 40 минутах езды к северу от Ванкувера. Руководитель поисковой операции Пол Марки рассказал изданию North Shore News, что подросток, по всей видимости, использовал искусственный интеллект для планирования маршрута восхождения. Маршрут должен был вести его на гору Краун через овраг, промытый водой и талым снегом на склоне, однако в итоге он оказался на крутом участке и застрял у подножия скалы.

«Мальчик был очень напуган. Он определенно боялся за свою жизнь», — сказал Марки.

Этот инцидент произошел на фоне того, как компании, занимающиеся искусственным интеллектом, все активнее побуждают пользователей шире внедрять эту технологию в свою повседневную жизнь. Только в прошлом месяце Meta и OpenAI представили новых ИИ-агентов, призванных выполнять для пользователей различные задачи — например, отправлять электронные письма, бронировать поездки и совершать покупки. Однако подобные случаи демонстрируют, почему не всегда разумно доверять искусственному интеллекту принятие всех решений.

Это также не первый случай, когда искусственный интеллект создает проблемы для туристов. Этим летом на горе Шаста в Калифорнии пришлось спасать трех туристов, которые сообщили, что при планировании маршрута похода в значительной степени полагались на сервис Gemini от Google.

«Gemini посоветовал им взять с собой гораздо меньше еды и воды, чем требовалось их группе, особенно когда запланированное восьмичасовое восхождение превратилось в многодневное испытание», — сообщили тогда в офисе шерифа округа Сискию.

Что касается подростка в Канаде, то он отправился с горы Граус около 8 часов утра, планируя подняться на гору Краун.

«Оказалось, что этот турист каким-то образом сильно отклонился от пешеходного маршрута Crown (нам неясно, как именно или где) и застрял на альпинистском маршруте, известном как „Widowmaker“, у основания его последней стены», — сообщила поисково-спасательная служба North Shore Rescue в своем посте в Facebook.

По стечению обстоятельств, волонтеры спасательной службы North Shore ранее в то же утро проводили тренировку с использованием вертолета на горе Краун. Получив вызов, спасатели связались с подростком по телефону и определили его местонахождение. Двух спасателей спустили с вертолета. Спасательная операция завершилась в течение трех часов после получения вызова.

«Будьте осторожны, когда получаете маршруты и информацию, предложенные искусственным интеллектом, — сказал Марки. — Нельзя просто слепо следовать тому, что предлагает искусственный интеллект. Нужно подвергать информацию сомнению и просто оценивать, имеет ли она смысл».

Ранее NV Техно писал, что 30-летнюю жительницу Флориды арестовали после того, как она якобы угрожала офису шерифа округа Ли во время частной переписки с чат-ботом Claude. По данным Gulf Coast Now, женщина из Бонита-Спрингс в течение некоторого времени общалась с Claude и отправляла сообщения с угрозами в адрес местных правоохранителей.

Первое сообщение, зафиксированное 26 сентября в 5:10, содержало угрозу устроить стрельбу в офисе шерифа. На следующий день в 1:07 ночи женщина якобы написала, что это ее «последняя возможность», и сообщила, что приобрела новое оружие.