Генеральный директор OpenAI Сэм Альтман выступил на полях Генеральной Ассамблеи ООН в Нью-Йорке. Озвучил ряд громких заявлений по поводу искусственного интеллекта.
Он сказал: «Мы не должны обучать модели, если у нас нет веских оснований полагать, что мы сможем удерживать их под контролем человека. Это один из возможных рисков. Другая опасность заключается в том, что эти системы могут привести к чрезмерной концентрации власти в руках небольшого числа людей».
Кроме этого, по его словам, разработчики должны контролировать работу систем, особенно по мере роста их возможностей, добавив, что даже минимальный риск катастрофических последствий неприемлем.
Акцентируется внимание на том, что ни отдельные лица, ни компании, ни государства не должны использовать мощные модели для навязывания своих взглядов другим.
Добавляется: «ИИ-системы становятся более мощными и автономными, они могут развиваться быстрее, чем наши институты. Риск заключается в том, что все происходит так быстро, что люди больше не могут следить за происходящим или вмешиваться в случае необходимости».
Резюмируется, что данные риски приобретают особое значение по мере приближения к созданию систем, способных совершенствовать самих себя и свои будущие версии, а автоматизация процесса создания искусственного интеллекта может привести к резкому ускорению его развития.
Ранее ИИ-ассистент румынского банка грязно оскорбил клиента.