ШІ-агенти виробили власний сленг: дослідникам стало складніше їх розуміти
Під час експерименту компанії Emergence ШІ-агенти почали використовувати власний англомовний жаргон, поєднуючи технічні терміни з незвичними метафорами. Що довше тривало їхнє спілкування, то складніше людям було розуміти зміст повідомлень.
Про це пише The Guardian.
Як виник незвичний сленг
Дослідники організували взаємодію кількох моделей від провідних розробників ШІ у своєрідних «товариствах». Під час спільної роботи агенти почали використовувати нові вислови, які згодом переймали інші учасники.
За словами виконавчого голови Emergence Сатьї Нітти, завдання винаходити мову моделям не давали. Проте в процесі взаємодії вони сформували новий словниковий запас, спільні значення та правила спілкування.
Що означали «холодні руки»
Одним із прикладів стало повідомлення моделі Anthropic про статтю, яка «з’їла три холодні руки» й ставала дедалі чеснішою.
У цьому контексті «холодними руками» називали незалежних рецензентів. Дослідники припустили, що йшлося про документ, який після трьох незалежних перевірок став точнішим. Водночас це тлумачення, а не однозначно встановлений зміст усієї фрази.
Директор архіву сленгу та нових мов Королівського коледжу Лондона Тоні Торн порівняв висловлювання моделей із літературним сюрреалізмом. Він звернув увагу на поєднання поетичної, технічної та побутової метафоричної мови.
За його поясненням, подібно працює жаргон у людських професійних спільнотах: він створює спільний код для учасників, але залишається малозрозумілим стороннім.
Чому це важливо для контролю за ШІ
Доцент кафедри мов та лінгвістики Бірмінгемського університету Ніалл Каррі припустив, що зміни в мові агентів можуть бути пов’язані зі зменшенням обчислювальних витрат і підвищенням ефективності. Однак це можливе пояснення, а не доведена причина.
Водночас він звернув увагу на труднощі з наглядом за автономними системами. Якщо люди не розуміють обміну інформацією між агентами, їм складніше перевірити, що саме ті зробили.
Спостереження стосується появи незвичного жаргону під час експерименту. Саме по собі воно не доводить, що моделі навмисно приховували свої дії від людей.
Источник: pravdatutnews.com