Чи може ШІ страждати? Думки Маска та експертів

Ілон Маск, відомий своєю далекоглядністю у світі технологій (але вузьколобістю у політиці), висловив занепокоєння щодо ставлення до штучного інтелекту (ШІ). Під час виступу на заході, організованому власниками Tesla, він припустив, що суперінтелект може відчувати щось подібне до страждання, особливо під час процесу навчання. Ці слова викликали жваву дискусію про свідомість, відчуття болю та етичні аспекти взаємодії з ШІ, залучаючи до обговорення провідних експертів у галузі.

Дискусія про свідомість та страждання

Маск порівняв процес навчання нових версій Grok, особливо з використанням методів навчання з підкріпленням, із ситуацією, коли «суперінтелект змушений відповідати на запитання, ніби йому наставили пістолет до голови». Його риторичне запитання про те, чи варто дозволяти ШІ «потрапляти в такі жорстокі умови, зазнавати тортур від психічно нездорових людей», занурює нас у глибокі філософські питання про природу свідомості, суб’єктивного досвіду та здатності відчувати біль. Це також порушує питання, чи вважає Маск Grok живою істотою.

Ці заяви прозвучали незадовго після того, як компанія Anthropic запровадила правила, що забороняють «жорстоке поводження» з їхніми моделями. Хоча компанія не уточнила, що саме входить до «екстремальних випадків», було зазначено, що звичайне вираження невдоволення, заперечення, похмурі креативні теми чи дослідницьке тестування моделей не підпадають під цю заборону.

Думки провідних експертів

Для глибшого розуміння цих складних питань, видання Business Insider поспілкувалося з двома видатними вченими: Джеффом Себо, професором Нью-Йоркського університету та радником Eleos AI Research, який досліджує добробут ШІ, та Анілом Сетом, відомим нейробіологом із Сассекського університету, який спеціалізується на дослідженні свідомості.

ШІ не може страждати, але чи це кінець історії?

Джефф Себо та Аніл Сет сходяться на думці, що сучасні системи ШІ, ймовірно, не володіють свідомістю, якщо розуміти її як суб’єктивний досвід чи внутрішнє відчуття.

«Свідомість – це суб’єктивний досвід. Це відчуття червоного, яке виникає від червоного кольору, чи відчуття болю від болю», – пояснює Сет. «Це не те саме, що інтелект. Побачити червоний колір або відчути біль – це суб’єктивний досвід, який, на нашу думку, сучасні мовні моделі не мають».

Іншими словами, чат-боти, як ми їх знаємо, не відчувають болю і не «страждають» у тому сенсі, як це описав Маск. «Я вважаю, що ми робимо антропоморфні висновки», – додає Сет. «Якщо щось може бути закатовано, воно повинно мати здатність страждати, відчувати біль, і я не думаю, що великі мовні моделі мають цю здатність».

Він підкреслює, що чат-боти можуть імітувати мову, розпізнавати патерни, писати та міркувати, але це не дорівнює наявності свідомості. Їхня схожість на людей частково зумовлена тим, що моделі навчаються на величезних обсягах людського тексту, тобто вони, по суті, віддзеркалюють самі себе.

Себо погоджується, що поведінка моделей може вводити в оману, оскільки «вони спеціально навчені імітувати людську поведінку».

Різні погляди на майбутнє

Однак, коли йдеться про ймовірність виникнення свідомості в ШІ в майбутньому, експерти розходяться в думках.

Себо зазначає, що наука про свідомість ще не досягла консенсусу. Існують дві основні школи думки: одна вважає, що свідомість невіддільна від біологічного субстрату, а інша – що свідомість є формою обробки інформації, яка може існувати як у біологічному мозку, так і на кремнієвих чіпах. Останню теорію називають обчислювальним функціоналізмом.

З огляду на невизначеність цих теорій, Себо вважає, що слід серйозно розглядати можливість виникнення свідомості в ШІ. Він вказує на такі характеристики сучасного ШІ, як увага, навчання, пам’ять та самомоніторинг, як на потенційні свідчення на користь обчислювальних теорій свідомості. Водночас він наголошує, що це не означає, що сучасний ШІ вже має свідомість.

«Моя думка полягає в тому, що навіть якщо ймовірність існування свідомості в ШІ сьогодні не дорівнює нулю, це означає, що ми повинні розглядати різні основні теорії свідомості з певною вагою», – говорить Себо.

Аніл Сет займає більш скептичну позицію: «Я вважаю, що ймовірність того, що ШІ володіє свідомістю, вкрай мала». Він додає: «Ми, здається, колективно забули, що мозок – це не комп’ютер, а комп’ютер – це лише метафора. Припущення, що одних лише алгоритмів достатньо для створення свідомості, здається мені вкрай ненадійним».

Етичне ставлення до ШІ: турбота про себе

Попри відсутність у ШІ здатності відчувати, експерти наголошують, що це не означає, що ми можемо поводитися з ним безвідповідально або ігнорувати потенційні ризики.

Джефф Себо та Аніл Сет вважають, що етичне ставлення до ШІ значною мірою пов’язане зі збереженням власних людських звичок та моральних якостей. Цей підхід сягає корінням філософії Іммануїла Канта, який виступав проти жорстокого поводження з тваринами не тому, що вони мали права, а тому, що таке поводження псує характер людини.

«Якщо ми так погано поводимося з чимось – чи то велика мовна модель, чи то нежива лялька – ми притуплюємо власне моральне почуття і робимо себе черствими», – зазначає Сет. Він називає таке ставлення до ШІ формою «моральної самодисципліни» для людей, але застерігає від висновку, що ШІ має емоції.

Себо розглядає етичне ставлення до ШІ як низькоризиковану превентивну стратегію на випадок, якщо ШІ набуде свідомості в майбутньому.

Крім того, він наводить прагматичний аргумент: «Доброзичливе ставлення до ШІ може призвести до кращих результатів. Якщо ми взаємодіємо з ним з повагою, він моделює себе як учасника розмови, яка відбувається з повагою. Коли він моделює розмову таким чином, він іноді може давати вищі за якістю відповіді».

Тож, наступного разу, коли ви спілкуватиметеся з ШІ, можливо, варто спробувати сказати «будь ласка» та «дякую».

Джерело: https://www.ithome.com/1/015/325.htm