ШІ "перепрошиває" своїх користувачів - нове дослідження
Ми боялися, що штучний інтелект стане схожим на людину. Схоже, проблема може виявитися зовсім іншою: людина поступово стає схожою на штучний інтелект.
Ще кілька років тому чат-бот був просто дивною новинкою. Сьогодні мільйони людей щодня питають у нього, що написати, що сказати, як відповісти, що купити, як вирішити проблему і навіть — що вони насправді відчувають.
Зручно? Надзвичайно.
Небезпечно? Можливо, значно більше, ніж ми думаємо.
Нове дослідження привертає увагу до неприємного ефекту: чим більше людина взаємодіє з чат-ботами, тим більше її власна поведінка може набувати рис машинної комунікації.
І це вже серйозний дзвіночок.
Якщо нове теоретичне дослідження, проведене міжнародною командою, правильне, ви, ймовірно, намагалися спростити та стандартизувати свій запит і тон. Ви виключили сленг і метафори. Ви мінімізували унікальність вашої ситуації та представили свою проблему якомога простіше.
Спочатку ми навчили машину говорити як людина
Розробники роками намагалися зробити так, щоб штучний інтелект спілкувався природно.
Щоб він був ввічливим.
Щоб розумів контекст.
Щоб підтримував розмову.
Щоб умів жартувати.
Щоб пояснював складні речі простими словами.
Ми хотіли машину, яка поводиться як людина.
Але сталося дещо парадоксальне.
Тепер людина дедалі частіше починає говорити так, як машина.
Подивіться на повідомлення людей у соцмережах.
«Є кілька важливих моментів».
«Розглянемо це поетапно».
«Підсумовуючи».
«Ключовий висновок».
«Варто зазначити».
Звичайно, самі по собі ці фрази нічого не доводять. Але якщо людина постійно отримує інформацію в одному стандартизованому форматі, вона може поступово звикати до такого способу структурування власних думок.
Найстрашніше — ми добровільно віддаємо ШІ частину роботи мозку
Раніше, щоб написати листа, треба було сісти й подумати.
Тепер достатньо написати:
«Сформулюй ввічливу відповідь».
Не знаєш, як привітати людину?
ШІ напише.
Не знаєш, як посваритися?
ШІ підкаже.
Не знаєш, як помиритися?
ШІ теж допоможе.
Потрібно прийняти рішення?
«Проаналізуй плюси та мінуси».
Потрібно придумати назву?
«Дай 20 варіантів».
Потрібно висловити власну думку?
«Напиши за мене».
І поступово виникає небезпечна звичка:
навіщо напружувати мозок, якщо поруч є машина, яка зробить це за секунду?
Мозок теж може «розліниво» звикнути
Людський мозок постійно пристосовується до того, як ми ним користуємося.
Якщо ми регулярно змушуємо його аналізувати — він аналізує.
Якщо запам'ятовуємо — краще запам'ятовує.
Якщо постійно шукаємо готові відповіді — дедалі менше тренуємо сам процес пошуку.
Саме тому проблема ШІ може бути не в тому, що він забирає роботу.
А в тому, що він може забирати необхідність думати.
Це принципово різні речі.
А тепер уявіть дитину
Дитина отримує домашнє завдання.
Замість того щоб кілька годин мучитися над задачею, вона відкриває чат-бот.
Готово.
Твір?
Готово.
Реферат?
Готово.
Історичний аналіз?
Готово.
Через кілька років така дитина може мати прекрасні оцінки.
Але чи матиме вона навичку самостійно думати?
Ось питання, на яке суспільство поки що не має чіткої відповіді.
Найбільша небезпека — не роботизація, а стандартизація
Роботи не обов'язково зроблять нас беземоційними.
Вони можуть зробити нас однаковими.
Якщо мільйони людей використовують одні й ті самі моделі ШІ, отримують схожі підказки, схожі формулювання та схожі способи вирішення проблем, виникає ризик інформаційної одноманітності.
Усі пишуть красиво.
Усі аргументують структуровано.
Усі використовують правильні слова.
Усі знають, як треба «коректно комунікувати».
Але де тоді людська недосконалість?
Де спонтанність?
Де дивна, але геніальна думка?
Де помилка, яка приводить до відкриття?
Де фраза, сказана невчасно, але від душі?
Людина — це не ідеально відформатований текст.
ШІ може стати нашим найкращим помічником. А може — милицею
Не треба відмовлятися від штучного інтелекту.
Навпаки — ним потрібно користуватися.
Але є принципова межа.
Нехай ШІ допомагає нам думати, але не думає замість нас.
Нехай перевіряє наш текст — але спочатку ми повинні написати власну думку.
Нехай пропонує варіанти — але остаточне рішення повинно залишатися за людиною.
Нехай пояснює — але не позбавляє нас цікавості самому розібратися.
Бо одного дня може виявитися, що ми створили фантастично розумні машини, які можуть написати нам усе.
А ми самі вже не знаємо, що хочемо сказати.
І тоді проблема буде вже не в тому, що штучний інтелект став схожим на людину.
Проблема буде в тому, що людина стала схожою на нього.
І, можливо, найважливіше питання епохи ШІ звучить дуже просто: