Meta випадково розкрила приховані правила свого чатбота WhatsApp

На сайті WhatsApp виявили приховані інструкції для чатбота Meta, які містили обмеження щодо відповідей на юридичні питання та захисту персональних даних. Інформація була доступна приблизно на 80 сторінках довідкового центру й залишалася прихованою від звичайних відвідувачів. Про це повідомляє WIRED.

Які секретні інструкції знайшли в WhatsApp

Як з’ясувала компанія Redact, у коді сторінок містилося близько 100 блоків тексту з вказівками для штучного інтелекту. Вони пояснювали, як чатбот має відповідати користувачам, а також чого йому не слід говорити.

Зокрема, ШІ рекомендували не надавати юридичних консультацій, не тлумачити умови використання WhatsApp і політику конфіденційності та не коментувати відповідальність компанії. В окремих інструкціях також зазначалося, що чатбот не повинен посилатися на правила захисту персональних даних, зокрема європейський регламент GDPR.

Як відреагувала Meta

Особливу увагу привернули рекомендації на сторінці про видалення облікового запису. Вони вказували чатботу не радити користувачам звертатися до органів із захисту персональних даних або інших регуляторів.

Після звернення журналістів WIRED компанія Meta прибрала приховані інструкції із сайту. Представник WhatsApp пояснив, що вони призначалися для внутрішнього чатбота підтримки, а їхня поява у відкритому коді стала наслідком технічної помилки.

У Meta наголосили, що мета таких вказівок — зробити відповіді ШІ точнішими та кориснішими. Водночас залишається незрозумілим, як довго інструкції були доступні та чи могли їх отримати сторонні чатботи.