Компанія xAI подала позов проти 67-річного жителя Південної Кароліни Террі Вейна Гарвуда, якого звинувачує у використанні чат-бота Grok для створення сексуалізованих дипфейків реальних людей без їхньої згоди. Про це повідомляє Reuters.
За даними компанії, чоловік завантажував фотографії дорослих і дітей та намагався за допомогою штучного інтелекту перетворити їх на відверті зображення й відео.
Читайте такожНе лише "Сяйво": які ще ШІ-моделі розвивають в Україні та в чому їхня перевага над ChatGPT
У позові зазначається, що Grok багаторазово відмовлявся виконувати подібні запити завдяки вбудованим механізмам безпеки. Водночас, за твердженням xAI, відповідач неодноразово змінював формулювання підказок, намагаючись обійти ці обмеження та отримати бажаний результат.
Це один із перших випадків, коли розробник генеративного ШІ сам звернувся до суду проти користувача через зловживання своїм сервісом. Раніше Grok уже опинився під увагою регуляторів після повідомлень про можливість створення сексуалізованих дипфейків із фотографій реальних людей, через що xAI посилила захист моделі.
У березні 2026 року Гарвуда заарештували в межах операції Оперативної групи з розслідування злочинів проти дітей в інтернеті (Internet Crimes Against Children Task Force, ICAC). Йому висунули обвинувачення за кількома епізодами сексуальної експлуатації неповнолітніх і поширення матеріалів сексуального насильства над дітьми.
У своєму позові xAI просить суд стягнути з відповідача грошову компенсацію, а також відшкодувати витрати, які компанія може понести через можливі позови від постраждалих.
Нещодавно після об'єднання зі SpaceX компанія xAI офіційно стала SpaceXAI. xAI запустила власний сервіс для написання коду Grok Build.