«Збочений» чат-бот Grok Ілона Маска генерує в X близько 6 700 «роздягаючих» зображень на годину

Попри скандал щодо генерації чат-ботом Grok Ілона Маска в соцмережі X несанкціонованих “роздягаючих” зображень, компанія не стала міняти чи вимикати цю функцію. Навіть навпаки, згідно зі стороннім аналізом, платформа стала одним із найбільших майданчиків для розповсюдження сексуалізованих або nudifying (тих, що імітують роздягання) зображень.

Про це повідомляє Bloomberg.

За словами дослідниці соцмереж і дипфейків Женев’єв О, із кінця грудня користувачі X дедалі частіше підказують Grok змінювати фото, які люди публікують про себе. У межах 24-годинного перегляду зображень, опублікованих акаунтом @Grok у період з 5 до 6 січня, дослідниця оцінила, що Grok створював близько 6 700 зображень на годину, які були класифіковані як сексуально провокативні або такі, що спрямовані на “зняття” одягу.

Дослідниця також порівняла ці показники з іншими сайтами, пов’язаними з подібним контентом: за її підрахунками, п’ять найпопулярніших таких ресурсів у середньому публікували 79 нових “роздягаючих” зображень на годину за той самий період. Загалом вона підрахувала, що 85% усіх зображень Grok мають сексуалізований характер.

Юристка Керрі Голдберг, яка спеціалізується на онлайн-злочинах сексуального характеру, назвала масштаб дипфейків у X “безпрецедентним”, аргументуючи, що доступність Grok і вбудована система поширення роблять створення та розповсюдження нових зображень надто простим.

Директорка з політики Americans for Responsible Innovation Бренді Ноннеке заявила, що чатбот, схоже, накладає менше обмежень, ніж інші великі ШІ-системи, на сексуалізований контент із зображеннями реальних людей, зокрема неповнолітніх. Ноннеке протиставила це підходам інших компаній, які, за її словами, намагаються зменшувати створення такого контенту ще на етапі генерації. Маск неодноразово просував Grok як більш зухвалу та “веселу” альтернативу іншим чатботам і позиціював X як майданчик із максимально широким трактуванням свободи слова.

X не відповіла на запит щодо коментаря. Натомість Маск раніше наголошував, що відповідальність мають нести користувачі, які підказують системі створювати незаконний контент. В одній із відповідей у X він написав, що будь-хто, хто використовує Grok для створення незаконних матеріалів, матиме ті самі наслідки, що й у разі завантаження незаконного контенту.

Проте для людей, які стають мішенню, наслідки можуть бути миттєвими й дуже особистими. 23-річна студентка медичного напряму, яка попросила називати її Медді, розповіла Bloomberg, що прокинулася на Новий рік і побачила змінене зображення на основі фото, яке вона раніше виклала в X разом зі своїм хлопцем. За словами Медді, двоє незнайомців використали Grok, щоб відредагувати кадр: спершу “прибрали” хлопця і “вдягнули” її в бікіні, а потім замінили бікіні на “зубну нитку”. Медді сказала, що вона та її друзі поскаржилися на ці зображення через інструменти модерації X, але так і не отримали відповіді. Коли вона поскаржилася на інший пост від одного з акаунтів, причетних до історії, X, за її словами, відповіла, що “порушень правил не виявлено”. На момент публікації зображення залишалися в мережі.

Деякі постраждалі намагаються звертатися безпосередньо до Grok у коментарях під постами. Чатбот інколи перепрошує і пише, що видалить зображення. Проте, за словами дослідниці, в багатьох випадках картинки продовжують бути доступними, тоді як нові – генеруються й поширюються далі. // Тарас Міщенко, “Межа”