Пользователи Grok используют ее для виртуального раздевания людей на фото
Лента новостей
ИИ-модель уже заблокировали в Индонезии. К бану готовятся и в Британии. Сам Илон Маск, которому принадлежит соцсеть Х и ее ИИ-ассистент Grok, заявил, что не видит в ситуации ничего предосудительного, и запостил фото британского премьера Стармера в бикини
Сезон бикини: нейросеть Илона Маска Grok массово используют для «раздевания» людей. Из-за этого ИИ-модель уже заблокировали в Индонезии. К бану готовятся и в Британии — премьер страны Кир Стармер заявил, что британский регулятор телекоммуникаций примет необходимые меры и может заблокировать соцсеть Х (запрещена в России), в которой работает Grok. Тем временем на фоне новостей о возможной блокировке Grok приложение стало самым скачиваемым в британском App Store. Кто виноват и каковы масштабы проблемы?
Нейросеть Grok интегрирована в соцсеть X, тоже принадлежащую Маску. Один из механизмов работы сервиса — это бот, которого можно попросить обработать изображение прямо в публичном посте. Получившуюся картинку Grok также опубликует в профиле пользователя. Примерно с конца декабря десятки тысяч юзеров стали пользоваться этой функцией для «раздевания» фотографий — преимущественно женщин. А иногда даже маленьких девочек.
К дипфейкам знаменитостей общество более или менее привыкло. Здесь же на фото «раздевают» обычных людей. Конечно, пользователи, которые внезапно обнаруживали свои фото в непристойных контекстах, жаловались на эти публикации. Но в ответ им приходили сообщения, что нарушений правил платформы не выявлено.
Причем разрыв с другими сервисами генерации изображений — колоссальный. По статистике, которую приводит Bloomberg, в течение суток при помощи Grok генерируют почти 7 тысяч голых изображений в час. Для сравнения, пять самых популярных подобных сервисов за тот же период сгенерировали всего 79 таких картинок.
С чем связана такая репутация Grok? Отвечает гендиректор AI Influence, вице-президент АКАР Алексей Парфун:
Алексей Парфун гендиректор AI Influence, вице-президент АКАР «Илон Маск изначально заявил позицию, что он сделает максимально незацензуренный инструмент. Но, естественно, в этом есть доля лукавства, его задача — захватывать рынок. Соответственно, для этого ему нужно что-то, что его выделяет на общем фоне. В данном случае Grok — это ведь одновременно и социальная сеть, и нейросеть, которая создана для того, чтобы создавать текстовый и визуальный контент. Такой дуализм содержания. Я думаю, что нужно ограничивать, конечно же, потому что иначе мы попадем в пространство, когда у нас все будет завалено фотографиями. Люди, которые создают такие изображения, создают такие видео, доберутся очень быстро до очень негативных сфер. Я думаю, что в большинстве законодательств оно так и будет урегулировано. Другой вопрос, что это не решает саму задачу. Дело в том, что все такие системы, все такие нейронки могут подняты быть локально на сервере. И их можно выдернуть из интернета и на сервере сделать любое количество фотографий любого содержания и потом их куда-то загрузить».
Нейросеть Grok действительно приобрела дурную славу — прошлым летом, например, чат-бот Маска начал писать антисемитские комментарии по итогам наводнения в Техасе.
Сам Маск в ситуации ничего серьезного как будто не видит. Например, он репостил картинки бикини, надетого на микроволновку, с подписью «Grok может надеть бикини на что угодно». А в ответ на новость о возможной блокировке сервиса в Британии назвал страну «фашистской». И опубликовал фото премьера Кира Стармера в бикини.
Накануне генерацию сексуализированных изображений в боте Grokа будто бы ограничили. Вернее, сделали доступной только для платных пользователей. В офисе британского премьер-министра это решение назвали «оскорбительным». Тем более в отдельном приложении Grok никаких ограничений и вовсе нет.
Правовые нормы для подобных технологий еще только вырабатываются, рассказывает управляющий партнер «Коллегии медиа юристов» Федор Кравченко. Но общие этические принципы существуют уже очень давно:
Федор Кравченко управляющий партнер «Коллегии медиа юристов» «Не нужно для каждой технической новинки придумывать новый закон. Запрет на распространение порнографии и на использование изображения гражданина — они придуманы достаточно давно и без учета дипфейков. Поэтому право хорошо тем, что оно достаточно гибкое, и многие нормы, принятые еще в Древнем Риме, продолжают прекрасно действовать в XXI веке. Владельцам нейросетей пришлось бы посадить сотни тысяч сотрудников для какого-то ручного контроля, если бы они вздумали читать все промпты, которые присылают их нейросетям пользователи. Это абсолютно невозможно. Есть концепция информационного посредника, когда владелец платформы — если не он определяет содержание того, что будет создаваться и распространяться, — не должен нести ответственность при своем добросовестном поведении. И я думаю, что это достаточно разумно, потому что, поддавшись на одну претензию, владельцы нейросетей дальше должны будут удовлетворять все претензии, а количество этих претензий будет бесконечно, и часто они будут даже противоречивы. Правильнее и проще, на мой взгляд, возложить ответственность на тех, кто распространяет такие изображения».
Защитники Grok приводят пример с обычной авторучкой — дескать, это просто инструмент, а что с ее помощью напишут — ответственность автора. Эксперты сходятся на том, что пример этот спорный. Обычный фотошоп с ручкой сравнивать еще можно, а вот генеративный ИИ — полноценный ассистент человека. А в данном случае скорее соучастник.
Рекомендуем:
Рекомендуем:
