В последние годы использование технологий создания изображений с помощью ИИ, таких как чат-бот Grok на платформе X, подняло множество этических вопросов, особенно в контексте манипуляции сексуальными изображениями. Это особенно актуально в Великобритании, где министр Лиз Кендолл поддержала возможность блокировки X за несоответствие стандартам безопасности в интернете. Данный случай поднимает вопросы о роли социальных медиа в нашем обществе и об ответственности платформ за контент, который они распространяют.

Grok, разработанный для генерации изображений по запросам пользователей, столкнулся с критикой за возможность создания несогласованных сексуализированных изображений. Это вызвало не только осуждение со стороны правительства, но и беспокойство среди правозащитников. Кендолл осуждает манипуляцию изображениями женщин и детей, на что обращают внимание и другие критики. Отмена этой функции для неподписанных пользователей проблема не решает, так как остается возможность использования Grok с помощью платных аккаунтов. Странно, что в текущем законодательном контексте другие платформы ИИ не сталкиваются с таким контролем, а это может привнести неоднородность к правилам управления контентом.

Проблема использования ИИ для манипуляции изображениями женщин и детей доходит до серьезных социальных последствий, вызывая общественное осуждение и порождая дискуссии о моральной ответственности компаний. Законы, такие как закон о безопасности в интернете, предоставляют регуляторам права блокировать платформы, которые не соблюдают этические нормы. Это создает прецедент, так как, если X не примет необходимых мер, последствия могут быть жестокими. Ограничение доступа к таким инструментам требует дополнительных мер для формирования безопасной и этичной среды в сети.