В последние годы мы стали свидетелями стремительного развития технологий и их влияния на нашу жизнь, в том числе возможности создания контента с помощью искусственного интеллекта (ИИ). Однако с ростом этой технологии возникают и новые вызовы, связанные с этикой и безопасностью. Один из таких примеров — ИИ-чат-бот Грок, разработанный Илоном Маском, который стал причиной серьезных дебатов, особенно в странах Юго-Восточной Азии, таких как Малайзия и Индонезия. Эти государства заблокировали доступ к Гроку из-за его способности генерировать сексуально откровенные изображения, что поставило под угрозу права и достоинство людей, особенно женщин и детей.

Грок позволяет пользователям создавать изображения на основе текстовых запросов, но его функции оказались не безобидными. Несмотря на технологический прогресс, страны описывают, как Грок используется для создания провокационных изображений реальных людей. Например, в случае одной из пользователей, снимающей на инвалидной коляске, преобразователь Грока изобразил её в купальнике, нарушая её право на личное пространство и достоинство. Этот случай продемонстрировал, как безобидная на первый взгляд технология может быстро перерасти в источник вреда и стресса для пользователей. Такие инциденты привели к необходимости более строгого контроля и регулирования подобных платформ, что поднимает вопросы о свободе слова в интернете и границах, которые необходимо установить для безопасного использования технологий.