С развитием технологий искусственного интеллекта (ИИ) все более актуальными становятся вопросы этики и безопасности. Одним из самых тревожных направлений применения ИИ являются "nudify" приложения, которые способны создавать фальшивые нуд-фотографии людей без их согласия. Этот феномен вызывает острые дебаты не только среди специалистов в области технологий, но и среди правозащитников, так как последствия его использования могут быть катастрофическими для жертв таких манипуляций. Правоохранительные органы и компании, такие как Meta, начинают предпринимать действия против таких приложений, что акцентирует на важности обсуждения этических норм в применении технологий.

На практике, "nudify" приложения функционируют, используя алгоритмы ИИ для обработки изображений и создания реалистичных обнажённых фотографий. Например, они могут взять любое фото человека, например, из социальных сетей, и с помощью генеративных моделей изменить его, добавив элементы обнажённого тела, создавая впечатление, что изображённый действительно находится в состоянии обнажённого. Это поднимает множество этических вопросов, например, о соблюдении личного пространства и согласия на использование изображений. Как показал недавний анализ, в марте на платформах Meta было зафиксировано более 10,000 таких рекламных объявлений. Примером ситуации, когда "nudify" приложения используются в незаконных целях, является создание фальшивых изображений несовершеннолетних, что подчеркивает необходимость более жесткого контроля и законодательства.