В последние годы искусственный интеллект (ИИ) становится все более мощным инструментом для создания контента, что вызывает серьезные опасения в отношении его воздействия на общественное мнение и достоверность информации. Meta, одна из крупнейших социальных сетей в мире, испытывает давление со стороны своего совета по надзору, чтобы улучшить контроль над ложным контентом, который может быть создан с помощью ИИ. Это особенно важно в свете недавних событий, когда видеоролик, утверждающий, что он показывает разрушения в Хайфе, был создан ИИ и неправильно интерпретировал факты.

Совет по надзору Meta, состоящий из 21 эксперта, раскритиковал компанию за недостаточную реакцию на такие инциденты. В настоящее время Meta полагается на пользователей, чтобы они сообщали о ложном контенте, созданном ИИ. Однако это часто оказывается недостаточно эффективным в условиях, когда фейковые видео могут быстро набирать миллионы просмотров. Например, видео, которое вызвало критику, было опубликовано в Фейсбуке и имело около 1 миллиона просмотров, не получив должной маркировки. Это подчёркивает критическую необходимость в проактивном подходе к пометке контента, особенно в ситуациях кризиса или конфликта, когда пользователи нуждаются в наиболее точной и достоверной информации. Совету необходимо разработать более строгие правила для маркировки таких видео и обеспечить лучшее понимание пользователями принципов отличия реального контента от фальшивого.

Нынешние меры Meta только добавляют к озабоченности, что пользователи сталкиваются с трудностями в различении фактов и вымысла. С учетом увеличения применения ИИ для создания контента, существует реальная угроза того, что ложная информация может подорвать доверие общества к новостям и другим источникам информации. Каждый пользователь социальных сетей должен быть осторожным и критически относиться к информации, которую он видит в своих лентах. Мы находимся на пороге новой эры, и важно, чтобы компании, как Meta, адаптировались к изменениям и обеспечивали надежные механизмы защиты пользователей от дезинформации.