Как создатель цифрового контента и человек, который лично испытал тревожную реальность дипфейков, я полностью согласен с национальным исполнительным директором AG-AFTRA Крэбтри-Ирландия. Распространение дезинформации и дипфейков на платформах социальных сетей не только вызывает тревогу, но и потенциально имеет разрушительные последствия в реальном мире.
Патриотическое изображение показывает мегазвезду Тейлор Свифт, одетую как дядя Сэм, ложно предполагая, что она поддерживает кандидата в президенты от республиканской партии Дональда Трампа.
Сообщение на этом изображении, похоже, было создано искусственным интеллектом и побуждает вас отдать свой голос за Дональда Трампа — согласно предпочтениям Тейлора.
В выходные Трамп усилил ложь, разместив это изображение среди других, заявив о поддержке со стороны Тейлор Свифт, своим 7,6 миллионам подписчиков на своей платформе Truth Social.
Политика исторически связана с некоторой степенью обмана, но появление передовых технологий искусственного интеллекта, которые позволяют быстро создавать фальсифицированные изображения или видео с помощью простого ввода текста, привносит новое измерение в эту постоянную проблему в социальных сетях. Эти манипулируемые визуальные эффекты, часто называемые дипфейками, способны создать впечатление, будто кто-то произносит или выполняет действия, которых он никогда не совершал.
В условиях обострения конкуренции между Дональдом Трампом и кандидатом от Демократической партии Камалой Харрис специалисты по дезинформации выражают обеспокоенность по поводу потенциальных угроз, исходящих от продвинутого искусственного интеллекта.
«Эмилио Феррара, профессор Инженерной школы Университета Южной Калифорнии в Витерби, выразил обеспокоенность по поводу приближения выборов: «Ситуация будет значительно обостряться». Он предсказал, что ситуация ухудшится еще больше, чем сейчас».
Лично я оказался в положении, когда я вынужден заняться ситуацией с гигантами социальных сетей, такими как Facebook и тем, что когда-то было Twitter. На этих платформах установлены правила, запрещающие манипулирование визуальными, аудио- или видеоматериалами. Однако поток контента, созданного искусственным интеллектом, в Интернете усложнил эффективную реализацию этой политики.
Хани Фарид, профессор Калифорнийского университета в Беркли, специализирующийся на дезинформации и цифровой криминалистике, заявил, что мы все еще сталкиваемся с теми же проблемами прошлого, включая легенды, конфликты и общую глупость, которые сохраняются на протяжении десятилетия. Однако сейчас эти проблемы усугубляются развитием искусственного интеллекта с генеративными способностями, и мы оказались глубоко разделены по партийным линиям.
В свете растущего энтузиазма в отношении OpenAI, создателей широко используемого чат-бота с генеративным искусственным интеллектом ChatGPT, технологические компании призывают пользователей опробовать новые решения искусственного интеллекта, способные создавать текстовый, графический и видеоконтент.
Как любитель кино, я надел шляпу детектива и проанализировал фотографии, которые Трамп опубликовал через Swift. Это похоже на хитрую смесь правды и вымысла, на «хитрую» тактику распространения вводящего в заблуждение контента.
Люди часто распространяют ложный визуальный контент по разным причинам, например, для того, чтобы добиться популярности в социальных сетях или спровоцировать других. Визуальные изображения играют влиятельную роль в формировании общественного мнения, особенно в отношении политических вопросов, таких как законность президентских выборов 2024 года, как предполагается.
В контексте X изображения, по-видимому, созданные ИИ, показывают, как Тейлор Свифт обнимает Дональда Трампа или выполняет такие действия, как держать его за руку или петь с ним дуэтом, пока он играет на гитаре. Кроме того, энтузиасты социальных сетей использовали различные тактики, чтобы исказить мнение о том, что Тейлор Свифт поддерживает Трампа.
Я, как преданный поклонник Тейлор Свифт, обратил внимание, когда наткнулся на видео, в котором ложно предполагалось, что она поддерживает Трампа. В этом вводящем в заблуждение клипе, первоначально опубликованном в феврале, умело отредактированы кадры с церемонии вручения премии «Грэмми» 2024 года, чтобы создать впечатление, будто Тейлор держит в руках табличку с надписью «Трамп победил. Демократы обманули!», что абсолютно неверно и манипулируется ради эффекта.
Политические кампании готовятся к влиянию ИИ на выборы.
По словам Миа Эренберг, предвыборный штаб вице-президента Харрис создал внутреннюю целевую группу, которая готовит ответы на любое потенциальное воздействие искусственного интеллекта во время этого избирательного цикла, в частности, на борьбу с угрозой вредных дипфейков. По ее словам, команда разрешает использовать ИИ только для инструментов повышения эффективности, таких как анализ данных.
Предвыборный штаб Трампа не ответил на запрос о комментариях.
Ключевой проблемой в борьбе с дипфейками и манипулируемыми видео является то, что существующий федеральный закон прямо не регулирует эти вопросы в контексте платформ социальных сетей. Закон о порядочности в сфере коммуникаций 1996 года защищает компании социальных сетей от юридической ответственности за размещение контента, поскольку они не несут ответственности за контент, созданный пользователями, если они активно не помогают или не управляют его публикацией.
Однако со временем технологические компании столкнулись с критикой из-за контента, который был доступен на их платформах. В ответ многие социальные сети разработали политику модерации контента, которая включает запрет на разжигание ненависти.
По словам Джоанны Розен Форстер, партнера Crowell & Moring, найти баланс между компаниями социальных сетей и онлайн-операторами довольно сложно.
Как страстный киноман, я с нетерпением слежу за постоянными усилиями законодателей по борьбе с проблемой несанкционированных дипфейков, циркулирующих в социальных сетях. Они активно предлагают законы, которые обязывают этих технологических гигантов удалять такой вводящий в заблуждение контент, обеспечивая более аутентичную и надежную цифровую среду для всех пользователей, таких как я.
Губернатор Гэвин Ньюсом выразил в июле свое одобрение законам, запрещающим манипулирование голосами с использованием искусственного интеллекта во время рекламы политической кампании. Это заявление последовало за публикацией Илоном Маском, владельцем X, видео, в котором искусственно воспроизведен голос Харрис. Однако Маск, поддерживающий Трампа, позже уточнил, что опубликованное видео было задумано как сатира или пародия.
Одной из организаций, выступающих за принятие законодательства, касающегося дипфейков, является Гильдия киноактеров США и Американская федерация артистов телевидения и радио (SAG-AFTRA).
Дункан Крэбтри-Ирландия, который одновременно является национальным исполнительным директором и ведущим переговорщиком SAG-AFTRA, заявил, что платформы социальных сетей в настоящее время не справляются с решением данной проблемы.
«Крэбтри-Айрланд заявила, что ложь и вопиющие измышления, распространяемые с помощью дипфейков, по сути, необратимы. Поскольку многие выборы зависят от незначительной разницы и сложных, неясных систем, таких как коллегия выборщиков, эти обманчивые дипфейки могут привести к катастрофическим последствиям в реальной жизни».
Крэбтри-Ирландия лично столкнулась с проблемой дипфейков в прошлом году. В тот период, когда он добивался одобрения контракта, в Instagram появилось сфальсифицированное видео с его участием. Видео, на котором были изображены ложные изображения Крэбтри-Ирландии, отговаривающего членов профсоюза голосовать за контракт, о котором он договорился, собрало десятки тысяч просмотров. Несмотря на подпись «дипфейк», он получил множество запросов от членов профсоюза о подлинности видео.
По его словам, прошло несколько дней, прежде чем Instagram удалил дипфейковое видео.
Крэбтри-Ирландия заявил, что это показалось ему крайне неуважительным. Им не следует злоупотреблять его изображением и словами, чтобы защищать то, что он не поддерживает.
В условиях напряженной борьбы между Харрис и Трампом неудивительно, что оба кандидата полагаются на звездную силу для привлечения избирателей. Команда Харрис приветствовала образ ее поп-звезды Чарли XCX как «отродья» и использовала популярные песни, такие как «Freedom» Бейонсе и «Femininomenon» Чаппелла Роана, для продвижения своей кандидатки в президенты от Демократической партии, чернокожей американки азиатского происхождения. . С другой стороны, такие музыканты, как Кид Рок, Джейсон Алдин и Йе (ранее известный как Канье Уэст), публично поддержали Трампа, который пережил покушение в июле.
Тейлор Свифт, которая ранее пострадала от дипфейков, не поддерживала открыто ни одного кандидата на президентских выборах 2024 года, но в прошлом она высказывала критику в адрес Трампа. В документальном фильме 2020 года «Мисс Американа» Свифт выражает сожаление по поводу того, что не высказалась против Трампа во время выборов 2016 года, и называет республиканку из Теннесси Маршу Блэкберн, которая в то время баллотировалась в Сенат США, как человека, похожего на Трампа в парике.
Публицист Свифта Три Пейн не ответил на просьбу о комментариях.
Чат-боты на базе искусственного интеллекта на таких платформах, как Meta, X и OpenAI, позволяют людям легко создавать вымышленные изображения. Хотя новостные агентства обнаружили, что чат-бот X с искусственным интеллектом Grok может генерировать изображения фальсификаций на выборах, другие чат-боты имеют более строгие ограничения.
Чат-бот Meta AI отказался создавать изображения Свифта, поддерживающего Трампа.
«Наш чат-бот не имеет возможности создавать изображения, предназначенные для распространения ложной информации или создания впечатления, что общественный деятель поддерживает конкретного политического кандидата».
И Meta, и TikTok ясно дали понять, что они усердно работают над выявлением контента, созданного искусственным интеллектом (ИИ), и сотрудничают с проверяющими факты. Например, TikTok заявил, что на их платформе запрещены любые видеоролики, созданные искусственным интеллектом и ложно заявляющие о политической поддержке со стороны отдельных лиц или групп. X отказался комментировать, когда его спросили по этому поводу.
На вопрос о том, как Truth Social управляет контентом, созданным искусственным интеллектом, компания Trump Media and Technology Group Corp., стоящая за платформой, ответила, что журналисты настаивают на усилении цензуры. Правила сообщества Truth Social запрещают мошеннические и спам-публикации, но не разъясняют их подход к контенту, созданному искусственным интеллектом.
Из-за возможности судебных исков и нормативных актов некоторые эксперты, специализирующиеся на дезинформации, выражают сомнение в том, что сайты социальных сетей действительно намерены надлежащим образом управлять ложной или вводящей в заблуждение информацией.
Проще говоря, Фарид отметил, что, поскольку социальные сети в основном получают доход от рекламы, их бизнесу выгодно, если пользователи проводят больше времени на этих платформах, что, по сути, и означает «хорошо для бизнеса».
Он упомянул, что это чрезвычайно секретный, оскорбительный, сенсационный, возмутительный материал, который обычно привлекает внимание людей. По его мнению, это фундаментальный аспект человеческой природы.
Это суровая реальность, от которой не смогут избавиться даже Свифти.
Смотрите также
- Прогнозы криптовалюты DOGS: анализ и прогноз цен на Dogs
- Прогнозы криптовалюты CATDOG: анализ и прогноз цен на Cat-Dog
- Прогнозы криптовалюты DEGEN: анализ и прогноз цен на Degen (Base)
- Прогнозы криптовалюты ENA: анализ и прогноз цен на Ethena
- Прогнозы криптовалюты W: анализ и прогноз цен на Wormhole
- Прогнозы криптовалюты AIPG: анализ и прогноз цен на AI Power Grid
- Прогнозы криптовалюты ZK: анализ и прогноз цен на ZKsync
- Прогнозы криптовалюты UXLINK: анализ и прогноз цен на UXLINK
- Прогнозы криптовалюты NOT: анализ и прогноз цен на NOT
- Прогнозы криптовалюты ZRO: анализ и прогноз цен на LayerZero
2024-08-21 13:33