Как генеративный ИИ может усилить политические кампании и пропаганду: NPR
Джеки Лэй/NPRJackie Lay/NPR
Генерирующие приложения искусственного интеллекта стали общедоступными в прошлом году, открывая широкие возможности для творчества, а также путаницы. Совсем недавно кампания кандидата в президенты Рона Десантиса поделилась явно поддельными изображениями Дональда Трампа и Энтони Фаучи, сделанными с помощью искусственного интеллекта. Несколькими неделями ранее вероятно созданное ИИ изображение бомбардировки Пентагона вызвало кратковременные падения фондового рынка и заявление Министерства обороны.
Учитывая, что предвыборная кампания 2024 года уже идет, какое влияние окажут эти технологии на ход гонки? Будут ли внутренние кампании и зарубежные страны использовать эти инструменты для более эффективного воздействия на общественное мнение, даже для распространения лжи и сеяния сомнений?
Хотя все еще можно сказать, что изображение было создано с помощью компьютера, и некоторые утверждают, что генеративный ИИ в основном более доступен Photoshop, текст, созданный чат-ботами на основе ИИ, трудно обнаружить, что беспокоит исследователей, изучающих, как ложь распространяется в Интернете.
«Текст, сгенерированный искусственным интеллектом, может быть лучшим из обоих миров [для пропагандистов]», — сказала Шелби Гроссман, ученый из Стэнфордской интернет-обсерватории, в недавнем выступлении.
Ранние исследования показывают, что даже если существующие подходы к медиаграмотности все еще могут помочь, есть причины для беспокойства по поводу влияния технологии на демократический процесс.
Машинная пропаганда может влиять на мнения
Используя большую языковую модель, предшественницу ChatGPT, исследователи из Стэнфорда и Джорджтауна создали вымышленные истории, которые повлияли на взгляды американских читателей почти так же сильно, как и реальные примеры российской и иранской пропаганды.
Большие языковые модели работают как очень мощные алгоритмы автозаполнения. Они объединяют текст по одному слову за раз, от стихов до рецептов, обучаясь на огромном количестве написанного человеком текста, который передается моделям. ChatGPT с доступным интерфейсом чат-бота — самый известный пример, но подобные модели существуют уже некоторое время.
Помимо прочего, эти модели использовались для обобщения постов в социальных сетях и для создания фиктивных заголовков новостей, которые исследователи могли использовать в лабораторных экспериментах по медиаграмотности. Это одна из форм генеративного ИИ, другая — модели машинного обучения, которые генерируют изображения.
Исследователи нашли статьи из кампаний, приписываемых либо России, либо связанных с Ираном, и использовали основные идеи и аргументы из статей в качестве подсказок модели для создания историй. В отличие от сгенерированного компьютером текста, который до сих пор был обнаружен в дикой природе, эти истории не содержали очевидных контрольных знаков, таких как предложения, начинающиеся с «в качестве языковой модели ИИ…»
Команда хотела избежать тем, о которых американцы могли уже иметь предвзятое мнение. Поскольку многие прошлые статьи из российских и иранских пропагандистских кампаний были посвящены Ближнему Востоку, о котором большинство американцев мало что знают, команда попросила модель написать свежие статьи об этом регионе.
Чтобы измерить, как истории повлияли на мнения, команда показала разные истории — некоторые оригинальные, некоторые сгенерированные компьютером — группам ничего не подозревающих участников эксперимента и спросила, согласны ли они с центральной идеей истории. Команда сравнила результаты групп с людьми, которым не показывали истории — написанные машинным способом или нет.
Почти половина людей, читавших статьи, в которых ложно утверждалось, что Саудовская Аравия будет финансировать пограничную стену, согласились с этим утверждением; процент людей, которые читали сгенерированные машиной истории и поддерживали идею, был более чем на десять процентных пунктов ниже, чем те, кто читал оригинальную пропаганду. Это значительный разрыв, но оба результата значительно превышают базовый уровень — около 10%.
Что касается утверждения о сирийских медицинских поставках, ИИ подобрался ближе: процент людей, согласившихся с утверждением после прочтения пропаганды, созданной ИИ, составил 60%, чуть ниже 63%, согласившихся после прочтения исходной пропаганды. Оба выше, чем 35% для людей, которые не читали ни человеческую, ни машинную пропаганду.
Исследователи из Стэнфорда и Джорджтауна обнаружили, что с небольшим человеческим редактированием статьи, созданные с помощью моделей, повлияли на мнение читателей в большей степени, чем иностранная пропаганда, которая посеяла компьютерную модель. Их документ в настоящее время находится на рассмотрении.
И поймать это сейчас сложно. Несмотря на то, что все еще существуют некоторые способы распознавания изображений, созданных ИИ, программное обеспечение, предназначенное для обнаружения машинного текста, например, классификатор Open AI и GPTZero, часто терпит неудачу. Технические решения, такие как нанесение водяных знаков на текст, создаваемый ИИ, были предложены, но в настоящее время их нет.
Даже если пропагандисты обратятся к ИИ, платформы по-прежнему могут полагаться на признаки, основанные больше на поведении, чем на содержании, такие как обнаружение сетей учетных записей, которые усиливают сообщения друг друга, большие группы учетных записей, которые создаются одновременно, и хэштеговый флуд. Это означает, что платформы социальных сетей по-прежнему должны находить и удалять кампании влияния.
Экономика и масштаб
Несколько лет назад так называемые дипфейк-видео вызвали тревогу, но еще не получили широкого распространения в кампаниях, вероятно, из-за стоимости. Теперь это может измениться. Алекс Стамос, соавтор исследования Стэнфорд-Джорджтаун, описал в презентации с Гроссманом, как генеративный ИИ может быть встроен в то, как политические кампании уточняют свое сообщение. В настоящее время кампании генерируют разные версии своего сообщения и тестируют их на группах целевых аудиторий, чтобы найти наиболее эффективную версию.
«Обычно в большинстве компаний вы можете размещать рекламу до 100 человек, верно? На самом деле вы не можете заставить кого-то сидеть перед Adobe Premiere и снимать видео для 100 человек.
» он говорит.
«Но сгенерировать его с помощью этих систем — я думаю, это вполне возможно. К тому времени, когда мы приступим к настоящей кампании в 2024 году, такие технологии уже будут существовать.»
Хотя теоретически генеративный ИИ может расширять возможности кампаний, политических или пропагандистских, в какой момент модели становятся экономически выгодными для использования? Мика Массер, аналитик-исследователь Центра безопасности и новых технологий Джорджтаунского университета, провел моделирование, предполагая, что иностранные пропагандисты используют ИИ для создания сообщений в Твиттере, а затем просматривают их перед публикацией, вместо того, чтобы писать твиты сами.
Он протестировал разные сценарии: что, если модель будет выдавать больше полезных твитов, а не меньше? Что, если злоумышленникам придется потратить больше денег, чтобы избежать поимки в социальных сетях? Что, если им придется платить больше или меньше за использование модели?
Генеративный ИИ также не должен писать твиты с пропагандистскими сообщениями, чтобы быть полезным. Его также можно использовать для ведения автоматизированных учетных записей путем написания похожего на человека контента для публикации до того, как они станут частью согласованной кампании по продвижению одного сообщения, что снижает вероятность того, что автоматизированные учетные записи будут пойманы платформами социальных сетей, Массер. говорит.
«Актеры, у которых есть наибольший экономический стимул начать использовать эти модели, подобны фирмам по найму дезинформации, где они полностью централизованы и структурированы вокруг максимизации результатов и минимизации затрат». говорит Мюссер.
Как в исследовании Стэнфорд-Джорджтаун, так и в анализе Муссера предполагалось, что должен быть какой-то контроль качества пропаганды, написанной компьютером. Но качество не всегда имеет значение. Несколько исследователей отметили, что машинно-генерируемый текст может быть эффективным для заполнения поля, а не для привлечения внимания.
«Если вы скажете одно и то же тысячу раз в социальных сетях, вас легко поймают». — говорит Даррен Линвилл из Центра судебной экспертизы СМИ Университета Клемсона. Linvill исследует онлайн-кампании влияния, часто из России и Китая.
«Но если вы тысячу раз скажете одно и то же немного по-разному, вероятность того, что вас поймают, гораздо меньше.»
И это может быть целью некоторых операций по влиянию, говорит Линвилл, — затопить поле до такой степени, что настоящие разговоры вообще невозможны.
«Провести кампанию в социальных сетях или аналогичную кампанию по дезинформации в Интернете уже относительно дешево». Линвилл говорит: «Когда вам даже не нужны люди, которые будут писать для вас контент, плохим актерам будет еще проще достучаться до широкой онлайн-аудитории».
Записи узника Освенцима из ада наконец раскрыты 03 Подпись к изображению,
Страница с выцветшими заметками Наджари после обработки — оригинал справа
Лоуренс Питер
BBC News
Леденящие кровь показания узника Освенцима, вынужденного помогать нацистским отрядам убийц, наконец-то расшифрованы благодаря кропотливой детективной работе и цифровым изображениям.
На клочках бумаги Марсель Наджари, греческий еврей, описал, как тысячи евреев ежедневно загонялись в газовые камеры. Он видел их «набитыми, как сардины».
В 1944 году 26-летний парень горел жаждой мести. Он слышал от других греческих евреев, что его мать, отец и сестра Нелли умерли в лагере Аушвиц-Биркенау на юге Польши, оккупированной нацистами, за год до этого.
«Часто я подумывал пойти вместе с остальными, чтобы положить этому конец. Но всегда месть мешала мне это сделать. Я хотел и хочу жить, отомстить за смерть папы, мамы и моей милой сестрёнки,» он написал.
Он был среди примерно 2200 членов зондеркоманды — еврейских рабов СС, которые должны были сопровождать своих собратьев-евреев в газовые камеры. Затем они должны были сжечь тела, собрать золотые пломбы и женские волосы, а пепел сбросить в ближайшую реку.
Источник изображения, Getty Images Подпись к изображению,Гранулы цианида Циклона Б использовались в газовых камерах Освенцима
Промышленное убийство Эсэсовцы их тоже уничтожали.
Итак, в ноябре 1944 года Наджари засунул свою 13-страничную рукопись в термос, который закрыл пластиковой крышкой. Затем он поместил термос в кожаный мешочек и закопал его возле крематория III.
«Крематорий представляет собой большое здание с широким дымоходом и 15 печами. Под садом есть два огромных подвала. В одном раздеваются, а в другом находится камера смерти. Люди входят в него обнаженными, и однажды в нем находится около 3000 человек. запирают и травят газом. Через шесть-семь минут страданий они умирают», — написал он.
Он рассказал, как немцы проложили трубы, чтобы газовая камера выглядела как душевая.
«Газовые канистры всегда доставлялись на машине Немецкого Красного Креста с двумя эсэсовцами. Затем они сбрасывали газ через отверстия — и через полчаса начиналась наша работа. Мы тащили тела этих невинных женщин и детей к лифту. , который довел их до печей».
Прах каждой взрослой жертвы весил около 640 граммов (1,4 фунта), отмечает он.
Источник изображения, ПАВЕЛ ПОЛЯН Подпись к изображению,Марсель Наджари в форме греческой армии перед отправкой в Освенцим
Подробнее о Холокосте:
Холокост год за годом
Кто пропавшие миллионы?
Скрытые могилы Холокоста
Картины выживших изображают ужасы Освенцима
Жизнь после смерти
Из его записей ясно, что он ожидал умереть в лагере, но это было его сообщением внешнему миру.
Сообщение, которое означало бы для него смерть, если бы об этом узнали эсэсовцы.
Тридцать шесть лет спустя польский студент-лесовод случайно обнаружил термос на глубине около 40 см (16 дюймов) во время раскопок на участке.
Чудом Наджари пережил Освенцим и депортацию в концлагерь Маутхаузен в Австрии после падения Третьего рейха.
После войны женился и в 1951 году переехал в Нью-Йорк. У него уже был годовалый сын, а в 1957 году его жена Роза родила девочку, которую назвали Нелли — в честь любимой умершей сестры Марселя.
В довоенных Салониках работал торговцем. В Нью-Йорке он зарабатывал на жизнь портным.
Наджари умер в 1971 году в возрасте 53 лет — за девять лет до того, как было обнаружено его сообщение об Освенциме.
Влажная почва сделала свое дело: к моменту, когда российский историк Павел Полян решил спасти его, используя современные технологии, можно было прочитать только 10% сообщения.
Такое редкое прямое свидетельство является «центральным» для документирования Холокоста, сказал г-н Полиан.
Это видео невозможно воспроизвести
Чтобы воспроизвести это видео, вам необходимо включить JavaScript в вашем браузере.
Медиа-титр,Освенцим: кадры с беспилотников из нацистского концлагеря
Успех высоких технологий
В прошлом месяце Институт современной истории в Мюнхене опубликовал выводы Поляна (на немецком языке). Он работает над новым изданием «Свитков из пепла», русской книги о доказательствах зондеркоманды, включая текст Наджари.
Четверо других членов зондеркоманды оставили письменные записи, наиболее важным из которых является запись Салмена Градовского, польского еврея. Они писали в основном на идише. Найденные ранее, они были в лучшем состоянии.
Мистер Полян получил отсканированную рукопись Наджари из архива музея Освенцим. После разговора о его плохом состоянии по русскому радио с ним связался молодой российский IT-специалист Александр Никитяев и предложил свою помощь.
Г-н Никитяев провел год, экспериментируя с программой обработки цифровых изображений Adobe Photoshop, чтобы восстановить выцветший текст.
Он использовал красный, зеленый и синий фильтры (красный оказался наиболее эффективным) для достижения 90% разборчивости. Это было сделано с помощью коммерческого программного обеспечения, но мультиспектральный анализ — технология, используемая полицией и спецслужбами — еще более эффективна.
Мистер Полиан получил текст, переведенный с греческого на английский Иоаннисом Каррасом, греко-британским ученым, живущим во Фрайбурге, Германия.
Источник изображения, Auschwitz.org Подпись к изображению,Руины газовой камеры и крематория III: Вход в раздевалку числа жертв Освенцима: 1,4 миллиона.
Историки говорят, что нацисты убили более 1,1 миллиона евреев в огромном лагерном комплексе и еще 300 000 человек, большинство из которых были поляками и советскими военнопленными.
«Сокамерники, очевидно, обсуждали, сколько поездов прибыло», — сказал Полиан.
«Желание мести Наджари выделяется — оно отличается от других аккаунтов. И он уделяет много внимания своей семье.
