Знаю, что схема древняя как говно мамонта, но привлекает сам анализ от ИИ как эта схема работает.

Убедительные ИИ-ассистенты, дипфейки и боты уже стали обычным явлением. Но могут ли они быть использованы злоумышленниками для влияния на выборы в Шотландии?

По мере приближения выборов в шотландский парламент, назначенных на 7 мая, сотрудники избирательных комиссий готовятся к наплыву машинного контента, предназначенного для обмана и влияния на избирателей, а эксперты выражают обеспокоенность по поводу воздействия ИИ на демократию во всём мире.

В нашем последнем выпуске «De-noiser» издание The Ferret рассмотрело риски, описанные исследователями, то, как власти и регулирующие органы пытаются бороться со злонамеренным контентом, а также на что следует обратить внимание избирателям перед предстоящим голосованием в Холируде и в дальнейшем.

Фермы ботов и астротурфинг

В прошлом месяце глобальный консорциум экспертов предупредил о новой угрозе со стороны «роев коллаборационистских вредоносных ИИ-агентов», которые могут быть использованы политическими лидерами или иностранными противниками для наводнения лент в социальных сетях и каналов обмена сообщениями.

Авторы доклада, включая лауреата Нобелевской премии мира, активистку за свободу слова Марию Рессу, а также экспертов из Кембриджа, Оксфорда и ведущих университетов США, заявили: «Эти системы способны действовать автономно, внедряться в сообщества и эффективно создавать видимость консенсуса. Адаптивно подражая человеческой социальной динамике, они угрожают демократии».

Владельцы бот-ферм создают поддельные аккаунты в социальных сетях, которые публикуют контент, служащий определённой повестке. Эти аккаунты созданы так, чтобы вести себя как реальные люди, и, хотя раньше их было легко распознать как неаутентичные, возможности ботов значительно возросли.

Платформы пытаются предотвратить использование ботов, требуя от владельцев аккаунтов вводить одноразовый пароль, обычно отправляемый через SMS-сообщение. Но владельцы бот-ферм предоставляют услуги SMS-верификации, чтобы обойти это препятствие, и, по сообщениям, это стоит недорого.

Недавний анализ Кембриджского университета показал, что верификация фейковых аккаунтов для использования в США и Великобритании стоит почти так же дёшево, как и в России, тогда как в Японии и Австралии цены высоки из-за стоимости SIM-карт и требований по фотоудостоверениям.

В докладе также добавляется, что цены на фейковые аккаунты в мессенджерах Telegram и WhatsApp, по-видимому, резко возрастают в странах, где должны состояться национальные выборы.

В Шотландии были выявлены боты, пытавшиеся влиять на политический дискурс в интернете.

Одно из исследований, проведённое в прошлом году компанией Cyabra, занимающейся дезинформацией, показало, что более 1300 аккаунтов в X (соцсеть Илона Маска) были иранскими ботами, которые публиковали сообщения в поддержку независимости Шотландии, против выхода из ЕС и в поддержку Тегерана, используя изображения, сгенерированные ИИ, для создания правдоподобных фейковых личностей.

Контент этих ботов, в котором использовался шотландский сленг и выражения, потенциально был просмотрен 224 миллиона раз, сообщила Cyabra. Эти профили регулярно делились, ставили лайки и комментировали контент друг друга, что расширяло их охват, но замолкали во время иранского восстания, когда режим отключил интернет.

Фальшивая низовая активность в социальных сетях также известна как астротурфинг и может проявляться в виде рекламы, страниц и групп.

Издание The Ferret раскрыло кампании, созданные людьми, направленные против независимости Шотландии и ШНП (Шотландская национальная партия), против регулирования индустрии вейпинга в Шотландии, а также против запрета на электрические ошейники для собак.

Среди тех, кто стоял за этими кампаниями, были группа сторонников Brexit, лондонское PR-агентство, советник правительства Великобритании, а также бывший шотландский тори и политик от Партии Brexit.

Доктор Пол Рейли, старший преподаватель коммуникаций, медиа и демократии в Университете Глазго, заявил The Ferret, что «существует множество доказательств попыток подорвать или манипулировать общественным дискурсом».

Это включает в себя, по-видимому, «оркестровку ботов» в X, предназначенную для того, чтобы «сеять замешательство и раздор», подрывать доверие и подталкивать людей к определённой позиции.

«Я думаю, есть более важный вопрос об усилении поляризации, и это часто то, чего хотят добиться те, кто стоит за этими кампаниями», — добавил он.

Дипфейки

ИИ-дипфейки стремительно прогрессируют, что подтверждается развитием теста «Уилл Смит ест спагетти», где сгенерированные клипы с бывшей звездой «Принца из Беверли-Хиллз», наслаждающимся итальянским блюдом, эволюционировали от сюрреалистичных до убедительных.

Однако дипфейк-изображения, видео и аудиозаписи могут быть способны обмануть зрителей, заставив их поверить в ложь, которая способна повлиять на то, как они отдадут свой голос.

Такие дипфейки могут изображать, например, политика, говорящего или делающего то, что он никогда не говорил и не делал, и быстро распространяться в массовом порядке, в результате чего избиратели могут увидеть дипфейк и поверить в его подлинность задолго до того, как он будет удалён или разоблачён.

Рейли сказал, что ещё 18 месяцев назад он счёл бы угрозу ИИ-контента для демократического процесса преувеличенной. Но количество реалистичных дипфейков, нацеленных на политических деятелей в последние месяцы, означает, что теперь это «вызывает большую озабоченность».

Он сказал, что хотя ещё нет доказательств того, что дипфейки могут изменить поведение избирателей в больших масштабах, «это, безусловно, представляет угрозу на предстоящих выборах».

Дипфейки с участием политиков Великобритании появились в последние годы, хотя большинство примеров включают использование сфабрикованного аудио. Среди них — вирусный клип, в котором первый министр Джон Суинни якобы говорит, что после выборов ШНП будет «делать всё, что захочет».

Поддельный клип с участием зеленого депутата шотландского парламента Мэгги Чепмен, помеченный логотипом телевидения шотландского парламента, заставил политика заявить, что она хочет отменить все дороги в Шотландии. Сообщается, что это видео просмотрели десятки тысяч раз.

Факт-чекинговая служба Ferret Fact Service ранее разоблачала поддельные аудиоклипы, включая один с участием премьер-министра Кира Стармера, где он якобы оскорбляет сотрудников.

Дипфейки изображений и видео включали в себя Найджела Фаража, играющего в видеоигру Minecraft, а также посещающего в больнице семилетнего ребёнка с неизлечимой формой рака, чтобы исполнить его «последнее желание» — подлинное изображение, изменённое с помощью ИИ для добавления лидера партии Reform UK.

Эти примеры демонстрируют, как технология может использоваться для улучшения репутации одних лидеров и очернения других.

ИИ-чатботы

Появляются данные о том, что люди обращаются к ИИ-чатботам, таким как ChatGPT, за советами по голосованию и получают в ответ убедительные аргументы. Но было обнаружено, что некоторые виртуальные помощники распространяют дезинформацию и ложную информацию.

Рейли сослался на масштабное исследование, проведённое Институтом безопасности ИИ перед последними всеобщими выборами, согласно которому 32 процента пользователей чатботов (что эквивалентно 13 процентам всех имеющих право голоса избирателей Великобритании) сообщили, что использовали чатботов для принятия решения о своём выборе на выборах.

«Это огромный показатель, учитывая, что ИИ всё ещё относительно нов», — сказал Рейли, добавив, что ИИ-ассистенты «формируют то, как выигрываются и проигрываются выборы… что весьма тревожно».

Хотя исследование показало, что люди используют чатботов, чтобы лучше ориентироваться в вопросах, технология также «может использоваться для введения в заблуждение» с помощью «ложных, неточных или явно намеренно вводящих в заблуждение заявлений», подчеркнул он.

В исследовании 2024 года ИИ-ассистенты превзошли людей в способности убеждать оппонентов в дебатах, даже когда люди знали, что взаимодействуют с машиной. В прошлом году, как сообщается, крупное исследование показало, что чатботы более убедительны, чем традиционные предвыборные материалы и даже опытные агитаторы.

Исследование Массачусетского технологического института (MIT), охватившее тысячи избирателей на национальных выборах в США, Канаде и Польше, показало, что чатботы эффективно убеждают людей голосовать за определённого кандидата или менять свою позицию по какому-либо вопросу.

В другом исследовании MIT, проведённом с участием почти 77 000 человек в Великобритании, было установлено, что чатботы наиболее убедительны, когда используют фактические утверждения.

Но также было выявлено, что чатботы распространяют теории заговора о климате, климатическое отрицание и фейковые новости. В 2024 году NewsGuard обнаружил, что 10 ведущих ИИ-ассистентов в трети случаев имитируют российские дезинформационные утверждения и ссылаются на фейковые новости.

В прошлом году крупное исследование, проведённое 22 организациями общественного медиавещания, показало, что четыре из наиболее часто используемых чатботов искажают новостной контент почти в половине случаев.

Хотя ИИ-ассистенты могут отказываться помогать в создании дезинформации, тесты Технологического университета Сиднея показали, что их можно манипулировать для выполнения таких действий.

ИИ входит в число основных проблем регулятора

Перед последними всеобщими выборами Международная ассоциация юристов предупредила, что «либеральный подход» Великобритании к регулированию ИИ оставляет избирателей «уязвимыми для дезинформации и рискует ещё больше подорвать общественное доверие к демократии».

Исследование Института Алана Тьюринга не обнаружило доказательств того, что дезинформация с помощью ИИ сколько-нибудь значимо повлияла на результаты последних выборов в Великобритании или Европе.

Однако на январском брифинге для прессы в Эдинбурге Избирательная комиссия заявила журналистам, что её главными проблемами перед выборами в Холируде являются использование ИИ (особенно дипфейков) и безопасность кандидатов.

Наряду с помощью избирателям в распознавании дезинформации и ложной информации, комиссия участвует в пилотном проекте совместно с Министерством внутренних дел, в рамках которого будет использоваться программное обеспечение, способное обнаруживать дипфейки. Комиссия заявляет, что будет бороться с поддельными медиа, нацеленными на кандидатов, когда это входит в её компетенцию, или передавать их другим инстанциям, таким как медиарегулятор Ofcom, вещательные компании и полиция, а также политическим партиям.

«Мы внимательно следим за тем, как дипфейки используются в предвыборной кампании в Великобритании и за рубежом, и осознаём риски, которые они представляют для безопасности выборов и доверия избирателей», — заявила изданию The Ferret представитель комиссии.

Пилотный проект «позволит нам расширить доказательную базу о масштабах угрозы, которую дипфейки представляют для избирательной системы Великобритании, и повлияет на наши будущие меры по борьбе с дезинформацией на выборах, вызванной дипфейками», — добавили они.

Комиссия встречается с крупными социальными медиакомпаниями перед выборами для обсуждения их процессов, связанных с выборами, особенно касающихся дезинформации и ложной информации.

Вместе с тем комиссия приветствовала рекомендации, сделанные комитетом Вестминстера по вопросам безопасности выборов и кандидатов, включая требование к платформам удалять оскорбительный контент.

Что говорит закон

Закон Великобритании о безопасности в интернете содержит статью о вмешательстве со стороны иностранных государств, которая может быть использована для борьбы с роями ботов, но только при определённых обстоятельствах.

Незаконно делать ложное заявление о личных качествах кандидата с целью повлиять на исход выборов. Ложные заявления, не касающиеся личных качеств или поведения кандидата, не являются незаконными, но могут считаться клеветническими.

Кандидаты, партии и непартийные участники кампаний обязаны использовать «импринты» (выходные данные) на определённом цифровом и печатном предвыборном контенте, в которых указывается, кто несёт ответственность за публикацию и от чьего имени она распространяется. Однако частное лицо имеет право выражать своё личное мнение в материалах, опубликованных от своего имени и на некоммерческой основе.

Комиссия не имеет полномочий регулировать предвыборные материалы или высказывания кандидатов друг о друге, но сообщает о проблемах в полицию Шотландии. Полиция может расследовать заявления о ложных сведениях (что является конкретным избирательным правонарушением), в то время как вопросы клеветы относятся к компетенции гражданских судов.

В полиции Шотландии заявили, что имеют «обширный опыт» обеспечения выборов. «Действует соразмерный план полицейских мер по поддержке периода подготовки к выборам и самого дня голосования», — сообщил представитель полиции изданию The Ferret.

Благодатная почва

Рейли отметил, что по сравнению с дезинформацией и ложной информацией внимания к ИИ уделяется недостаточно, «но это часть одного и того же».

Он утверждает, что все институты несут ответственность за борьбу с вводящим в заблуждение контентом, включая СМИ, которые могут проверять факты и разоблачать ложные утверждения, а также компании социальных сетей, которые, по его мнению, «всё ещё не относятся к своей роли достаточно серьёзно».

Meta, владеющая Facebook и Instagram, распустила свою команду по «ответственному ИИ» и отказалась от независимых фактчекеров, например. И хотя предпринимаются попытки использовать автоматизированное программное обеспечение для выявления дезинформации и ложной информации с помощью ИИ, нет доказательств его эффективности, сказал Рейли.

Поскольку социальные платформы не считаются издателями, на них не распространяется такое же регулирование, как на другие медиа. «Они позиционируют себя как платформы намеренно, чтобы заявить, что они нейтральны и безвредны», — утверждает он.

Но за последнее десятилетие на платформах размещался «ИИ-мусор, дезинформация, ложная информация, язык вражды — вещи, которые в значительной степени оставались бесконтрольными, несмотря на то, что политики и многие страны пытались оказывать давление на эти платформы, угрожая лишить их лицензий… Это не сработало. Временами это похоже на Дикий Запад».

В преддверии последних выборов в Вестминстер Избирательная комиссия призвала избирателей критически оценивать предвыборные материалы и настоятельно призвала политические партии и участников кампаний не вводить избирателей в заблуждение, особенно при использовании генеративного ИИ.

Рейли считает, что общественность должна обладать осведомлённостью, чтобы пытаться распознавать контент, созданный ИИ, и скептицизмом, чтобы ставить под сомнение подлинность поста или пользователя, особенно перед тем, как делиться контентом и помогать его легитимизации. «Все мы в этом виноваты», — подчеркнул он.

В текущих условиях люди более склонны верить утверждениям и доверять источникам, которые раньше могли бы отвергнуть, сказал Рейли.

«Это информационный кризис, а недоверие к институтам назревало уже более десятилетия», — добавил он.

Автор - Джейми Манн

Перевод с английского языка.

https://www.theferret.scot/could-ai-misinformation-sway-the-scottish-election/