Svoboda | Graniru | BBC Russia | Golosameriki | Facebook

Ссылки для упрощенного доступа

Утечка или потоп. Как проголосует искусственный интеллект?


Изображение, созданное нейросетью Dall E компании OpenAI, преобразующей текст в визуальные образы
Изображение, созданное нейросетью Dall E компании OpenAI, преобразующей текст в визуальные образы

До президентских выборов в США еще 11 месяцев, но американцев уже тревожит российское вмешательство.

В марте этого года в компании Meta произошла утечка: некто выложил на имиджборд 4chan торрент-файл для загрузки полного варианта исходных кодов самой мощной на сегодняшний день большой языковой модели LLaMA. Предполагают, что это сделал кто-то из экспертов, получивших к ним доступ для исследовательских целей. Но можно и вообразить, что это сделала сама нейросеть.

С тех пор ничего ужасного не произошло. Сайт The Verge, сообщивший об утечке, пишет, что обычному пользователю совладать с LLaMA затруднительно. Это не чат-бот, готовый к общению. Это скорее коробка квартиры, к которой подключены электричество и водопровод, но отсутствуют двери, пол и мебель. Чтобы модель заработала, требуются время и специальные навыки. Однако стоит добавить: пока не произошло.

Команда Путина уже ищет инструменты искусственного интеллекта, чтобы сорвать президентские выборы в США

Один из экспертов, Дэвид Эван Харрис из Калифорнийского университета в Беркли, бьет тревогу: "Искусственный интеллект уже причиняет неумышленный вред. Что, если он попадет не в те руки?" Эванс приводит многочисленные примеры "неумышленного вреда". Это и дискриминация при найме жилья, и невидимые для женщин объявления о вакансиях,
и ошибки в распознавании лиц темнокожих людей, и неверный перевод с арабского на иврит, повлекший арест невиновного. Ну а если кто-то захочет нанести вред преднамеренный? "Предполагаю, что команда Путина уже ищет инструменты искусственного интеллекта, чтобы сорвать президентские выборы 2024 года в США", – пишет Харрис.

Кандидат в мэры Торонто Энтони Фьюри (выборы состоялись в июне) использовал в своей кампании изображения, сгенерированные ИИ
Кандидат в мэры Торонто Энтони Фьюри (выборы состоялись в июне) использовал в своей кампании изображения, сгенерированные ИИ

Предположение вполне обоснованное. Об этом говорит не он один. Грядущие выборы – первые в истории с участием искусственного интеллекта. В том, что он будет в них участвовать, никто не сомневается. В отличие от 2016 и 2020 года, на этот раз у Кремля нет никаких сдерживающих факторов: портить отношения с Вашингтоном уже некуда. Теперь Кремлю не надо притворяться, что он тут ни при чем.

Помочь нашему партнеру Трампу

Российские пропагандисты давно уже не скрывают заинтересованности Москвы в определенном результате голосования. "Пришло время призвать народ Соединенных Штатов сменить режим в США досрочно и снова стать президентом", – еще весной прошлого года заявил в своем ток-шоу Евгений Попов. А в апреле того же года в шоу Владимира Соловьева "американист" Малек Дудаков предложил для начала пригласить Трампа в Мариуполь. В американском экспертном сообществе мало кто сомневается в том, что Путин крепко рассчитывает на Трампа в смысле прекращения помощи Украине и изменения политики по отношению к ней в целом. И Трамп дает к тому все основания. Он не раз заявлял, что закончит войну в Украине за 24 часа, стоит ему только встретиться с обоими лидерами, которым он предложит "честную сделку".

Плакат в стиле советского ретрофутуризма, созданный нейросетью Midjourney
Плакат в стиле советского ретрофутуризма, созданный нейросетью Midjourney

Президент Путин этим предложением явно заинтересовался. В сентябре во Владивостоке его спросили, чего он ждет от президентских выборов в США. Путин сказал, что ничего хорошего: "принципиальных изменений на российском направлении во внешней политике США не будет". Однако тут же добавил: "Правда, мы слышим, что господин Трамп говорит, что он за несколько дней решит острые проблемы, в том числе и украинский кризис. Ну это не может не радовать, это хорошо". Трамп ответил
встречным комплиментом: "Я рад, что он это сказал. Потому что это значит, что то, что я говорю, правильно". В том же интервью он подтвердил, что его план заключается в том, что России будет позволено оставить за собой оккупированные территории, хотя и не все – кое-что придется вернуть Украине. В прошлом месяце президент Зеленский публично пригласил Трампа посетить Украину, чтобы за 24 минуты объяснить ему, что это невозможно, но Трамп от приглашения отказался.

Так следует ли ждать вмешательства России в американские выборы, и если да, то каким оно будет?

Обложка доклада Министерства внутренней безопасности
Обложка доклада Министерства внутренней безопасности

В сентябре Министерство внутренней безопасности США выпустило очередной ежегодный доклад об угрозах национальной безопасности в 2024 году. Видное место в этом документе занимают угрозы избирательному процессу. Исходят они, по оценке ведомства, от трех стран: России, Китая и Ирана. Авторы доклада отмечают, что инструменты искусственного интеллекта предоставляют новые возможности для злонамеренной дезинформации, позволяя создавать текстовый, изобразительный и аудиоконтент высокого качества. Особенно опасными эксперты правительства США считают технологии deepfake, генерирующие образы, неотличимые от подлинных. В качестве примера доклад ссылается на видеоролик RT, в котором действуют фейк-двойники Джо Байдена, Эмманюэля Макрона и Урсулы фон дер Ляйен. Надо признать, что здесь авторы доклада попали пальцем в небо: ролик пародийный, и за подлинный его никто не выдавал, о чем RT насмешливо и сообщил своей англоязычной аудитории.

Вместе с тем нельзя отрицать высокую вероятность таких фальсификаций. В ходе президентской кампании на Тайване уже имели случаи использования аудио- и видеофейков главных кандидатов. Фальшивки появились и в американской кампании. Сторонники соперника Трампа губернатора Флориды Рона Десантиса подделали голос Трампа в своем ролике, а Национальный комитет Республиканской партии смонтировал
реальные фотографии Джо Байдена и Камалы Харрис с апокалиптическими картинками "новостей будущего", сгенерированными ИИ.

Этот опус является компиляцией откровенных домыслов, сплетен и махровых русофобских выпадов

В октябре Госдепартамент США опубликовал рассекреченный текст своей циркулярной депеши, разосланной американским посольствам по всему миру. Со ссылкой на разведданные в документе утверждается, что в 2020–2022 годах Россия вмешивалась в выборы как минимум в девяти демократических странах, включая США. Посол РФ в Вашингтоне Анатолий Антонов привычно отмахнулся от обвинений: "С таким документом мы незнакомы. Однако, как говорят на Западе, с большой долей уверенности можем предположить, что этот опус является компиляцией откровенных домыслов, сплетен и махровых русофобских выпадов".

Однако в Америке грядущую напасть воспринимают всерьез. Прежде всего, говорят эксперты, создавать фальшивые аккаунты в соцсетях при помощи нейросетей гораздо дешевле, нежели содержать "фабрики троллей". Такой чат-бот не нуждается в контроле со стороны человека, его фиктивная индивидуальность может быть сложной и неповторимой. Наконец, у него нет нервов, а значит, его пропаганда способна быть ненавязчивой, а не скандально-крикливой.

Еще одно произведение ИИ для кампании Энтони Фьюри: женщина на картинке оказалась трехрукой
Еще одно произведение ИИ для кампании Энтони Фьюри: женщина на картинке оказалась трехрукой

Реальной считается и угроза взлома электронных систем голосования. В Америке более 10 тысяч юрисдикций со своей отдельной системой, и далеко не все они прошли обновление. Взламывать их все никому не нужно – в большинстве штатов исход голосования предрешен. Но каждый штат избирает президента отдельно. Победителя в конечном счете определяют несколько "фронтовых" штатов, а в них – определенные избирательные округа. Напомним, что в 2020 году итоги выборов, состоявшихся 3 ноября, были объявлены лишь 7-го. В некоторых штатах Байден буквально вырвал победу в последний момент. Например, в Джорджии он выиграл большинством менее чем в 12 тысяч голосов, разрыв составил 0,23 процента. При таких условиях достаточно "подкрутить счетчик" лишь в некоторых графствах. Для искусственного интеллекта не проблема просчитать возможные сценарии в режиме реального времени и направить взлом в нужное место.

"Последний рубеж". Фильм, созданный искусственным интеллектом Bright Pen. Ему помогали режиссер Хашем аль-Гайли и композитор Тьяго Наджент

Мы пока не знаем, на что способны российские нейросети GigaChat, разработанная Сбербанком, и YandexGPT2. Возможно, есть и другие, о которых широкой публике ничего не известно. Ничто не мешает Кремлю и воспользоваться утечкой. Тайваньские спецслужбы пользовались для обнаружения фейков программным продуктом американской компании Reality Defender, которая сейчас всячески рекламирует себя как едва ли не единственную панацею от дезинформации, созданной ИИ. Но что, если утечка превратится в потоп? Как сердито говорил помощник генерального прокурора США в фильме "Без злого умысла": "Утечка?! Вы называете это утечкой? Последний раз, когда случилась такая утечка, Ной построил себе ковчег!"

"Без злого умысла". Режиссер Сидни Поллак. 1981. В роли помощника генпрокурора – Уилфорд Бримли

Партнеры: the True Story

XS
SM
MD
LG