the34th training. Political deepfakes are spreading like wildfire thanks to GenAI

1. 【Cedar】技術英文読解トレーニング 第34回【Pollen】
Can you create a photo of Japanese man
and woman who wear a mask to prevent
cedar pollen?

2. 自己紹介
名前：Penguin
仕事：株式会社Cre-Co所属(エンジニアさん絶賛募集中！)
データまわりを中心にしたエンジニア
（歴16年？プログラマとしてなら39年）
英語との関わり：
メインは読む、聞く（技術系、契約系）
たまに書く、話す

3. エンジニアとしての英語能力は何をおいてもリーディング力
→抵抗なく英語の資料にあたることができると、問題解決能力は80％くらいアップする。
リスニングやライティングも、リーディング能力が上がれば合わせて上がっていく
リーディング力を高めるには、とにもかくにも読むこと。慣れること。

4. 英語の学習は、とにかく時間がかかります
2000時間
この勉強会を、きっかけやモチベーション維持にしてもらえたら幸いです

5. この勉強会のスタイル
技術系の文章に実践的にあたっていきます。
読めなくてもわからなくても、とにかく自分で読んでみてください。
わかる単語を手がかりに、全体の意味を想像してください。
いつかパターンが見えてきます。パターンが見えたら景色が変わります。
最低限の文法の知識は解説しますが、最低限です。
慣れてきた頃に、ご自身で感じる文法的課題を各自解決していくという方法がよいかと思います。

6. 今回のお題

7. Political deepfakes are spreading like wildfire thanks to GenAI
https://bit.ly/3uUJ5rn

8. 超要約
ここ最近、大きな選挙にあたり、生成AIを利用したDeepFakeで、候補者をおとしめようとする事象
が激増傾向にあります。
どれくらい増加しているのか、そして生成がどれくらい簡単なのか。これを防ぐにはどうすればよ
いのかなどを考えていく必要があるでしょう。
技術に関する単語は難しくないのですが、それに今回は選挙というやや専門的なトピックの単語
が混ざってきているのが特徴です。また、一文が比較的長いものが多く、初見で面食らってしま
うかもしれませんが、修飾が多いだけで文の構造はそこまで複雑ではありません。

9. This year, billions of people will vote in elections around the world.
今年、何十億もの人々が、世界中で選挙に投票する。
We will see — and have seen — high-stakes races in more than 50 countries, from Russia and Taiwan to
India and El Salvador.
私たちは、ロシアから台湾、そしてインドからエルサルバドルにいたるまで50カ国以上で重要
な選挙を見ることになるし、あるいは見てきた。
Demagogic candidates — and looming geopolitical threats — would test even the most robust
democracies in any normal year.
扇動的な候補者ーあるいは迫り来る地政学的な脅威ーが、いつもの年のもっとも強固な民主主
義さえも試すことになるだろう。
But this isn’t a normal year; AI-generated disinformation and misinformation is flooding the channels at a
rate never before witnessed.
しかし、今年は通常の年ではない。今までみたことがないくらいの割合で、AIが生成した偽情
報や、誤情報がチャンネルに溢れている。
And little's being done about it.
そして、ほとんどそれに対して対策がなされていない。
vote: 投票をする
election: 選挙
high-stakes: 重要な
demagogic: 扇動的な
looming: 迫り来る
disinformation: 偽情報
misinformation: 誤情報
witness: 目撃する
little: (名詞として）少量のもの

10. hate speech: ヘイトスピーチ
extremism: 過激主義
co-authors: 共著者
pertaining to : ~に関係する
proliferation: 激増
moderation: 規制
In a newly published study from the Center for Countering Digital Hate (CCDH), a British nonprofit
dedicated to fighting hate speech and extremism online, the co-authors find that the volume of AI-
generated disinformation — specifically deepfake images pertaining to elections — has been rising by an
average of 130% per month on X (formerly Twitter) over the past year.
オンライン上のヘイトスピーチや過激主義と戦う英国の非営利団体、CCDHの最新の研究による
と、共著者たちは、AIが生成した偽情報ー特に選挙に関するディープフェイクの画像ーが、過
去数年でX上で、一月あたりの平均130％まで増えている。
The study didn’t look at the proliferation of election-related deepfakes on other social media platforms,
like Facebook or TikTok.
この研究は、例えばFacebookやTikTokといった他のプラットフォームの選挙に関連したディープ
フェイクの激増を見ていない。
But Callum Hood, head of research at the CCDH, said (that) the results indicate that the availability of free,
easily jailbroken AI tools — along with inadequate social media moderation — is contributing to a
deepfakes crisis.
しかし、CCDHの筆頭研究者であるCallum Hoodは、この結果は、無料でかつ簡単にジェイルブ
レイクされるAIツールの利用可能性がー不十分なSNSの規制に加えてーディープフェイクの危
機に貢献している。

11. “There’s a very real risk that the U.S. presidential election and other large democratic exercises this year could be
undermined by zero-cost, AI-generated misinformation,” Hood told TechCrunch in an interview.
今年のアメリカの大統領選や他の大規模な民主主義的な運動が、ただでできるようなAI生成の誤情報によっ
て毀損されうる、とHoodさんはインタビューの中でTechCrunchに答えている。
“AI tools have been rolled out to a mass audience without proper guardrails to prevent them being used to create
photorealistic propaganda, which could amount to election disinformation if shared widely online.”
AIツールが写実的なプロパガンダを生成するのに使われるのを防ぐような、適切なガードレールなしに、大
衆に向けてロールアウトされ、もしオンラインで広くシェアされれば選挙の誤情報に達する。
democratic: 民主主義の
exercise: 運動
undermine: ~を傷つける、害する
prevent O ~ing: Oが~するのを防ぐ
amount: 達する

12. Deepfakes abundant
たくさんのディープフェイク
Long before the CCDH’s study, it was well established that AI-generated deepfakes were beginning to
corners of the web.
CCDHの研究より遙か前に、AIが生成するディープフェイクがwebの最果てに達し始めているということは
立されていた。
Research cited by the World Economic Forum found that deepfakes grew 900% between 2019 and 2020.
World Economic Forumによって引用された研究では、ディープフェイクは2019年から2020年の間で900％
なった。
Sumsub, an identity verification platform, observed a 10x increase in the number of deepfakes from 2022
個人認証のプラットフォームのSumsubでは、2022年から2023年の間でディープフェイクの数が10倍に増え
いることを観察している。
aboundant: 数多い、豊富な
furthest: 最遠の
形容詞：
名詞の前に置かれる abundant deepfakes
形容詞に修飾句や目的語が入る場合は、名詞の後に置かれる（後置）
deepfakes abundant on SNS.

13. But it’s only within the last year or so that election-related deepfakes entered the mainstream consciousness — driven
by the widespread availability of generative image tools and technological advances in those tools that made
synthetic election disinformation more convincing.
In a 2023 University of Waterloo study of deepfakes perception, only 61% of people could tell the difference between
AI-generated people and real ones.
It’s causing alarm.
mainstream: 主流の
consciousness: 意識、自覚
synthetic: 合成の、にせの
convincing: 説得的
it is ~ that … : …は〜である。

14. In a recent poll from YouGov, 85% of Americans said they were very concerned or somewhat concerned about the
spread of misleading video and audio deepfakes.
A separate survey from the Associated Press-NORC Center for Public Affairs Research found that nearly 60% of
adults think AI tools will increase the spread of false and misleading information during the 2024 U.S. election cycle.
separate: 別の

15. spotlight: 焦点を当てる
instance: 実例
cookout: バーベキュー
fact-check: 事実確認をする
go on to DO: さらに進んで~する
Social spread
Generators might’ve made it easy to create election deepfakes, but social media made it easy for
deepfakes to spread.
In the CCDH study, the co-authors spotlight an instance where an AI-generated image of Donald
attending a cookout was fact-checked in one post but not in others — others that went on to
thousands of views.

16. No easy fix
So what’s the solution to the deepfakes problem? Is there one?
Hood has a few ideas.
“AI tools and platforms must provide responsible safeguards,” he said, “[and] invest and collaborate
to test and prevent jailbreaking prior to product launch … And social media platforms must provide
safeguards [and] invest in trust and safety staff dedicated to safeguarding against the use of
disinformation and attacks on election integrity.”
Hood and the co-authors also call on policymakers to use existing laws to prevent voter intimidation
disenfranchisement arising from deepfakes, as well as pursue legislation to make AI products safer by
transparent — and hold vendors more accountable.
policymakers: 政策者
intimidation: 脅威、脅迫
disenfranchisement: 公民権剥奪
pursue: ~を追う
legislation: 法律
accountable: 責任がある