2024年11月に迫る米国大統領選を前に、ネット空間で外国勢力による世論操作が急速に広がっています。2024年8月、マイクロソフトなどの米国テクノロジー企業は、イラン系集団が仕掛けた世論操作の試みを報告しました。この問題は中国やロシアも関与しており、生成AI（人工知能）の普及がその影響力をさらに増幅しています。
「怒れる訴訟恐竜」といった挑発的な表現で、共和党候補のドナルド・トランプ前大統領を攻撃するニュースサイト「ニオ・シンカー」は、リベラル派のメディアを装い、気候変動や移民問題を取り上げています。しかし、これはイラン系集団が米国の世論操作を目的に運営していると、マイクロソフトが8月に発表したレポートで明らかにしました。同サイトではパレスチナ支援の記事を掲載し、ハリス副大統領の政策に影響を与えようとする動きも見られました。
さらに、SNS大手のメタは、イランによる大統領選を標的とした世論操作を8月に報告。技術サポートを装って対話アプリ「ワッツアップ」のアカウント情報を盗む試みが明らかになりました。また、オープンAIは、イラン系勢力が対話型AI「ChatGPT」を使い、SNS投稿や文章作成に活用していたと発表しています。生成AIの活用により、自然な文章を大量に生成する能力が向上し、政治家への脅迫や暴力を煽る投稿も行われたとされています。
世論操作の主体はイランだけに限りません。メタのデータによると、2017年以降に米国を対象にした世論操作ではロシアが39件と最多で、イランの30件、中国の11件がこれに続いています。2024年の選挙を巡る新たな特徴は、生成AIによって外国語でも自然な文章を簡単に大量生成できる点です。これにより、これまで以上に影響力のある情報操作が可能になっています。
SNS企業やテクノロジー企業は、敵対勢力が使用したアカウントを追跡し、不自然な多言語混在や生成AI特有のパターンを検出するなどの対策を進めています。オープンAIの調査担当者、ベン・ニンモ氏は「世論操作を防ぐためには産業界、市民社会、政府の幅広い協力が欠かせない」と指摘しています。
SNSでは「AIの利用が民主主義を脅かしている」「企業と政府がもっと早く対応すべきだった」といった声が上がっています。生成AIの進化がもたらす影響と、これに対抗するための取り組みが、米国だけでなく国際社会全体での課題となっています。