公共
AIを悪用し「ヒトラーは誤解されていた」とする動画を拡散、若者層への過激思想の浸透が深刻化
2024年9月27日、[ワシントン・ポストの報道]]{target=“_blank”}により、ネオナチや極右勢力が生成AIを利用してアドルフ・ヒトラーの演説を英語に翻訳した動画を制作し、TikTokやX（旧Twitter）、Instagramなどのプラットフォームで広めていることが明らかになった。これらの動画は、ヒトラーを「誤解された存在」として再解釈し、若年層への過激思想の普及を目的としているという。 ![washington post.jpg] :::small 画像の出典：[ワシントンポスト]{target=“_blank”} ::: ## AI技術を悪用した極右プロパガンダ この問題について、過激思想や偽情報の監視を行うイギリスの非営利団体Institute for Strategic Dialogue（ISD）が調査を実施した。同団体の[報告]{target=“_blank”}によると、2024年8月以降、ヒトラーの翻訳演説を含むAI生成コンテンツが2500万回以上視聴されている。これらの動画は、視覚的にはナチスのシンボルやロゴを使わず、ヒトラーの影絵や音楽を背景に流すといった手法で、ソーシャルメディアの検閲を回避しているとのこと。 このようなコンテンツは、「単に面白い」などの理由で拡散されることも多く、視聴者が意識しないうちに極右思想に触れる危険性が指摘されている。また、AI技術の発展により、従来は専門的な知識が必要だったプロパガンダ制作が容易になっていることも大きい。 ## ソーシャルメディアの対策と課題 AIツールを提供するElevenLabsは、これらの[不正利用に対応]{target=“_blank”}するため、関与するアカウントを追放したが、拡散を完全に防ぐことは困難だとされる。ISDは、プラットフォーム側がより積極的に対応しない限り、過激思想がさらなる広がりを見せる可能性があると警告する。 :::box [関連記事：ElevenLabs テキストから効果音を生成するモデル「Sound Effects」公開] ::: :::box [関連記事：米大統領選へのAI悪影響、偽バイデンのロボコールが「次の予備選挙に投票すればトランプが再選する」と電話口で告げる] :::
公正取引委員会、生成AI市場に関する調査を開始—ディスカッションペーパーを公表し、情報・意見を募集
カリフォルニア州知事、AI規制法案に拒否権を発動「真の脅威から国民を守るための最善のアプローチだとは思えない」
AIシステムの安全性を攻撃者視点で評価――IPAが「レッドチーミング」手法ガイドを公開
大阪メトロ、AI見守りシステムを導入 PKSHAと共同で既存の防犯カメラの映像から、車椅子や白杖の利用者を検知しサポート強化
オープンな学習データを使用し、NIIがフルスクラッチで開発 GPT-3級大規模言語モデル「LLM-jp-3 172B beta1」を公開
中国の「グレートファイアウォール（金盾）」を追跡する「GFWeb」がAIサービスの検閲開始時期を公開ChatGPTを2023年3月2日にブロックしたことが判明
Amazon、Google、Microsoft、OpenAI含む大手IT企業100社以上がEU AI協定に署名、AppleとMetaは不参加
ニューメキシコ州、Snapchatを提訴――AI生成の少女画像を使用したおとり捜査で児童性的虐待コンテンツ問題が浮上
AIによる偽情報やディープフェイクは英・仏・EUの選挙結果にそれほど影響しなかったーアランチューリング研究所
国土交通省、デジタルツイン技術の社会実装を加速—不動産分野で6つの事業を選定
日本政府のAI安全性確保に向けた新ガイドライン：AIセーフティ・インスティテュートが10項目の評価基準を発表
岩手県平泉町立図書館に蔵書管理ロボット「べんけーくん」導入 蔵書点検を７名で10日から2日に短縮
