米国企業リンゴテレコム、AI生成のバイデンロボコールで100万ドルの罰金刑に直面

米国に本拠を置く音声サービスプロバイダーのLingo Telecomは、連邦通信委員会（FCC）と100万ドルの和解に合意した。同社は、2024年のニューハンプシャー州予備選挙の有権者に影響を与えたAIを活用したロボコールを促進したとして告発された。 

2024 年 1 月 21 日、ニューハンプシャー州の多数の市民が、ジョー バイデンdentの声に似た声での電話で脅迫されました。電話は自動化されており、対象者らに対し、同州の大統領dent選で投票すると11月の総選挙での選挙権剥奪につながると告げた。この音声は、ディープラーニングアルゴリズムを使用してジョー・バイデンを模倣した偽のディープボイスを使用して録音されました。 

Lingo Telecom は罰則とコンプライアンス措置に直面している

この作戦を実行したのは政治戦略家のスティーブ・クレイマー氏で、目的は選挙に影響を与えることではなく、AIがいかに危険であるかを示すことだったと述べた。しかし、クレイマー氏の行動は潜在的な悪影響を及ぼし、有権者に虚偽の情報を提供し、選挙の公平性を脅かすものとなった。 Lingo Telecom のテクノロジーは、問題の人々へのメッセージの送信を容易にするため、このプロセスで使用されました。 

この和解により、Lingo Telecom は民事罰金として 100 万ドルを支払う必要があるが、FCC は同社に 200 万ドルの支払いを求めていた。同社はまた、FCC の STIR/SHAKEN 発信者 ID 認証フレームワークへの準拠を含む、堅牢なコンプライアンス計画を立てることも義務付けられています。

このフレームワークは、発信者 ID のなりすましの問題に対処する試みです。これは、電話が他の正規の番号から発信されているかのように見せるために、ロボコール キャンペーンで使用されました。 

FCCはまた、この和解は、そのような活動に関与している、またはそのような活動を促進している他の企業にtronメッセージを送る上で重要であると強調した。リンゴテレコムは和解を受け入れたものの、規制当局が遡及的に新たな規則を導入しようとしていると述べ、FCCの行動をtron批判した。

FCC当局者、選挙におけるAI音声クローンの危険性を強調

FCC執行局長のロヤン・エガル氏は、発信者IDスプーフィングやAI音声クローンによるなりすましは、特に選挙期間中は非常に危険であると 指摘した イーガル氏は、これらのテクノロジーは、政治的目的を追求する国家主体によって、あるいは国の政治プロセスに干渉しようとする外国主体によって悪用される可能性があると指摘した。

ロボコールを行った政治コンサルタントのスティーブ・クレイマー氏はさらに深刻な結果に直面している。 FCCはクレイマー氏に対して600万ドルの罰金を提案しており、有権者抑圧の罪で最長7年の懲役に処される可能性もある。

 さらに、クレイマー氏は政治家候補者になりすました罪で懲役1年を言い渡される可能性もある。この告発は、当局がこの事件を政治におけるAIの使用に伴うリスクの明らかな例として捉えていることを示している。 

共同代表ロバート・ワイズマン氏はdent今回のFCCの行動を歓迎し、ディープフェイクは「我々の民主主義に対する実存的脅威」をもたらしていると述べた。