AI音声複製技術を使ったロボコール、米当局が禁止

連邦通信委員会（FCC）は、詐欺や選挙関連の誤報を減らすため、AIを活用した音声複製技術を使ったロボコールを禁止した。

この新たな判決により、州司法長官には、AI音声複製技術を使って通話を行っている者に対して措置を講じる権限が与えられた。

ＦＣＣは木曜日に発表した声明で、こうした電話の発生率が近年上昇していると述べ、「著名人、政治家候補者、近親者の声を真似ることで、消費者を誤情報で混乱させる可能性がある」と付け加えた。

同裁判所は、ロボコールが実行しようとしている現在の詐欺や不正行為はすでに違法であるが、この最新の判決は、AIを使用してこれらのロボコールで偽の音声を生成する行為自体を違法とし、「州の​​法執行機関がこれらの加害者を法律に基づいて責任を問うことができる法的手段を拡大する」と述べた。

新たな判決について、FCCのジェシカ・ローゼンウォーセル委員長は、FCCは「ロボコールの背後にいる詐欺師に警告を発している」と述べ、「州司法長官は、これらの詐欺を取り締まり、詐欺や誤情報から国民を守るための新たな手段を手に入れることになる」と付け加えた。

AI生成音声の使用に関する問題は、ニューハンプシャー州の一部住民がジョー・バイデン大統領の声に似た音声で、同州の大統領予備選への投票を思いとどまらせるような電話を受けていたことが明らかになったことで、つい最近になって大きく報道されました。その後、テキサス州に拠点を置く2つの企業がこの電話に関連しているとされ、事実が立証されれば様々な罰則が科される可能性があります。

ロボコールブロックサービス「YouMail」によると、2018年以降、米国におけるロボコールの年間発信件数は470億～550億件で推移しており、急速に進化する音声複製技術を用いたロボコールの件数は増加傾向にある。昨年、FCCは「FCCがこれまで調査した中で最大の違法ロボコール行為」と称する行為に対し、過去最高額となる3億ドルの罰金を科したが、この行為に音声複製技術が関与していたとは考えられていない。