今年５月にはグーグル生成AIを活用した新たな検索サービスで誤情報が表示されたというアメリカのメディアが伝えていました。
そんな中こんな面白い記事を見つけました。
その理由をChatGPTに理由を聞いたのです。
ChatGPTによれば
・トレーニングデータの偏り：モデルがバイヤスや不正確な情報がふくまれたデータでトレーニングされると、誤った情報を学習し出力する可能性がある。
・文脈理解の難しさ：モデルは複雑な文脈を理解するのに苦労し、特に曖昧な質問や不十分な文脈の場合には不正確な回答が生成されることがある。
・人間のバイヤスの反映：人間が生成したデータから学習するため、そのデータに含まれるバイアスがモデルの出力に影響を与えることがある。
ChatGPTはなぜ嘘をつく？ 誤情報を生成するその理由とは | トピックス | extreme 株式会社エクストリーム
生成AIは”夢のツール”ですが誤情報を見つけるのは難しいことですね！！
X Changes AI tool after Pressure to Reduce Misinformation
The social media service X has changed its artificial intelligence (AI) tool after several U.S. states warned that it was spreading election misinformation.
Earlier this month, secretaries of state in five states sent the owner of X, Elon Musk, a letter requesting the change to its Grok AI tool.
X explains on its Help Center that Grok is designed to be used as an AI search assistant to help users find information online. Such tools are also known as chatbots or generative AI. Grok is only available to paid users of X’s Premium and Premium+ services.
In their letter, the secretaries of state expressed concern that the Grok tool was returning results that included misinformation about the U.S. presidential election process. The officials said that shortly after President Joe Biden ended his run for re-election, the Grok tool provided false information on state ballot requirements.
The misinformation included a statement that the deadline had passed in several states to make ballot changes for the nation’s presidential election. The secretaries’ wrote that the statement was completely false. In all the states identified by Grok, it was still possible for ballot changes to be made, the letter said.
The ballot changes increased in importance when the Democratic Party chose a new nominee, Vice President Kamala Harris, after Biden withdrew.
Former President Donald Trump is the Republican Party’s nominee.
The letter recognized that Grok does warn its users that the AI tool might return false information. And it noted that the tool urges users not to depend completely on Grok for news and information.
However, the secretaries of state wrote, the false information about ballot deadlines was “captured and shared repeatedly in multiple posts - reaching millions of people.” In addition, they noted, Grok continued to repeat this false information for more than a week until it was corrected on July 31, 2024.”
The secretaries of state requested that Grok instead direct users who enter search requests about election-related questions to an official government-run website for the latest voting information. The request aimed to send Grok users immediately and directly to an official election-related website.
The secretaries recently sent out a press release confirming that Grok had made such a change. Before providing results to search requests about election matters, the tool now offers new user guidance. “For accurate and up-to-date information about the 2024 U.S. Elections, please visit Vote.gov,” Grok now says.
The state secretaries explained that Vote.gov is a politically neutral, “trustworthy” website operated by the U.S. government in partnership with state election officials. The website also receives support from government organizations that seek to prevent internet attacks that can block sites or take them offline.
All elections in the United States are operated by local officials supported and led by a state agency. Experts say because each state sets its own requirements and deadlines, it is important for voters to be connected to the most dependable information available.
Musk bought Twitter in 2022 and later renamed the service X. Activist groups have repeatedly raised concerns about a large increase in hate speech and misinformation appearing on the service after Musk became the owner. Some X critics have also said major employee cuts had left the company with ineffective content moderation methods that do not catch misinformation.
In their latest press release, the secretaries of state thanked X for agreeing to the change and said they hope the company will remain open to additional improvements to protect its users. They added, “Elections are a team effort, and we need and welcome any partners who are committed to ensuring free, fair, secure, and accurate elections.”
Words in This Story
deadline – n. a date or time by which something must be completed
moderate – v. to make sure the rules of an internet discussion are not broken
accurate – adj. correct or exact
X、誤報削減の圧力でAIツールを変更
ソーシャルメディア・サービス X は、米国の複数の州から選挙の誤情報を流していると警告を受け、その人工知能（AI）ツールを変更しました。
今月初め、５つの州の州務長官が X のオーナーであるイーロン・マスクに、AIツール Grok （グログ）の変更を求める書簡を送りました。
Xはヘルプセンターにおいて、Grokはユーザーがオンラインで情報を見つけるのを助けるAI検索アシスタントとして使われるように設計されていると説明しています。このようなツールは、チャットボットやジェネレーティブAIとしても知られています。GrokはXのプレミアムおよびプレミアム＋サービスの有料ユーザーのみが利用できます。
国務長官たちは書簡の中で、Grokツールが米大統領選プロセスに関する誤った情報を含む結果を返していることに懸念を表明しました。関係者によると、ジョー・バイデン大統領が再選出馬を断念した直後、Grokツールは州の投票要件に関する誤った情報を提供したと言います。
誤った情報には、いくつかの州で大統領選挙の投票用紙を変更する期限が過ぎたという記述も含まれていました。秘書たちは、この記述は全くの虚偽であると書いていました。グロックが指摘したすべての州では、投票用紙の変更はまだ可能である、と書簡は述べています。
投票用紙の変更は、民主党がバイデンが辞退した後新たな候補者としてカマラ・ハリス副大統領を選んだことで、投票用紙の変更は重要性を増しました。
書簡は、GrokがAIツールが誤った情報を返す可能性があることをユーザーに警告していることを認めました。また、同ツールはニュースや情報を完全にGrokに依存しないようユーザーに促していることを指摘しています。
しかし、投票期限に関する虚偽の情報は、”複数の投稿で繰り返し捕捉され、共有され、何百万人もの人々に届いた ”と、国務長官たちは書いています。さらに、Grokは２０２４年７月３１日に訂正されるまで、１週間以上この虚偽の情報を繰り返し続けました。
州務長官はGrokに対し、代わりに選挙関連の質問について検索リクエストを入力したユーザーを、最新の投票情報を得るために政府が運営する公式サイトに誘導するよう要請しました。この要請は、Grokのユーザーを即座に選挙関連の公式サイトに直接送ることを目的としていました。
秘書たちは最近、Grokがこのような変更を行ったことを確認するプレスリリースを出しました。選挙に関する検索リクエストに結果を提供する前に、このツールは現在、新しいユーザーガイダンスを提供しています。「２０２４年の米国選挙に関する正確で最新の情報については、Vote.govをご覧ください」とGrokは述べています。
各州の長官は、Vote.govは政治的に中立で”信頼できる”ウェブサイトであり、米国政府が各州の選挙当局と提携して運営していると説明しました。このウェブサイトは、サイトをブロックしたりオフラインにしたりするインターネット攻撃を防ごうとする政府組織からも支援を受けています。
米国のすべての選挙は、州の機関が支援・主導する地方公務員によって運営されています。専門家は、各州は独自の要件と期限を設定しているため、有権者にとって最も信頼できる情報に接続することが重要だといいます。
マスク氏は２０２２年にツイッター社を買収し、その後サービス名をXに変更しました。活動家グループは、マスク氏がオーナーになった後、サービス上にヘイトスピーチや誤った情報が大量に出回るようになったとして、繰り返し懸念を表明してきました。また、従業員の大幅な削減により、誤情報を捕捉できない非効率的なコンテンツモデレーションが行われているとの批判もあります。
最新のプレスリリースの中で、国務長官たちはXが今回の変更に同意したことに感謝し、同社がユーザーを保護するためにさらなる改善に前向きであることを望むと述べました。また、「選挙はチームワークであり、自由、公正、安全、正確な選挙を確保するために尽力してくれるパートナーは必要であり、歓迎する」と付け加えました。
