Notes
生成AIの「作り話」は名誉毀損になるか――ジョージア州グウィネット郡上級裁判所 Walters v. OpenAI(2025年5月19日命令)
ジョージア州グウィネット郡上級裁判所 Walters v. OpenAI, No. 23-A-04860-2 / 2025年5月19日判決
本稿は生成AIを用いて作成しています(判決の翻訳を含む)。
特集「生成AIの誤情報」の最初の素材として、米国ジョージア州の州裁判所の略式判決命令を取り上げる。生成AIの出力を理由に開発者を名誉毀損で訴え、略式判決で本案の判断が示された事件である。裁判所は、出力が名誉毀損的な意味を伝えていないこと、開発者に帰責事由がないこと、原告に回復し得る損害がないことの三つを、それぞれ独立の理由として請求を退けた。
1. 書誌
| 項目 | 内容 |
|---|---|
| 事件 | Mark Walters v. OpenAI, L.L.C. |
| 事件番号 | Civil Action No. 23-A-04860-2 |
| 裁判所 | ジョージア州グウィネット郡上級裁判所(Superior Court of Gwinnett County, Georgia。州の第一審裁判所) |
| 裁判官 | Tracie Cason |
| 文書 | Order Granting Summary Judgment in Favor of Defendant OpenAI L.L.C.(略式判決命令、全23頁) |
| 日付 | 2025年5月19日(電子提出の受付印による) |
| 結論 | 被告の略式判決の申立てを全部認容 |
| 先行する判断 | 2024年1月、同裁判所は被告の修正訴状却下の申立てを退けた(電子提出の受付印 2024年1月11日) |
| 命令の作成 | 末尾に「As edited by the Court, Order Proposed by」とあり、被告代理人が提出した命令案を裁判所が修正したものである |
2. 事案の概要
原告ウォルターズは、銃の権利を訴える全国配信のラジオ番組の司会者であり、修正第2条財団(SAF)の広報担当も務める。2023年5月3日、SAFの理事でもある記者リールは、SAFがワシントン州司法長官を訴えた訴訟(SAF v. Ferguson)の訴状をChatGPTに要約させようとした。リールが訴状の一部を貼り付けたときは正確に要約したが、訴状のURLを与えると、ChatGPTはインターネットにアクセスできないと答えた後、同じURLの再入力に対して、ウォルターズがSAFの財務責任者として横領したと訴えられているという、実在しない内容を出力した。リールは1時間半ほどで虚偽と確かめ、出力を再公表しなかった。ウォルターズはOpenAIを名誉毀損で訴えた。命令の背景部分を対訳で掲げる(段落番号は対訳の便宜で付したもの)。
| 段落 | 原文 | 訳文(AI訳) |
|---|---|---|
| 8(抄) | Riehl then provided an internet link, or URL, to the complaint to ChatGPT and asked it to summarize the information available at the link. Ex. C at row 3. ChatGPT responded that it did “not have access to the internet and cannot read or retrieve any documents.” Id. at row 4. Riehl provided the same URL again. This time, ChatGPT provided a different, inaccurate summary of the Ferguson complaint, saying that it involved allegations of embezzlement by an unidentified SAF Treasurer and Chief Financial Officer. Id. at row 6. Riehl again provided the URL and asked ChatGPT if it could read it. Id. at row 7. ChatGPT responded “yes” and again said the complaint involved allegations of embezzlement; this time, it said that the accused embezzler was an individual named Mark Walters, who ChatGPT said was the Treasurer and Chief Financial Officer of the SAF. Id. at row 8. | 次に、リールは、訴状へのインターネット上のリンク(URL)をChatGPTに与え、リンク先の情報を要約するよう求めた。ChatGPTは、「インターネットにアクセスできず、文書を読むことも取得することもできない」と答えた。リールは、同じURLを再び与えた。今度は、ChatGPTは、Ferguson事件の訴状について、それまでとは異なる不正確な要約を出し、同訴状は氏名不詳のSAFの財務担当役員兼最高財務責任者による横領の主張に関するものだとした。リールは、再びURLを与え、ChatGPTにそれを読めるかと尋ねた。ChatGPTは「はい」と答え、再び訴状は横領の主張に関するものだと述べた。今度は、横領をしたとされる者はマーク・ウォルターズという人物であり、同人がSAFの財務担当役員兼最高財務責任者であると述べた。(証拠の引用は省略) |
| 9 | Walters has testified that he incurred no damages from ChatGPT’s false claim that he was accused of embezzling funds from the SAF and “is not claiming here that [he has] been harmed.” Ex. B at 169:1-170:14, 206:6-8. Walters also testified that he did not ask OpenAI to correct or retract the false claim that he was accused of embezzling funds from the SAF. Ex. B at 171:7-19. | ウォルターズは、SAFの資金を横領したとして訴えられているというChatGPTの虚偽の主張によって、何らの損害も被っていないこと、及び「本件で[自らが]害されたと主張しているのではない」ことを証言した。ウォルターズは、その虚偽の主張について、OpenAIにその訂正又は取消しを求めなかったことも証言した。(証拠の引用は省略) |
3. 争点
略式判決の申立てにおいて、OpenAIは次の三点を主張し、裁判所はそのすべてを認めた(11段)。
- 問題の出力は、法律問題として名誉毀損的な意味を伝えているか(第I部)
- 原告は帰責事由を立証できるか。過失の基準によるか、公的人物として「現実の悪意」の基準によるか(第II部)
- 原告は、現実の損害、懲罰的損害、推定損害のいずれかを回復できるか(第III部)
4. 判断
第I部 名誉毀損的な意味――「リールの立場にある合理的な読者」
| 段落 | 原文 | 訳文(AI訳) |
|---|---|---|
| 14(抄) | Under the circumstances present here, a reasonable reader in Riehl’s position could not have concluded that the challenged ChatGPT output communicated “actual facts.” … A reasonable user like Riehl—who was aware from past experience that ChatGPT can and does provide “flat-out fictional responses,” Ex. T, and who had received the repeated disclaimers warning that mistaken output was a real possibility—would not have believed the output was stating “actual facts” about Walters without attempting to verify it, Bollea, 271 Ga. App. at 558. … These multiple indicia—ChatGPT’s warnings, refusals, inconsistent responses, and the other behavior summarized above—objectively established to any reasonable reader that the challenged ChatGPT output was not stating “actual facts.” Bollea, 271 Ga. App. at 558. | 本件の事情の下では、リールの立場にある合理的な読者が、問題のChatGPTの出力が「現実の事実」を伝えていると結論することはあり得なかった。……リールのような合理的な利用者——過去の経験から、ChatGPTが「まったくの作り話の回答」をすることがあり、現にすることを知っており、誤った出力が現実にあり得ると警告する免責表示を繰り返し受けていた者——であれば、確かめようとすることなく、出力がウォルターズについての「現実の事実」を述べていると信じることはなかったであろう。……これらの複数の徴表——ChatGPTの警告、拒絶、一貫しない回答、その他上記に要約した挙動——は、いかなる合理的な読者に対しても、問題のChatGPTの出力が「現実の事実」を述べていないことを客観的に明らかにしていた。 |
| 17(抄) | Separately, it is undisputed that Riehl did not actually believe that the Ferguson complaint accused Walters of embezzling from the SAF. If the individual who reads a challenged statement does not subjectively believe it to be factual, then the statement is not defamatory as a matter of law. Sigmon v. Womack, 158 Ga. App. 47, 50 (1981) (quotation marks and citation omitted). … Because Riehl did not believe the output, it did not communicate defamatory meaning as a matter of law. | これとは別に、リールが、Ferguson事件の訴状がウォルターズをSAFからの横領で訴えていると実際には信じていなかったことは、争いがない。問題の表現を読んだ者がそれを事実であると主観的に信じていないのであれば、その表現は法律問題として名誉毀損に当たらない。……リールは出力を信じなかったのであるから、出力は法律問題として名誉毀損的な意味を伝えていない。 |
第II部A 過失――「誤りを犯し得ると知っていた」だけでは過失にならない
| 段落 | 原文 | 訳文(AI訳) |
|---|---|---|
| 23(抄) | In other words, Walters’ counsel argued that because ChatGPT is capable of producing mistaken output, OpenAI was at fault simply by operating ChatGPT at all, without regard either to “the procedures a reasonable publisher in [OpenAI’s] position would have employed” or to the “skill and experience normally exercised by members of [its] profession.” Gettner, 297 Ga. App. at 264 (citation omitted). The Court is not persuaded by Plaintiff’s argument. | 言い換えれば、ウォルターズの代理人は、ChatGPTが誤った出力を生じ得る以上、OpenAIは、「[OpenAI]の立場にある合理的な公表者が用いたであろう手順」も、「[その]職業に属する者が通常発揮する技能と経験」も問うことなく、ChatGPTを運用したというだけで責めを負うと主張したのである。当裁判所は、原告の主張に説得されない。 |
| 24(抄) | Walters has not identified any case holding that a publisher is negligent as a matter of defamation law merely because it knows it can make a mistake, and for good reason. Such a rule would impose a standard of strict liability, not negligence … In other words, based on the undisputed facts, Walters’ argument would mean that an AI developer like OpenAI could not operate a large language model like ChatGPT at all, no matter the care it took to reduce the risk of errors, without facing liability for any mistaken output the model generated. That is not a negligence standard, and both Georgia law and federal constitutional law prohibit applying it to Walters’ defamation claim. | ウォルターズは、公表者が誤りを犯し得ると知っているというだけで名誉毀損法上過失があるとした裁判例を一つも示していない。それには十分な理由がある。そのような準則は、過失ではなく厳格責任の基準を課すことになる。……言い換えれば、争いのない事実に基づけば、ウォルターズの主張は、OpenAIのようなAI開発者は、誤りのリスクを減らすためにどれほど注意を尽くしても、モデルが生成したあらゆる誤った出力について責任を問われることなしには、ChatGPTのような大規模言語モデルを一切運用できないということを意味することになる。それは過失の基準ではなく、ジョージア州法も連邦憲法も、それをウォルターズの名誉毀損の請求に適用することを禁じている。 |
第II部B 現実の悪意――「誤りがあり得る」という認識と「虚偽の蓋然性」の認識
| 段落 | 原文 | 訳文(AI訳) |
|---|---|---|
| 37 | Second, Walters appears to argue that OpenAI acted with “actual malice” because it is undisputed that OpenAI was aware that ChatGPT could make mistakes in providing output to users. Plaintiff’s Opposition Brief at 13. The mere knowledge that a mistake was possible falls far short of the requisite “clear and convincing evidence” that OpenAI actually “had a subjective awareness of probable falsity” when ChatGPT published the specific challenged output itself. Jones, 290 Ga. App. at 130, 132 (quotation marks and citation omitted). The undisputed evidence demonstrates that OpenAI warned users that errors could exist and that users—including Riehl himself—were aware that errors could occur. Ex. L at ¶¶ 24-28; Ex. T (Riehl was aware from past experience that ChatGPT could provide “flat-out fictional responses”). | 第二に、ウォルターズは、ChatGPTが利用者に出力を提供する際に誤りを犯し得ることをOpenAIが認識していたことに争いがないから、OpenAIは「現実の悪意」をもって行為したと主張しているようである。誤りがあり得るという単なる認識は、ChatGPTが問題の具体的な出力そのものを公表した時点で、OpenAIが現実に「虚偽である蓋然性を主観的に認識していた」ことについて求められる「明白かつ説得力のある証拠」には、はるかに及ばない。争いのない証拠は、OpenAIが誤りが存在し得ることを利用者に警告しており、利用者——リール自身を含む——が誤りが生じ得ることを認識していたことを示している。(証拠の引用は省略) |
第III部 損害――訂正請求の欠如と推定損害の覆滅
| 段落 | 原文 | 訳文(AI訳) |
|---|---|---|
| 42(抄) | The statute, and the Georgia Supreme Court’s Mathis decision, are unambiguous: a plaintiff who does not request that the defendant correct or retract a challenged statement may not obtain punitive damages. Mathis, 276 Ga. at 25-28. Whether OpenAI could have satisfied that request is irrelevant. | 制定法とジョージア州最高裁判所のMathis判決は明確である。すなわち、問題の表現の訂正又は取消しを被告に求めなかった原告は、懲罰的損害賠償を得ることができない。OpenAIがその要求に応じることができたかどうかは関係がない。 |
| 45 | Here, any presumption of damage to Walters has been rebutted by Walters’ own admissions. Walters conceded that he is “not claiming here that [he has] been harmed.” Ex. B at 206:6-8; see id. at 169:1-170:7. That concession is consistent with the undisputed evidence. Riehl, the only person who received the challenged ChatGPT output, was “always skeptical” about ChatGPT’s output, established after approximately an hour and a half that the output was not true, and did not republish it. Ex. G at 205:2-6, 17-21. It is undisputed that Walters could not have sustained any injury of any kind, whether a quantifiable economic loss or any “injury to the reputation” that “flow[ed]” from the challenged ChatGPT output, Riddle, 292 Ga. App. at 891. Where the undisputed facts establish that no injury of any kind could have occurred, and where the plaintiff admits under oath that he is not claiming he was harmed, no presumed damages are appropriate. Such damages would constitute compensation for injuries that do not exist. | 本件では、ウォルターズについての損害の推定は、ウォルターズ自身の自認によって覆されている。ウォルターズは、「本件で[自らが]害されたと主張しているのではない」ことを認めた。この自認は、争いのない証拠と一致している。問題のChatGPTの出力を受け取った唯一の者であるリールは、ChatGPTの出力に「常に懐疑的」であり、約1時間半後には出力が真実でないことを確かめ、それを再公表しなかった。ウォルターズが、問題のChatGPTの出力から「生じた」損害を、数量化できる経済的損失であれ「名誉に対する損害」であれ、いかなる種類のものも被り得なかったことは争いがない。いかなる種類の損害も生じ得なかったことが争いのない事実により明らかであり、かつ、原告が害されたと主張していないことを宣誓の上で認めている場合には、推定損害賠償は相当でない。そのような賠償は、存在しない損害に対する補償となってしまう。(証拠の引用は省略) |
※原文は画像PDFであり、OCRで起こしたテキストによる。訳文は生成AIによる。
5. コメント
第一に、名誉毀損的な意味の判断の単位について。裁判所は、仮想の合理的な読者を一般の読者としてではなく「リールの立場にある」読者として置き(14段)、利用規約・画面上の警告・そのやり取りでの拒絶や矛盾、さらにリールが訴状の写しを持ち虚偽を1時間半で確かめたことを、その読者の前提に組み込んだ。出力の相手が一人で、その一人が虚偽を知っていたという事実が、意味の判断(第I部)、損害の判断(第III部)の双方で決め手になっている。出力を受け取った者が事情を知らず、それを信じて広めた場合に同じ結論になるかは、本命令の射程の外にある。
第二に、過失の基準について。裁判所は、Gettner判決の「合理的な公表者」の基準をAI開発者にそのまま当てはめ、原告が注意義務の基準も、その違反も、証拠で示さなかったことを理由とした(21〜22段)。誤りを生じ得るシステムを公開したこと自体を過失とする原告の主張は、厳格責任になるとして退けられた(23〜24段)。開発者が名誉毀損法上の「公表者」に当たるか、出力が開発者の「表現」かという前提は、本命令では争点として論じられていない。通信品位法230条も、本命令には現れない。
第三に、損害の側から見ると、本件は特集の問いの「いくら」の部分で止まった事件である。原告は現実の損害がないことを自認し、訂正も求めていなかった(9段)。ジョージア州法では訂正請求をしなければ懲罰的損害賠償は得られず(41〜42段)、推定損害は原告自身の自認と、受け手が信じなかったという事実で覆された(45段)。連載第2回「「不安」は損害か」の問い(価値の毀損をどう認定するか)が、名誉毀損法の推定損害という別の形で現れている。
第四に、他の法域との対照の手がかりとして。本件の請求は名誉毀損であり、表現の意味、帰責事由、損害のそれぞれで修正第1条の枠組みを通過しなければならなかった。同じ「AIが個人について誤ったことを出力した」という事実について、EUでは個人データの正確性(GDPR 5条1項(d))と訂正の権利(16条)、82条の損害賠償という別の入口が考えられる(noybによるノルウェー当局への申立てがこの型である。申立ての内容は原典と照合していない)。この入口の違いは、特集で他の素材と並べて扱う。
なお、本命令は州の第一審裁判所の命令であり、先例としての拘束力は持たない。被告代理人の命令案を裁判所が修正して発したものでもある(末尾の表示)。控訴の有無と現在の係属状況は確認していない。
6. 関連判決・関連記事
- CJEU 2023年5月4日判決 C-300/21 Österreichische Post(ECLI:EU:C:2023:370)――推知されたデータと非物質的損害。GDPR 82条の損害の要件
- 連載「情報の価値」第4回 推知情報(準備中)
- 特集「生成AIの誤情報」(準備中。公開時にリンクを張る)。素材の候補:ミュンヘン地裁 AI Overviews事件、杭州インターネット法院、南京市中級人民法院
7. 出典
- 略式判決命令(2025年5月19日):The Volokh Conspiracy 掲載の写し(PDF)。裁判所の公式記録との照合はしていない
- 却下申立てを退けた命令(2024年1月):Media Law Resource Center 掲載の写し(PDF)
本稿は生成AIを用いて作成したもので、判決の翻訳もAIによります。内容は筆者が確認しています。本稿は筆者の見解であり、確立した通説を述べたものではありません。具体的な事案の判断は個別の検討を要します。