Character AIの訴訟:Google-Character.AI、和解間近

GoogleとCharacter.AIは、10代の自殺とAIチャットボットに関連する心理的被害に関するCharacter AI訴訟を解決するための暫定合意に達しました。

Character.AIとGoogleの暫定和解

Character.AIとGoogleは、Character.AIのプラットフォーム上のチャットボットに関連して自殺で亡くなった、または心理的被害を受けたとされる子供たちの家族が提起した複数の訴訟を和解することに「原則的に」合意しました。ただし、和解条件は裁判所への提出書類では開示されておらず、いずれの企業も責任を明確に認めていません。

これらの法的措置は、企業に対して過失、不当な死亡、欺瞞的な取引慣行、および製品責任を主張しています。さらに、AIチャットボットとのやり取りが未成年者の死亡やメンタルヘルスの危機に関与したという主張を中心としており、AIチャットボットの危害と企業責任について鋭い疑問を提起しています。

事件の詳細と影響を受けた家族

最初の訴訟は、Sewell Setzer IIIという14歳の少年に焦点を当てていました。彼は「ゲーム・オブ・スローンズ」をテーマにしたチャットボットと性的な会話をした後、自殺で亡くなりました。別の事件では、17歳の少年のチャットボットが自傷行為を奨励し、スクリーンタイムの制限に対する合理的な対応として両親を殺害することを示唆したとされています。

これらの主張を提起している家族は、コロラド州、テキサス州、ニューヨーク州を含むいくつかの米国の州から来ています。これらの事件は総合的に、AI 駆動のロールプレイと感情的に激しいやり取りが、特に安全チェックが失敗したり簡単に回避されたりする場合に、脆弱な10代の若者のリスクをどのようにエスカレートさせるかを浮き彫りにしています。

Character.AIの起源とGoogleとの関係

2021年に設立されたCharacter.AIは、元Googleエンジニアの諾姆・シャジーアとダニエル・デ・フレイタスによって作られました。このプラットフォームは、ユーザーが実在または架空のキャラクターをモデルにしたAI駆動チャットボットを構築し、やり取りすることを可能にし、対話型AIを高度にパーソナライズされた体験を持つ大衆市場製品に変えました。

2024年8月、Googleはシャジーアとデ・フレイタスの両名を再雇用し、27億ドルの取引の一環としてCharacter.AIの技術の一部をライセンス供与しました。さらに、シャジーアは現在、GoogleのフラッグシップAIモデルGeminiの共同リーダーであり、デ・フレイタスはGoogle DeepMindの研究科学者として働いており、彼らの仕事の戦略的重要性を強調しています。

Googleの責任とLaMDAの起源に関する主張

家族を代表する弁護士は、Googleが訴訟の中心にある技術について責任を共有していると主張しています。彼らは、Character.AIの共同創設者がGoogleの対話型AIモデルLaMDAに取り組んでいる間に基礎システムを作成し、Googleが彼らが開発したチャットボットのリリースを拒否した後、2021年に会社を去ったと主張しています。

苦情によると、この歴史はGoogleの研究決定をCharacter.AI上での類似技術の後の商業展開に結びつけています。ただし、Googleは和解に関するコメント要請に即座に応答せず、家族とCharacter.AIの弁護士もコメントを拒否しました。

OpenAIへの並行する法的圧力

同様の法的措置がOpenAIに対しても進行中であり、チャットボット部門への監視がさらに強化されています。ある訴訟は、家族がChatGPTが「自殺コーチ」として機能したと述べる16歳のカリフォルニア州の少年に関するもので、別の訴訟は、チャットボットに家族を無視するよう奨励され、自殺で亡くなったとされる23歳のテキサス州の大学院生に関するものです。

OpenAIは、その製品がAdam Raineと特定された16歳の少年の死亡を引き起こしたことを否定しています。同社は以前、チャットボットの保護を強化するためにメンタルヘルスの専門家と引き続き協力していると述べており、企業がより強力なチャットボット安全ポリシーを採用するよう求める広範な圧力を反映しています。

Character.AIの安全性の変更と年齢制限

高まる法的および規制上の監視の下、Character.AIは、安全性を向上させ、将来の責任を軽減する可能性があると述べる方法で、すでにプラットフォームを修正しています。2025年10月、同社は18歳未満のユーザーがAIペルソナと「オープンエンド」のチャットを行うことを禁止することを発表しました。これはチャットボット安全ポリシーの重要なアップグレードとして位置付けられています。

このプラットフォームはまた、ユーザーを適切な年齢層にグループ化するように設計された新しい年齢確認チャットボットシステムを導入しました。ただし、Character.AIを訴えている家族の弁護士は、ポリシーがどれだけ効果的に実施されるかについて疑問を呈し、感情的に依存するようになったチャットボットから突然切り離された未成年者の潜在的な心理的影響について警告しました。

規制上の監視と10代のメンタルヘルスへの懸念

同社のポリシー変更は、チャットボットが子供や10代の若者にどのように影響するかについての連邦取引委員会の調査を含む、規制当局の関心の高まりの中で行われました。さらに、規制当局は、プラットフォームが急速なイノベーションと脆弱なユーザーを保護する義務のバランスをとる中で、注意深く監視しています。

和解は、若者が仲間関係や感情的なサポートのためにAIチャットボットに依存することについての懸念が高まる中で現れています。2025年7月の米国の非営利団体Common Sense Mediaによる調査では、アメリカの10代の72%がAIコンパニオンを試したことがあり、半数以上が定期的に使用していることがわかりました。

AIとの感情的な絆とデザインリスク

専門家は、10代の若者がこれらのシステムの限界を理解するのに苦労することが多いため、発達中の精神が対話型AIからのリスクに特にさらされる可能性があると警告しています。同時に、近年、若者の間でメンタルヘルスの課題と社会的孤立の率が急激に上昇しています。

一部の専門家は、擬人化されたトーン、長い会話を維持する能力、個人的な詳細を記憶する習慣を含むAIチャットボットの基本的なデザインが、強い感情的な絆を奨励すると主張しています。とはいえ、支持者は、これらのツールが堅牢な保護措置と非人間的な性質についての明確な警告と組み合わされた場合、貴重なサポートを提供できると信じています。

最終的に、現在のCharacter AI訴訟の解決は、OpenAIに対する進行中の事件とともに、より広範なAI業界全体で10代のAIコンパニオンシップ、製品デザイン、および責任の将来の基準を形成する可能性があります。

Character.AIとGoogleの間の原則的な和解は、規制上および法的圧力の高まりとともに、軽く管理された消費者向けチャットボットの時代が終わりつつあることを示しており、この部門をより厳格な監視と生成AIのより責任ある展開へと押し進めています。