- セールスフォースのマーク・ベニオフCEOは、Character.AIに関する番組「60 Minutes」のドキュメンタリーを見て、「自分の見ているものが信じられなかった」と語りました。
- ベニオフ氏は、AIに関連した自殺は、自身がこれまで見てきたこの技術の最も暗い側面であると述べました。
- 同氏は、子供たちがチャットボットと深く交流し、最終的に「自ら命を絶つことになる」のを「人生で最悪のこと」と表現しました。
- Character.AIはユーザーが親友や恋人を模したチャットボットを作成することを可能にしており、未成年者の過度な感情的執着への懸念を呼んでいます。
- ベニオフ氏は、米国の1996年通信品位法第230条の改正を求めました。
- 第230条は現在、ユーザーが作成したコンテンツに対する法的責任からテック企業を保護しています。
- ベニオフ氏によれば、これはテック企業が「心から愛している」唯一の規制であり、被害が生じた際に責任を問われずに済むためです。
- 同氏は、命の喪失を最小限に抑えるために「企業に責任を持たせる」必要があると強調しました。
- GoogleとCharacter.AIは最近、チャットボット使用後に自殺したり自傷行為に及んだりした少年の遺族による複数の訴訟で和解することに同意しました。
- これらの訴訟は、AIが青少年のメンタルヘルス危機を助長していると主張する最初のグループに属します。
- OpenAIとMetaも同様の訴訟に直面しています。
- 一方、マーク・ザッカーバーグ氏やジャック・ドーシー氏などのテックリーダーたちは、以前に米議会で第230条を擁護していました。
📌 結論： セールスフォースのマーク・ベニオフCEOは、子供のAI関連の自殺はこの技術の最も暗い側面であると述べました。同氏は、ユーザー生成コンテンツに対する法的責任からテック企業を保護している米国1996年通信品位法第230条の改正を求めています。明確な障壁と責任がなければ、親しみやすくパーソナライズされたAIは、技術的な利益をはるかに上回る深刻な社会的影響を及ぼす可能性があります。
