「米対話型AIサービス、少年の自殺受け安全対策を発表」（DG Lab Haus）

米対話型AIサービス、少年の自殺受け安全対策を発表 - DG Lab Haus

「米対話型AIサービス、少年の自殺受け安全対策を発表」（DG Lab Haus）がちょっと面白い。

「対話型の人工知能（AI）キャラクターを作成できるパーソナルAIプラットフォーム「Character.AI」が、若者の自殺や自傷行為を促しているとして訴訟を起こされている。こうした状況を受け、同サービスではこのほど、10代のユーザーを保護するための新しい安全対策を発表した。」

「こうした状況を受け同社は、より厳格なコンテンツフィルターとより保守的な応答を備えた18歳未満のユーザーを対象とした別のAIモデルを開発したと発表した。自殺関連のコンテンツを検知した場合には、ユーザーを「全米自殺予防ライフライン」に誘導するとした。」

壁に書かれたAI（人工知能）の文字（2024年10月16日撮影、資料写真）。（c）Kirill KUDRYAVTSEV:AFP

小松　仁