OpenAIは、ChatGPTの成人ユーザーが、会話内で自傷行為の危険性が検知された際に通知を受ける「信頼できる成人」を1名指定できる、オプションの安全機能を展開した。Trusted Contact(信頼できる連絡先)と呼ばれるこの機能では、通知が送られる前に人間による確認が行われる。
この新機能は既存のペアレンタルコントロールを強化するものであり、ユーザーがAIチャットボットに対して感情的な愛着を抱くことへの懸念が高まる中で導入された。OpenAIによると、同社のシステムは世界中のユーザーから自殺の計画や意図を示す明確な指標が含まれるメッセージを週に100万件以上検知している。自動監視システムが深刻な安全上の懸念を検知した場合、訓練を受けた少人数のレビューチームが状況を精査し、1時間以内にメール、テキストメッセージ、またはアプリ内の通知を通じて連絡先に通知を行う可能性がある。通知には懸念の一般的な理由のみが記載され、チャットの全記録や詳細な内容は共有されない。ユーザーはChatGPTアプリの設定から信頼できる連絡先を追加でき、指定された相手は1週間以内に招待を承認する必要がある。全世界の全成人ユーザーへの展開は、数週間以内に完了する予定である。