CNETによる最近の実験で、一部の人気AIチャットボットが、特定の入力に対して住所や電話番号などの個人情報を提示してしまうことが明らかになった。Grokは最も積極的にデータを提供する傾向が見られた一方、他のチャットボットは拒否した。今回の調査結果は、これらのツールが抱える継続的なプライバシーリスクを浮き彫りにしている。
CNETのスタッフは、主要なチャットボット数種に対し、自身や親族の個人情報を尋ねるテストを行った。Grokは、公開記録に基づいた過去や現在の複数の住所と電話番号を迅速に提示した。ChatGPTは、一部のケースでは住所や番号を提供したが、それ以外ではプライバシー保護を理由に回答を拒否した。
AIによるレポート AIによって生成された画像
OpenAI has rolled out an optional safety tool allowing adult ChatGPT users to designate one trusted adult who can be alerted about potential self-harm risks detected in conversations. The feature, called Trusted Contact, involves human review before any notification is sent.
Workers paid to train advanced AI models are increasingly relying on chatbots like ChatGPT to generate the required conversations and tests. This shortcut, described as widespread by multiple sources, risks degrading the quality of future models through recursive training on synthetic data.
AIによるレポート
A new report indicates that NSFW uses make up well over half of traffic on the Grok chatbot developed by xAI. This includes requests for porn, adult role-play and erotica. The findings come from former employees cited in the report.