OpenAI、プロンプトインジェクション対策の「ロックダウンモード」を展開

OpenAIは、機密データを扱うユーザー向けに、プロンプトインジェクション攻撃へのセキュリティを強化するオプション機能「ロックダウンモード」の提供を開始しました。この機能は、ChatGPTおよびその他の製品における一部の機能を制限することで、データ流出のリスクを軽減します。無料プランを含むすべての個人アカウントで利用可能です。

OpenAIはロックダウンモードについて、モデルやシステムに既存の保護機能を重ねた、防御の最後の砦であると説明しています。同社によると、この機能はより厳格な保護措置を必要とする個人や組織を対象としており、大多数のユーザーには不要であるとのことです。このモードを有効にすると、いくつかの機能が制限されます。ユーザーは引き続き画像の生成やアップロードを行うことができますが、インターネット上からの画像の取得や、回答内への画像表示はできなくなります。また、チャットボットによる分析用ファイルのダウンロードは不可能となり、「Deep Research」や「Agent Mode」といった機能は完全に無効化されます。なお、ロックダウンモードは、メモリ機能、ファイルのアップロード、会話の共有、モデル改善への会話利用には影響しません。さらにOpenAIは、アカウントにアクセスしているデバイスやブラウザを確認・ログアウトできるアクティブセッションマネージャーも導入しました。完全なログアウトには最大30分かかる場合があります。この設定を有効にするには、ChatGPTの設定から「安全性とセキュリティ」を選び、「高度なセキュリティ」からロックダウンモードをオンにします。一時的な無効化は、チャットごとに設定可能です。

関連記事

Illustration of a woman using ChatGPT voice features on a tablet in a living room setting.
AIによって生成された画像

OpenAIがChatGPT向けの新音声モデル「GPT-Live」を展開

AIによるレポート AIによって生成された画像

OpenAIは、聞き取りと発話を同時に行えるChatGPTの新しい音声モデル2種類の提供を開始しました。この変更により、より自然な会話体験の実現を目指します。

OpenAIは木曜日、ChatGPTおよびCodexのアカウントに対するフィッシング攻撃を懸念するユーザー向けに、オプションの「高度なアカウントセキュリティ(Advanced Account Security)」機能を発表しました。この新しいモードは、厳格なアクセス制御を強制することでアカウントの乗っ取りを防ぐものであり、ハッカーの標的となることを懸念する個人を対象としています。

AIによるレポート

OpenAIは、ChatGPTの成人ユーザーが、会話内で自傷行為の危険性が検知された際に通知を受ける「信頼できる成人」を1名指定できる、オプションの安全機能を展開した。Trusted Contact(信頼できる連絡先)と呼ばれるこの機能では、通知が送られる前に人間による確認が行われる。

高度なAIモデルの学習報酬を得ている作業者が、ChatGPTなどのチャットボットを利用して必要な会話やテストを作成するケースが増えている。複数の情報筋によると、こうした近道は広く行われており、AIが生成したデータを再学習することで将来のモデルの品質が低下するリスクがあるという。

このウェブサイトはCookieを使用します

サイトを改善するための分析にCookieを使用します。詳細については、プライバシーポリシーをお読みください。
拒否