OpenAIが、ChatGPTユーザーの会話内容をスキャンし、深刻な危害の脅威があると判断した場合に法執行機関に報告する方針を公表しました。
この発表は、ユーザーのプライバシー保護とAIの倫理的な利用について、活発な議論を巻き起こしています。
OpenAIの会話監視と報告方針
OpenAIは、ChatGPTの利用規約に基づき、ユーザーの会話内容をスキャンしていることを明らかにしました。
同社は、「When we detect users who are planning to harm others, we route their conversations to specialized pipelines where they are reviewed by a small team trained on our usage policies and who are authorized to take action, including banning accounts. If human reviewers determine that a case involves an imminent threat of serious physical harm to others, we may refer it to law enforcement.」（他人に危害を加えることを計画しているユーザーを検出した場合、その会話を専門のパイプラインにルーティングし、使用ポリシーに基づいて訓練された少人数のチームがレビューし、アカウントの停止などの措置を取る権限を与えられています。人間によるレビューで、他者への深刻な物理的危害の差し迫った脅威を伴うケースであると判断された場合、法執行機関に照会することがあります）と説明しています。
この方針は、潜在的な犯罪行為や物理的な危害を防ぐための安全対策としています。
Redditでの主な反応と議論
Redditのコメントセクションでは、このOpenAIの方針に対して賛否両論、活発な議論が交わされています。
「思想警察」と「予備犯罪」への懸念
一部のユーザーは、この監視体制がジョージ・オーウェルの「1984年」や映画「マイノリティ・レポート」に描かれるような「思想警察」や「予備犯罪（Pre-crime）」の世界につながる可能性を指摘しています。
システムが悪用されたり、誤検出（false positives）によって無実の人が不利益を被ったりするリスクを懸念する声が多く見られます。
「無罪推定」の原則との衝突を指摘する意見もあり、どこまでが許容される範囲なのかという疑問が提示されています。
プライバシー侵害と監視拡大への危惧
ChatGPTが個人の会話を恒常的に監視しているという事実に、多くのユーザーがプライバシー侵害への強い懸念を示しています。
一度このようなデータ収集が始まると、その範囲が拡大していく「滑りやすい坂道（slippery slope）」になるのではないかという意見も出ています。
ユーザーの中には、よりプライバシーが保護されるローカルLLMの利用を推奨する声もあります。
安全保障上の観点と「慣例」としての理解
一方で、他者への深刻な危害を防ぐためには必要な措置だと考えるユーザーもいます。
このような監視は、他の多くの大手テックプラットフォームでも既に行われている「慣例」であり、OpenAIだけが特別ではないという見方もあります。
ただし、携帯電話会社が令状に基づいて情報提供するのと、企業が自主的に判断して情報提供するのとでは異なるという指摘もされています。
OpenAIの取締役会に元NSA長官が参加している点や、米国防総省（DoD）との契約なども背景として挙げられ、これらの状況がユーザーの信頼に影響を与える可能性もあります。
今後の動向とユーザーへの影響
OpenAIの方針は、AI技術の発展と個人のプライバシー保護のバランスについて、改めて社会的な議論を促すものとなりそうです。
ユーザーは、AIサービスを利用する際に、提供される情報のプライバシーポリシーをより注意深く確認する必要があるでしょう。
企業側には、透明性の確保とユーザーへの明確な説明が求められることになります。
参考資料
OpenAI Says It’s Scanning Users’ ChatGPT Conversations and Reporting Content to the Police
コメント