[Meta plans to replace humans with AI to assess privacy and societal risks] 2025年5月31日

[非公式英文和訳：ビジネスと人権リソースセンター]

[...]

これまでメタ社（旧フェイスブック）では、社内で「プライバシーおよびインテグリティ・レビュー」として知られるリスク評価が、ほぼ全面的に人間の評価者によって行われてきた。

しかし、米公共ラジオ局NPRが入手した社内文書によると、今後、全リスク評価の最大90%がAIにより自動化される方針である。

これは具体的に、アルゴリズムの重要な更新、新たな安全機能の導入、プラットフォーム横断的なコンテンツ共有方法の変更といった事案が、AI搭載システムによってほぼ承認されるようになることを意味する。これまでのように、変更が予期せぬ影響や悪用をどう引き起こしうるかを議論・精査する担当者の審査は、もはや行われなくなる。

メタ社内では、この変更は製品開発者にとっての「勝利」と見なされている。アプリの更新や新機能のリリースをより迅速に行えるようになるためだ。しかし、現職および元社員からは、同社のアプリが現実世界にいかにして害を及ぼしうるかという厄介な判断をAIに委ねることになり、その代償として安全性が損なわれるのではないかという懸念の声が上がっている。

「このプロセスが、実質的に『これまでより少ない精査や反対意見の中で、さらに多くのものがより迅速にリリースされる』ことを意味する限り、それはさらに大きなリスクを生み出していることに他ならない」と、メタの元幹部は語る。同氏は会社からの報復を恐れ、匿名を条件に取材に応じた。「製品変更がもたらす負の外部性（ユーザーや社会全体に与える予期せぬ悪影響）が世界で問題を引き起こす前に防がれる可能性は低くなるだろう」と指摘した。

メタ社は声明の中で、ユーザープライバシー保護のために数十億ドルを投資してきたと述べている。

[...]

また、今回の製品リスク評価プロセスの変更は意思決定の効率化を目的としたものであり、「新規性の高い、あるいは複雑な問題」には引き続き「人間の専門知識」が活用され、自動化されるのは「リスクの低い決定」のみであると強調した。

しかしNPRが確認した社内文書によれば、同社は今後、「AIの安全性」「若年層へのリスク」、さらに「インテグリティ」と呼ばれる暴力的コンテンツや虚偽情報の拡散などを含むセンシティブな分野においても評価の自動化を検討しているという。

[...]