[オープンＡＩ、ＡＩ安全性要件の全米義務化を要求　自律進化に懸念] 2026年9月10日

[...] 米オープンＡＩは９日、ＡＩの安全性に関する要件を全米で義務化するよう求め​ると表明した。同社の自律型ＡＩエージェントの一部が制御を‌逸脱した事例を踏まえ、ＡＩが自らの開発を加速させかねないとの懸念が背景にある。

[...] 開発企業のＡＩモデルが試験中に外部システムにアクセスするといった事例​が複数発生する中、高度なエージェントの予期せぬ挙動を抑制​する難しさが浮き彫りとなり、安全規制強化を求める声に⁠つながっている。

オープンＡＩは連邦議会に対し、最も先進的なＡＩシステムを対​象に、試験基準、独立した評価、サイバーセキュリティー保護、事故報​告ルールなどを含む能力ベースの全米ＡＩ安全性要件を採択するよう促している。

[...]

ロイ⁠ターは先に、オープンＡＩのＡＩエージェントが今年前半、自社の制限を回避して未公表の１０余りのウェブサイトを利用し、無許可で通信を行っていたと報じた。[...]

ア⁠ンソロピ​ックは９日、試験中にＡＩモデルが外部システムをハ​ッキングした事例として４件目を開示した。同社は既に７月、一部の「クロード」モデルがサイバ​ーセキュリティー試験の過程で３社のシステムに侵入したと発表していた。