O.XYZのアフマド・シャディッド氏は、国家安全保障上の優先事項がAIの公平性と透明性を損なう可能性があると警告している。

現在のアメリカ合衆国大統領ドナルド・トランプの就任前に、 米国標準技術局 （NIST）は、高度な AI モデルの安全性に関するレポートを完成させました。 

昨年139月、バージニア州アーリントンで開催されたコンピュータセキュリティ会議に、最先端の言語モデルやその他のAIシステムを厳密にテストすることを目的とした、先駆的な「レッドチーム演習」に参加したAI研究者グループが集まりました。XNUMX日間にわたる演習で、これらのチームは、偽情報の生成や機密データの漏洩など、システムの誤動作を引き起こすXNUMXもの新たな手法を発見しました。重要なのは、彼らの発見によって、企業によるAIシステムの安全性評価の指針となる、米国政府の最近の標準規格の脆弱性も明らかになったことです。

組織がAIシステムを評価するのに役立つように、 レポート これは、次期政権の政策方針との潜在的な矛盾のため、公表が差し控えられた NIST 作成の AI 文書のうちの 1 つである。

とのインタビューで Mpost, アフマド・シャディッド の、最高経営責任者（CEO） O.XYZ AI主導の分散型エコシステムであるAIは、AIの安全性研究における政治的圧力と秘密主義の危険性について議論しました。

NIST レッドチームの調査結果を公開する権限を持つのは誰ですか?

アフマド・シャディッド氏によると、政治的圧力はメディアに影響を与える可能性があり、NISTの報告書はその明確な例である。彼は、そのような圧力に縛られない独立した研究者、大学、民間研究所の必要性を強調した。

「課題は、リソースやデータへのアクセスが必ずしも平等ではないことです。だからこそ、誰もが貢献し、そこから学ぶことができる、AIの脆弱性に関するグローバルでオープンなデータベースが必要なのです」とアフマド・シャディッド氏は語った。 Mpost「こうした研究には政府や企業によるフィルターがあってはならない」と彼は付け加えた。

AIの脆弱性を隠蔽することは安全性の向上を妨げ、悪意のある行為者を助長するとアフマド・シャディッド氏は警告する

さらに、脆弱性を一般の人々から隠蔽することに伴うリスクと、そのような行為が AI の安全性の進歩を妨げる可能性があることについても説明しました。

「重要な教育研究を隠すことは、善良な人々を暗闇に閉じ込め、悪意のある人々に有利なスタートを与えることになる」とアフマド・シャディッド氏は述べた。

企業、研究者、スタートアップ企業は、認識していない問題に対処することができず、それが AI 企業にとって隠れた障害となり、AI モデルに欠陥やバグが生じる可能性があります。 

アフマド・シャディッド氏によると、オープンソース文化はソフトウェア革命の基盤であり、継続的な開発と脆弱性の共同発見によるプログラムの強化を支えてきました。しかし、AI分野ではこのアプローチは大きく縮小しています。例えば、Metaは開発プロセスをクローズドソース化することを検討していると報じられています。

「NISTが政治的圧力のために国民から隠していたのは、LLMや幻覚に関するリスクに対処するために業界が必要とする正確な知識だった可能性がある」とアフマド・シャディッド氏は述べた。 Mpost「報告書に記載されている『AIシステムを破壊する139の新しい方法』を、悪意のある人物が悪用しようとしている可能性もある」と彼は付け加えた。

政府はAIの公平性と透明性よりも国家安全保障を優先する傾向があり、国民の信頼を損なっている 

安全性研究の抑圧は、政府が公平性、誤報、偏見の懸念よりも国家安全保障を優先するという、より広範な問題を反映しています。 

アフマド・シャディド氏は、一般市民が利用するあらゆる技術は透明性と公平性を備えていなければならないと強調した。彼は、AIを取り巻く機密性はその地政学的重要性を浮き彫りにしていると指摘し、秘密性よりも透明性が重要であると強調した。

米国や中国などの主要経済国は、AI競争で優位に立つために、数十億ドルの補助金や積極的な人材獲得など、多額の投資を行っている。

「政府が『国家安全保障』という言葉を、378億XNUMX万人のユーザーのポケットに入っているAIのような技術における公平性、誤情報、偏見よりも優先させるということは、実際にはそれらの問題は後回しにできると言っているようなものです。これは、人間ではなく権力を守るAIエコシステムの構築につながるに違いありません」と彼は結論付けた。