ホワイトペーパー・記事
AIセキュリティ・ガバナンスに関する記事は、順次公開され次第こちらに表示されます。
View MoreAIセキュリティ・ガバナンス
安全か、ではありません。
何を許されているか、です。
ゼロトラストのアーキテクチャ、権限、承認フロー、監査ログを、何かをつくる前に設計します。インシデントの後ではなく、ホワイトボードの上で行う、AIセキュリティのもう半分です。
AIセキュリティ・ガバナンス
ゼロトラストのアーキテクチャ、権限、承認フロー、監査ログを、何かをつくる前に設計します。インシデントの後ではなく、ホワイトボードの上で行う、AIセキュリティのもう半分です。
二つの異なる問い
これは別々の仕事なので、別々のページにしています。間違ったほうを買うのは、よくある、高くつく失敗だからです。
監査、ペネトレーションテスト、コンプライアンス対応、インシデント対応。問いはいまどこが露出しているのかであり、答えは証拠のついた報告書として届きます。それはサイバーセキュリティのページにあります。
ゼロトラストのAI設計、権限、承認ワークフロー、監査ログ、責任あるAIのポリシー。問いは設計によってどう安全にするかであり、見つけるべきものが生まれる前に答えます。
提供内容
六つの領域です。範囲は、何かを始める前に御社と合意します。
置かれている場所を理由に信頼されるものは何もありません。すべての呼び出しは認証され、すべてのデータの経路は意図されたもので、侵害されたコンポーネントが届く範囲はできる限り小さくなります。信頼の境界を後から付け足すことは作り直しを意味するので、最初に設計します。
どの人とどのシステムが、誰のデータに対して、どの機能を呼び出してよいのか。AIのインシデントの多くは巧妙な攻撃ではありません。誰も描いていなかった経路を通って、本来届くはずのなかったものに誰かが届いてしまうことです。
どの操作はそのまま進み、どの操作は人のために止まるのかを、明示的に決めて記録します。肝心なのは、その境界が、実装がたまたまそうなったものではなく、文書化された決定であることです。
何が問われ、何が取り出され、何が返され、誰がそれを見たのか。数か月後でもインシデントを再構成できるように残します。再構成できないAIシステムは、守りようがありません。
許容される使い方、開示、人による監督、エスカレーションについての書かれたルールを、それに縛られる人が理解できる言葉で。誰も読まないポリシーは、統制ではなく文書にすぎません。
ISO 27001、GDPR、SOC 2を、監査のために組み立てるのではなく、最初の設計の段階から仕事の形を決めるものとして扱います。これらの枠組みへの対応はお手伝いしますが、誰かをそれに対して認証することはしません。
進め方
AIが触れるすべてのシステム、データセット、操作と、その隣にある、触れてはいけないものすべて。本当の指摘のほとんどは、誰も描いていなかった経路から始まります。
ID、権限、信頼ゾーン、承認のポイントを、変えるのがまだ無料のうちに、ホワイトボードの上で決めます。
強制とログを、システムの周りではなくシステムの一部として。後から取り付けた統制は、締め切りに追われたときに外されるものです。
三段階目で、システムは健全になります。 残りの二つが、御社のチームが当社なしでそれを守れるようにします。
許容される使い方、監督、開示、エスカレーションを、平易な言葉で、読める長さで。誰も理解できない統制は、統制ではありません。
御社のチームが、数か月後に、好意的とは言えない相手の前で、システムが何をしたのか、なぜそうしたのかを答えられること。この仕事が本当に試されるのは、そこです。
はっきり言うと
ISO 27001やSOC 2に対する認証は、エンジニアリングを行った人たちから独立していなければならない認定審査機関が発行します。その両方を提供すると言う供給者がいたら、立ち止まって考えるべきです。当社にできるのは、その審査員が来るずっと前に、設計、統制、証拠がそろっているようにすること。そうすれば、その会話は救出ではなくレビューになります。
その前に
あちらは攻撃側の視点です。監査、ペネトレーションテスト、コンプライアンス対応、インシデント対応によって、いまどこが露出しているのかに証拠をもって答えます。こちらはアーキテクチャの視点で、見つけるべきものが生まれる前に、システムを設計によって安全にする方法に答えます。間違ったほうを買うのはよくある、高くつく失敗なので、別々のページにしています。穴を探してほしいのであれば、そちらから始めてください。サイバーセキュリティ。
いいえ。そしてエンジニアリングを行う者が、それをすべきではありません。認証は、それをつくった人たちから独立していなければならない認定審査機関が発行するものです。当社が行うのは、監査が救出ではなくレビューになるように、設計と証拠を整えることです。
失敗の仕方が違うからです。AIシステムはデータとして届く指示に従って動きます。これは既存の統制が想定していなかった種類のものです。しかも多くの場合、どの一人の利用者よりも広い読み取り権限を持っています。統制そのもの——ID、最小権限、ログ——はおなじみのものですが、それを置くべき場所が違います。
最初は、少しだけ。それでも、ほかの選択肢よりはずっと安く済みます。信頼の境界は後から付け足すことがほぼ不可能で、この話し合いはたいてい監査の最中か、インシデントの後に行われます。そのときには選択肢は悪くなり、スケジュールも御社のものではなくなっています。
アーキテクチャとその根拠、権限モデル、ログの設計、ポリシー文書、手順書。御社のリポジトリに、御社のエンジニアのために書かれた形で。物差しは、当社がその場にいなくても、御社のチームがシステムを守れるかどうかです。