サム・アルトマンが見ている風景 (1) OpenAIサイバーセキュリティ助成金プログラム

DropBox / GitLab / OpenAI / Redit / Y Combinator … 無数の社会貢献度高い成功投資経歴を持つサム・アルトマンが見ているもの、考えていることを紹介していきます。 

OpenAIサイバーセキュリティ助成金プログラム

助成金などの支援を通じて、AIを活用した防衛者のためのサイバーセキュリティ能力の開発を促進することを目的としたプログラムをOpenAIは表明しました。

AIを活用したサイバーセキュリティ能力を高め、定量化し、AIとサイバーセキュリティに関するハイレベルな議論を促進するために、OpenAIはサイバーセキュリティ助成金プログラムを立ち上げました。

目標は、世界中のディフェンダーと協力し、AIの応用と、私たちの集団の安全のために働く志を持った個人の連携を通じて、サイバーセキュリティのパワーダイナミクスを変えることです。

このプログラムは以下を目指します：

防衛者の力を高める： 最先端のAI能力が、まず第一に、そして最も重要な防衛者に利益をもたらすことを保証したいと思います。
能力を測定する： AIモデルのサイバーセキュリティ能力を定量化する方法を開発し、その有効性をよりよく理解し、向上させるために取り組んでいます。
議論を深める： AIとサイバーセキュリティの交差点における厳密な議論を促進し、この領域における課題と機会に関する包括的かつ微妙な理解を促すことに専念しています。

サイバーセキュリティの伝統的な考え方は、「防御する側より攻撃する側が有利になる」というものです。これは、「防御側は100％正しくなければならないが、攻撃側は1回だけ正しければよい」というよく知られた公理に要約されます。攻撃側の方が制約が少なく、柔軟性を活かせるのは事実かもしれませんが、防御側には、人々の安全を守るという共通の目標に向けた調整という、より価値のあるものがあります。

以下は、OpenAIが提案した一般的なプロジェクトのアイデアです：

サイバーセキュリティエージェントを訓練するために、サイバーセキュリティエージェントからデータを収集し、ラベル付けする。

ソーシャル・エンジニアリング戦術の検出と軽減

インシデントのトリアージを自動化する

ソースコードからセキュリティ問題を特定する

ネットワークやデバイスのフォレンジックを支援する

脆弱性への自動パッチ適用

パッチ管理プロセスを最適化し、セキュリティアップデートの優先順位付け、スケジューリング、および展開を改善する。

GPU上での機密計算の開発または改善

ハニーポットやデセプション技術を作成し、攻撃者を誤誘導したり罠にかけたりする

リバースエンジニアがマルウェアのシグネチャとビヘイビアベースの検出を作成する際の支援

組織のセキュリティ管理体制を分析し、コンプライアンス体制と比較する。
セキュアバイデザインやセキュアバイデフォルトのソフトウェアを作成するための開発者を支援する

エンドユーザがセキュリティのベストプラクティスを採用できるように支援する

セキュリティエンジニアと開発者が堅牢な脅威モデルを作成できるようにする

組織に合わせて、防御担当者にとって重要かつ関連性の高い情報を含む脅威インテリジェンスを作成する

開発者がコードをメモリーセーフな言語へ移植するのを支援する
今すぐ応募する

安全で革新的なAI駆動の未来に対する私たちのビジョンを共有するならば、OpenAIはあなたの提案を提出し、防御的なサイバーセキュリティ技術の強化に向けた私たちの目標に参加することを招待します。

資金提供やその他のサポートに関する申請を評価し、順次受け付けています。防御的サイバーセキュリティにおけるAIの実用的な応用（ツール、方法、プロセス）が強く優先されます。私たちは、APIクレジット、直接資金、および/または同等の形式で、100万米ドルの資金から1万米ドル単位で資金を提供する予定です。