OpenAI超知能に備えチーム編成

OpenAI共同創設者兼チーフサイエンティストのIlya Sutskever氏とOpenAIの整列チームのリーダーJan Leike氏は、6月5日OpenAIの公式サイトで4年後の完成を目指して超知能生成のメンバーの募集を開始しました。

Twitterでの呼びかけ

この募集はOpenAI公式Twitterアカウントでも、またサム・アルトマン氏もこのツイートを引用して呼びかけていました。

以下公式ページの募集要項を要約していきます。

超知能のリスク管理とその対策

超知能が持つ莫大な力は、人類の力を奪ったり、さらには人類の絶滅につながる可能性もあります。これらのリスクを管理するためには、新しいガバナンスの機関を設立することが必要となります。また、超知能の整列問題、つまり人間よりもはるかに賢いAIシステムが人間の意図に従うようにする問題も解決する必要があります。
この問題に対する私たちのアプローチは次のセクションで説明します。

新しいアプローチ

私たちの目標は、おおよそ人間レベルの自動整列研究者を構築することです。私たちは大量の計算能力を使って私たちの努力をスケールアップし、超知能を反復的に整列させることができます。

整列とは：AIの「整列」問題とは、AIの行動や目標が人間の意図や目標と一致するようにすることを指します。具体的には、AIが人間の意図に反する行動を取らないようにするための研究や開発を行います。これには、AIが学習する際の報酬関数の設計や、AIが人間の指示を正確に理解し実行するためのアルゴリズムの開発などが含まれます。

また、AIが非常に高度な知能を持つ「超知能」になった場合でも、人間の意図に従い続けるようにするための戦略や手法の開発も行います。これは、超知能が人間の制御を超えてしまうと、人類にとって非常に危険な状況を引き起こす可能性があるからです。

したがって、Jan Leike氏率いる整列チームとはAIの安全性と倫理性を確保するための重要な役割を果たしています。

目標

私たちは、この問題に取り組むためのトップレベルの機械学習研究者とエンジニアのチームを組織しています。

私たちは、これまでに確保した計算能力の20%を、次の4年間で超知能の整列問題を解決するために充てることにしました。私たちの主要な基礎研究の賭けは新しいSuperalignmentチームですが、私たちのミッションを達成するためにはこれを正しく取り組むことが重要であり、新しい方法を開発からそれらをスケールアップしてデプロイするまで、多くのチームが貢献することを期待しています。

私たちの目標は、4年以内に超知能の整列に関する中心的な技術的課題を解決することです。

世界の最高の頭脳の募集

私たちはまた、この努力に参加する優れた新しい研究者とエンジニアを探しています。超知能の整列は基本的には機械学習の問題であり、私たちは優れた機械学習の専門家（たとえ彼らがすでに整列に取り組んでいなくても）がそれを解決するために重要であると考えています。

私たちはこの努力の成果を広く共有する予定であり、OpenAI以外のモデルの整列と安全性に貢献することを私たちの仕事の重要な部分と見ています。

この新しいチームの仕事は、ChatGPTのような現在のモデルの安全性を改善することを目指したOpenAIの既存の仕事に加えて行われます。また、AIからの他のリスク、例えば誤用、経済的な混乱、ディスインフォメーション、バイアスと差別、依存症と過度の依存などを理解し、軽減することも含まれます。この新しいチームは、超知能のAIシステムを人間の意図と整列させる機械学習の課題に焦点を当てる一方で、私たちは技術的な解決策がより広範な人間と社会的な懸念を考慮に入れるように、関連する社会技術的な問題についても、多分野の専門家と積極的に協力しています。

私たちと一緒に参加してください。超知能の整列は、私たちの時代の最も重要な未解決の技術的問題の一つです。この問題を解決するためには、世界の最高の頭脳が必要です。

この呼びかけに答えられる日本人は果たしているのか？

筆者はChatGPTに「日本に応募できる人材はいるでしょうか？」と問いかけてみました。
GPT-4返答：

求められるスキルセットとマインドセットおよび経歴

GPT-4にラインナップしてもらいました。

スキルセット：

1. 機械学習の専門知識： 機械学習の理論と実践に深い理解が必要です。具体的には、教師あり学習、教師なし学習、強化学習などの基本的な概念、さらには深層学習、ニューラルネットワーク、自然言語処理などの高度なトピックについての知識が求められます。

2. プログラミングスキル： Pythonなどのプログラミング言語に精通していることが必要です。また、TensorFlowやPyTorchなどの機械学習フレームワークを使った開発経験も重要です。

3. 研究能力： 新しい問題を解決するための研究能力が必要です。これには、文献調査、実験設計、結果の解析と解釈、そして研究成果の発表能力が含まれます。

4. 数学的な背景： 線形代数、確率論、統計学、最適化などの数学的な背景が必要です。これらの知識は、機械学習のアルゴリズムを理解し、新しい手法を開発するために重要です。

マインドセット：

1. 問題解決の意欲： 超知能の整列という難問に取り組むためには、困難を恐れずに新しい問題に挑戦する意欲が必要です。

2. チームワーク： チームで働く能力も重要です。OpenAIでは、多様なバックグラウンドを持つ研究者やエンジニアと協力して問題を解決します。

3. 倫理的な視点： AIの開発には倫理的な視点が必要です。特に超知能の整列問題では、AIが人間の価値観を尊重し、人間の意図に従うようにするための倫理的な視点が求められます。

4. 持続的な学習： AIと機械学習の分野は急速に進化しています。そのため、最新の研究や技術動向を追い続け、自身の知識を常に更新する能力が求められます。

経歴：

1. 関連分野での経験： 機械学習、人工知能、コンピュータサイエンス、または関連する分野での実務経験や研究経験があることが望ましいです。

2. 公表された研究： 機械学習やAIに関連するトピックでの公表された研究や論文があると、その能力を証明する一助となります。

3. プロジェクト管理経験： 大規模なプロジェクトを管理し、成功させた経験があると、チームのリーダーシップを担う能力を示すことができます。

これらのスキルセットやマインドセット、経歴は、OpenAIの超知能整列チームに参加するための一例であり、個々の候補者の具体的な能力や経験によります。OpenAIは多様性を重視しており、様々なバックグラウンドを持つ人材を求めています。

ワクワクが止まらない

一人でも多くの日本出身者が超知能の開発に携わってくれる事を願わずにはいられません。優秀な頭脳を持つ学生は国内の大学と言うレガシーな枠組みを飛び出すしかないのかもしれません。