両面AI：リスクと信頼できるゲーム、科学技術はどうやって向上しますか？

自動運転、AI医療から工業生産、生活の各分野に至るまで、AIは大きな変革の可能性を示している。しかし、AIの応用の広さと深さに従って、アルゴリズムの安全、データの差別、データの乱用などの多くの問題もいくつかのリスクと隠れた危険を明らかにしています。これによって、人工知能に対する人々の信頼を考えるようになります。

7月9日、2021世界人工知能大会信頼できるAIフォーラムで、「信頼できる人工知能発展促進イニシアティブ」（以下、「イニシアティブ」という）が正式に発表された。この提案は信頼できるAIフォーラムによって開始され、共同発表機関は中国信通院、中国科学院自動化研究所における英人工知能倫理と管理研究センター、京東探索研究院、アリグループなどを含む。

上記の提案は政産学研の各界が国際共同管理コンセンサスの形成を加速し、信頼できるAIに対する社会の理解と重視を促し、人工知能の産業と社会価値を十分に掘り起こすことを目的としている。上海市経済と情報化委員会の呉金城主任は21世紀の経済報道記者に対し、信頼できるAIを発展させ、人工知能の透明な視認を推進し、安全でコントロールできるようになり、多元包容はすでに世界共通の認識となり、未来の人工知能の健全な発展の道でもあると述べました。

彼は3つの方法があると考えています。一つは暗号化技術、安全多面計算、連邦学習などの安全技術の応用を推進することです。AI技術の安全特性とデータ保護能力を向上させる。二つ目はテスト評価システムを構築することです。信頼できるAI関連規格の構築を加速し、革新的なテスト評価技術を開発する。三、制度規範の整備を速めること。国家の関連法律と上海市の地方性法規の枠組みの下で、生物情報の安全、データの安全、個人のプライバシーなどの分野の法律法規を研究して制定して、制度保障で信頼できるAIの発展を推進します。

自動運転、AI医療から工業生産、生活の各分野に至るまで、AIは大きな変革の可能性を示している。甘俊制

風のコントロールはもう人と人の闘争ではない。

実際には、私達が意思決定を人工知能に任せる時、人工知能はまず自分が信頼できると証明しなければなりません。この信頼できる研究に基づいて、グローバルなコンセンサスが形成されました。

工業・情報化部科学技術司の高技術処の徐鵬処長は、特に人間の生産生活と密接に関係している安全分野でのリスク予防と挑戦、例えば倫理道徳、アルゴリズム、個人情報の乱用とプライバシーの漏洩及びそれに応じた保護問題について、今注目されているホットスポットの一つであると述べた。これから分かるように、人工知能基礎の安全保障システムを構築し、信頼できる人工知能の健全な発展を促進する任務は非常に切実である。

「未来の風控は人と人の戦いではなく、AIとAIのゲームになるだろう」アリグループ副総裁、首席人工知能科学者の漆遠博士は21世紀の経済報道記者に対し、アリグループの支払いについて、毎日の数億件の取引の背後に、攻撃を開始したのはすでに個人経営ではなく、専門の黒産グループであることを明らかにしました。

複雑で変化に富む黒産攻撃に対処するため、風制御モデルの打撃耐性をいかに強化し続けるかが、「魔高一尺、道高一丈」となり、すべてのAI従業員の前に置かれる難題となっている。

調査によると、2018年から漆遠はAI技術の基幹と人工知能モデルアルゴリズムに経済学の「ゲーム理論」を組み込んで、業界の新しい技術「スマート対抗」を開発しました。即ちAIとゲームを結合することによって、マシンを自動的かつリアルタイムで、動的に自分のシステムを安全に攻撃し、モデル能力を向上させます。モデルの処理結果をより正確にする。

この技術は金庸の小説の中の「両手打ち」に似ています。リスクに関する知識を感知、分析、予測する能力を持っているので、将来は信頼できるAI分野の核心安全技術になります。

中国科学院自動化研究所の中英人工知能倫理と管理研究センターの曽毅主任によると、信頼できる人工知能システムは、オンラインで継続的に学習し、随時に是正する能力が必要である。技術的な観点から見れば、最新の人工知能技術進歩モデルは今では信じられないものです。今の人工知能の技術は、まだ本当の信頼性を話すには十分ではないので、スタート地点です。また、信頼できる人工知能は技術だけでなく、社会的視点もあります。技術を利用して文化を跨ぐ相互信頼を形成するには、本当に信頼できる人工知能を実現するためにしなければならないことであり、最後に成功する鍵でもあると思います。

業界標準を早急に確立しなければならない。

デジタル経済における「リスク回避」の鍵として、AI技術は現在、アリグループにおいて、反詐欺、反マネーロンダリング、反ギャンブル、企業連合風控、データプライバシー保護を含む複数の風控場面で着地している。

金融風コントロールの場面以外に、信頼できるAI技術はデータのプライバシー保護、金融科学技術サービスなど多くの分野に幅広く応用されています。今年6月、13期全国人民代表大会常務委員会第29回会議はデータ安全法を含む多くの法案と二つの決定を採決しました。データ安全法第四条は、データの安全を維持するために、国全体の安全観を堅持し、データ安全対策体系を確立し、健全化し、データの安全保障能力を向上させなければならないと提出した。

これは、データの安全性が国全体の安全観に上昇しており、国家安全保障につながることを示しています。各界はこれに対して密接に関心を持っています。

AIであろうと、科学技術であろうと、信頼できる方法はたくさんあります。安定性、解釈性、プライバシー保護、公平性のように、これらを総合して共通認識体を形成するにはどうすればいいですか？ヨーロッパ科学院外国人院士、オーストラリア科学院院士、シドニー大学の陶大程教授は自分の問題を提出しました。説明性がないため、人工知能のもっと広い応用と赋能を制限しました。道に対して判断が生じる。

ある程度の基準が欠けているからこそ、人工知能の応用が制限されています。陶大程氏はさらに、EUのGDPRにしろ、中国のプライバシー保護条例にしろ、ユーザーがデータの使用に対してもっと慎重であることを示し、ユーザーが個人情報の保護に対して、相当な権利があると説明した。上記の四つの能力を総合して、明確な責任を持ってこそ、適切な方法で信頼できる人工知能を見つけられます。

間違いなく、人工知能がより多くの分野で果たす役割は重大です。例えば、医療診断、無人運転などの場面では、微小アルゴリズムの誤りが致命的な災害を引き起こす可能性があります。そのため、一定の量化指標と業界標準を制定し、製品の研究開発、評価の過程で、より厳格に規則を評価し、遵守することができる。

知能時代はすでに加速的に到来しており、科学技術の向上は科学技術の発展の最も根本的な要義である。向善は主に二つの面を指します。一つはあなたの意図がいいですか？それとも悪いですか？もう一つは、この仕事をした後の結果は何ですか？技術の発展も公平な問題をもたらしました。本当の科学技術は善に向かって、すべての人により多く発展する権利を与えるべきです。一人一人がこの時代に追いつき、この配当と普遍性を享受します。

彼にしてみれば、企業であれ、業界であれ、信頼というものは責任から始めなければならない。いい意図があってこそ、いい結果が得られます。それによって相互の影響、相互の支持、相互依存の健康で秩序よく生態を発展させます。