備忘録

テクノロジーと人間

人工知能および自律システムにおける倫理的考察のためのIEEEグローバル・イニシアティブ「倫理的設計」:人工知能と自律システムによる幸福を優先するためのビジョン

人工知能(AI)および自律システム(AS)における倫理規定に関するIEEEグローバル・イニシアティブ」はIEEEのプログラムのひとつで、プログラム名通り、AI/ASの「倫理的設計」ビジョン策定を進めている。

IEEEは電気、通信、情報工学などの技術者による専門家組織で、これらの分野の国際規格の標準化活動を推進している。IEEEグローバル・イニシアティブでは、「倫理的設計」に基づいたIEEE標準化の提案を行うことを目標にしている。なお、すでに一部はIEEE標準化プロジェクトの中に取り込まれている。

昨年12月に公開されたのが以下の「倫理的設計」Version1だ。

The IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems.  Ethically Aligned Design: A Vision For Prioritizing Wellbeing With Artificial Intelligence And Autonomous Systems, Version 1. IEEE, 2016.

IEEE-SA - Industry Connections

上のリンクから無償でDLできる。

なお、エグゼクティブ・サマリーはIEEE日本事務所が翻訳している。

(配布していいそうで、ここにアップした)

Version1では、AI/ASの開発に伴う課題と提案の候補が示された。

今年6月にオースティンで開かれるIEEEグローバル・イニシアティブの会合でバージョンアップに向けた議論が交わされ、それを反映して今年秋に「倫理的設計」Version2が公開される予定だ。

 

「倫理的設計」Version1では以下の8セクションに分かれて課題が抽出されている。

1.一般原則

以下の3点の一般原則と、その実現の課題が挙げられている。

1.人権の最高の理念を具現化する。
2.人類と自然環境に対する最大の利益を優先させる。
3.AI/ASが社会技術的なシステムとして進化するのに伴い、リスク及び悪影響を軽減する。

人権が最初に来るのがいいなあと思った。国内でも内閣府とか総務省とかが報告書を作っているけれど、「人権」って文言が最初に入ることってないよなあ、、、と日本残念。。。

 

2.自律知能システムへの価値観の組み込み

以下の3点と課題が挙げられている。

1. AISの影響を受ける特定のコミュニティの規範と価値観を特定する。
2. そのコミュニティの規範と価値観をAIS内に実装する。
3. そのコミュニティにおける人間とAISの間の、これらの規範と価値観の整合性および適合性を評価する。

 

3.倫理的研究と設計を導く方法論

開発主体は、人間の幸福、エンパワーメント、自由がAI/AS開発の中核となるようにすべき、という内容とその実現のための課題。

 

4.汎用人工知能(AGI)と人工超知能(ASI)の安全性と恩恵

 

5.個人情報と個別アクセス制御

個人情報に関する重要な倫理的ジレンマは、データの非対称性として、課題を挙げている。

 

6.自律兵器システムの再構築

以下について提言している。

・ 技術組織が、人間による兵器システムの有意義な管理が社会にとって有益であることを受け入れる。
アカウンタビリティを保証する監査証跡により、そのような管理を確実にする。
・これらの技術を生み出している者が自分たちの仕事の意味を理解している。
・職業倫理規定が危害を加えることを意図した創作物に適切に対処する。

 

7.経済的/人道的問題

ヒューマンテクノロジーの世界的なエコシステムを形成する主な要因の特定、経済的および人道的な影響への対応、重要な難所を解消することによって実現できる解決に向けた重要な機会の提案をすることが、このセクションの目標。

 

8.法律

 

 

なお、AIと倫理や社会、開発原則といったドキュメントは国内外・官民学問わず各方面からいろいろと出ていますが、今年にはいってから出たものを以下にまとめておきます。

 

2017/01 ASILOMAR AI PRINCIPLES, future of life (FLI)

futureoflife.org

 

2017/01 REPORTwith recommendations to the Commission on Civil Law Rules on Robotics, Committee on Legal Affairs, The European Parliament

REPORT with recommendations to the Commission on Civil Law Rules on Robotics - A8-0005/2017

 

2017/01 人工知能と人間社会に関する懇談会 報告書、内閣府総合科学技術・イノベーション会議 

www8.cao.go.jp

 

2017/02 人工知能学会倫理指針、人工知能学会倫理委員会

ai-elsi.org