AI や自律システムに倫理を

AI における倫理というとアイザック・アシモフのロボット三原則がすぐに思い浮かびますが、これは SF の話。
現実の世界では IEEE が The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems の中で Ethically Aligned Design というドキュメントを出していました。全体については概要を読むと分かりやすいですが、ゴールは AI や自律システムにおいて「Human Rights」「Well-being」「Accountability」「Transparency」「Awareness of misuse」を達成することのようです。

現在は v1 ですが、次期バージョンの EADv2 のレビューが始まっています。

• Ethically Aligned Design, Version 2 (EADv2) | IEEE Standards Association

AI ブームですが、開発に関わる場合にはこういうのに一度は目を通しておきたいところです。

† 参考

• IEEE、AIなどの自律システムの倫理面を論じた文書の第2版を公開 - Computerworldニュース：Computerworld