alignment problem

(computing) The problem of how to create a superintelligent AI whose values would align with the interests of humankind.

Japanese Meaning

（コンピュータ科学）超知能AIが人類の利益と一致する価値観・目的で行動するように、その設計や制御を行う際に生じる根本的な課題

Many researchers argue that solving the alignment problem is the most important challenge for developing beneficial superintelligence.

多くの研究者は、AIの価値整合性問題を解決することが、有益な超知能を開発するための最も重要な課題だと主張している。

Sense（1）

(computing) The problem of how to create a superintelligent AI whose values would align with the interests of humankind.