AIは思考できるか？
今年のテーマがAIなので、AIできることとできないことをちょっと考えてみました。
入力と出力の関係性が定義（言語化）できるものはAIで処理可能。例えば、所与のルールやパターンを基に評価や判断を行うことはAIができると思います。話題のアルファ碁も、つまるところ、入力に対して予め定義されてアルゴリズムで確率分布を計算して、勝率の1番高い一手を出力するって作業を繰り返しているだけと理解しています。
もちろん、アルファ碁については、処理する情報量が膨大な中、機械学習を通して自らアルゴリズムの精度を改善した結果、世界ランク4位の棋士に勝利できたことが快挙達成であると思います。技術的なイノベーションもいっぱい経験してるんだと思います。（まー、本音では、囲碁そのものや、アルファ碁を生み出した人間の創造性はもっとすごいと思ってますけどね。）
逆に、入出力の関係性が定義できないものは、現時点でAIでは処理困難。例えば、ルールや基準を作る、課題を設定する、「ひらめく」（不連続な思考の飛躍）などは、いまのところAIには難しいのではないかな。囲碁の例で言うと、アルファ碁（に搭載しているAI）は囲碁を創造しないと思います。あ、あと、入力が不完全な場合の処理結果の精度はかなり落ちるだろうね。金融市場とか。
という私の整理はさておき、AIに関する面白い思考実験を発見しました。
小部屋に中国語ができない人をいれ、作業マニュアルを渡し、外からの入力（中国語の質問）に対して、作業マニュアルに従って、出力（中国語の回答）するという状況を想定します。この時、小部屋の外にいる人から見た場合、中にいる人が中国語を理解していると言えるかどうかと問題提起するものです。
「（入力に対してプログラムに従い出力を行う）AIが言葉を理解していると言えるか」、つきつめると、「 AIは思考でできるか」を問う実験であり、極めて哲学的で面白いと思ったので思わず投稿しました。
みなさんは、AIは思考できると思いますか？あるいは、心があると思いますか？
ではでは。