人工知能、リアルイシュー
スマート・ボックスかリアル・ボーイか？
ニール・オスターワイル著 ドクター・アーカイブスより
2001年9月24日--もし、あなたが独立した推論をすることができる機械を作ったとしたら、それは生命を作ったことになるのだろうか？それとも、次の新しいものに取って代わられるような、賢いハードウェアを組み立てたに過ぎないのだろうか？
スティーブン・スピルバーグとスタンリー・キューブリックの映画「AI」（人工知能の意）では、ロボットメーカーが、愛するようにプログラムされた人工の少年、デイヴィッドを作り出します。彼の人間の所有者は、不可逆的にサイバーキッドの愛情を所有者に固定するプログラムを開始します。
しかし、デイヴィッドを設計・製造することによって、ロボットメーカーはもう一つのフランケンシュタインの怪物を作ってしまったのです。メカは人間の母からの愛を求め、ピノキオのように「本当の」少年になることを切望する。
この映画は、人間であること、自我を持つこと、そして法の下で尊敬と権利を受けるに値するユニークで独立した存在であることの意味について、興味深く、かつ厄介な哲学的問題を提起している。
生身の少年たちの嘲笑や脅迫から身を守るために行動したデイヴィッドは、誤って飼い主の息子を傷つけてしまい、森に捨てられて自活することになる。そんな彼の前に現れたのは、ゴミ捨て場から部品を集めて "生きる "ロボットたちだった。
しかし、デヴィッドがママと呼ぶ女性と一緒にいたいと泣いて懇願し、賞金稼ぎに追われたときに逃げたからといって、彼の恐怖と自己保存の本能は本物なのか、それとも本物の少年がどう反応するかを機械と電子で見事にシミュレートしているに過ぎないのか？それは重要なことなのでしょうか？
我思う、ゆえに我あり？
コネティカット州ニューヘイブンにあるイェール大学の哲学講師、ニック・ボストロム博士は、それは重要だと言っています。
ボストロムは、「ある存在が知覚を持つようになるとすぐに、つまり痛みや喜びを経験できるようになるとすぐに、苦しむことができるということで、ある種の道徳的地位を得ることになると思います」と医師に語っています。「たとえ動物に人権がなくても、そしてほとんどの人が動物を医学研究に使うことは容認できると考えていても、やはり限界があるのです。私たちは、人が何の理由もなく動物を拷問することを許さないのです」。
フランク・スディア（JD）は、少し違った基準を持っています。彼は、複数の選択肢の中から一つ以上の選択をし、行動する能力、そして不測の事態に何千もの可能性の中からどれが最適かを判断する能力は、"ある "ということの意味の基本的かつ実務的な定義かもしれないと述べています。
もし、機械が自己生産する力をもっているとしたら、つまり、機械が自分自身の目標を求めることができるとしたら、あるいは、新聞で読んだ目標のリストの中から自分自身の目標を選んで、「ああ、私はマドンナのようになりたい」と決めることができるとしたら、この選ぶ能力は、それがどんなものであろうと、我々が自己の感覚と考えるものと区別がつかないと思います」と彼は医者に話しています。
スディアは、サンフランシスコを拠点とする電子商取引のセキュリティ・コンサルタントで、自称倫理学者、科学者、知的システムに関する思想家である。人工知能システムの設計者やロボットメーカーの役割を、思春期の子供の親のようなものだと例えています。
「10代の子どもは、さまざまな反応をするようになりますが、それをうまく制御することはできません。「あなたは、彼らが社会的に有益な合理的な選択をするように、彼らの人格を形成しようとしているのです。だから、あなたは自分の子どもたちに対して、非常に大きな範囲で神を演じているのです。モーツァルトにするのは忘れて、自我を持たせることによって、生き残れるものにしようとするのです。
私は選択する、だから私は存在する？
選択をする能力だけでは自律性を示唆しない、とボストロムは指摘する。コンピュータのディープ・ブルーは、チェスの大御所ゲーリー・カスパロフを破った。ディープ・ブルーは、与えられた状況下で可能な何百万ものチェスの手の中から選択することができるが、そのコンピュータに、1クォートのミルクを買うために通りを渡らせてみればいい。
「人間に自律性を与えるためには、かなり多くの自律性を必要とします。"子供たちは、チェスの手を選んだり、そのような単純な選択をする以上のことはできますが、自律性の完全な範囲を持っているわけではありません。そのためには、自分の幸福についての概念や人生設計、そういったものが必要です。今地球上に存在する機械が、感覚も自律性も持っているとは思えませんね。"
機械が自意識を持ち、したがって意識的存在であると言うためには、まず、意識するとはどういうことかを知らなければならない。少なくとも一人の人間は、意識の本質について言えば、我々は手がかりを持っていないと主張している。
英国サセックス大学の哲学・心理学教授であるマーガレット・ボーデン博士は、自意識のある自律的な存在に見えるロボットを作ることは十分可能であると医師に語っている。
"人間の心が行うことはすべて人間の脳に依存しているので、原理的にはそのような生き物のコンピュータ・シミュレーションがあり得るでしょう "と彼女は言う。"しかし、そのロボットが意識を持つかと言われれば、私たちは意識があると言うことさえ分かっていないと言うでしょう。"
スピルバーグやキューブリックのように、自らの利益のために行動し、痛み、喪失、孤独を感じることができるロボットを作ることが可能だと仮定しても、我々はそれを我々の仲間として扱うのか、それともただの賢いトースターとして扱うのか？
私は食料品を買っている、だから私は存在する？
もし私たちが、擬似生命体のひとつである映画に感情移入し、ラスベガス版パリを楽しむことができるなら、ロボットの赤ん坊の泣き声や、AIのデヴィッドのような人工少年の懇願に影響を受けることは間違いないでしょう。そして、ハードウェア（ロボットの脳）が入っている箱と、ソフトウェアがユーザーとどのように相互作用するかというインターフェイスが、すべての違いを生むかもしれないのです。
「もしAIが犬のような姿になったら、犬の権利を持つようになるかもしれない。もしAIがアインシュタインのような姿になったら、もしかしたらアインシュタインのような権利を持つかもしれません」とスディアは言います。
例えば、食料品の買い物とレジでの支払いを代行してくれるような知的システムを設計することは、確かに可能だ。そのためには、人間のように見える必要はないと、イリノイ州エバンストンにあるノースウェスタン大学のコンピュータサイエンス助教授、イアン・ホースウィル博士は言う。
「少なくとも鉛筆やワープロよりはずっと知的だが、人間の存在のような特徴は持っていない」。
例えば、買い物ロボットがチャックおじさんのような外見でなければならない理由はないんです。スクリーンがついていて、棚からコーンフレークの箱を取るためのアームと、お釣りを入れる引き出しがついた、シンプルな箱です。しかし、それでもそれは「それ」であって、「彼」でも「彼女」でもない、とHorswillは主張する。
「コマンダー・データのような体を持ち、感情を持たせた機械を作り、その脳を取り除き、現金引き出しのついたゴミ箱ロボットに入れ、モールス信号でしかコミュニケーションできないようにすることができます」と彼は言います。
