第96回コラム
良いロボットになるための良い教師のデザインとは
創造技術専攻 橋本 洋志 教授
ロボット工学は，世界の中で我が国の秀でた技術の一つである。ロボットを作るということは，電気電子機械系やITの設計，容姿のデザインなど様々な分野のインテグレーション技術に基づいている。これ以外にも，次で述べることが必要である。
ロボットの大きな特徴は，動き回ることができ，モノを掴み運搬できること，さらに動作・行動によるノンバーバルコミュニケーションにあると言える。この特徴を活かして，産業のみならず，福祉介護，サービスなどの広い分野での利用が研究開発されている。
ここで，良いロボットとは何か？という問いかけを考えてみよう。この問いかけには，様々な視点からの考え方があるので，ここでは，良い判断に基づく「良い振舞い」とは何かを考えてみる。最近，AI（Artificial Intelligence）が良いツールであると数多く立証されている。そのため，ロボットに良い振舞いを行わせるのにAIの導入が不可欠だという論を聞くことがある。
AIは，良い教師（または，良い学習データ）のもとで良い判断を示すことができるように学習することを目的としている。もし，悪意のある教師（または，悪意に基づき作られた学習データ）のもとで学習を行えば，悪意のあるAIが生み出されることは必然であろう。このことは，人間の成長においても同様のことが言え，人間もAIも良き教師に巡り合えることが，その後の人生（AIはAIライフと言うべきか？）を左右すると言える。
ところが，この良い教師とは何か？という議論を見かけることが一般にほとんど無く，AIイコール良い判断を示す，という思い込みの論調が多いことに若干の危惧を感じる。特に，マスコミで見かけるAIは成功事例ばかりで失敗事例は報道されていない。研究の現場では失敗事例が多数あり，この要因の一つに，研究が学習アルゴリズム開発中心でなされており，良い教師とは何か？という学問的問いかけが少ないのではと考えている。
良い教師の在り方を深く考察し，このデザイン論を見出すという「良い教師のデザイン」を考究する学問領域を切り開くことが大事というのは論をまたないであろう。では，良い教師のデザインをどのように考えたらよいか？ 考える領域や利用用途により，様々に異なる基準やアプローチがあるので，ここでは，「共生」と「ロボット三原則」の観点から，少し考えてみたい。
ここでの「共生」とは，人間とロボットとの関係を示しており，共生が成立する条件の一つに，長期間（半年，1年，数年というスパン）に渡り，お互いの関係性を維持しながら人間の生活の質を維持または向上を図ることを意味する。したがって，ロボットが日本流のカワイイ“だけ”では，ものの数分で飽きられることがあり，共生が成り立たない。また，常に高品質のサービス提供“だけ”では，便利な機械という認識しか人間は持たず，他の便利なものに目が行きがちで（流行を追う心理が働くため），これも共生とは呼べない。
動物の中で最古から人間のペットとして存在する犬は，人間との共生を立証している。その動き，振舞い，および表情には，喜び，怒り，鳴く，すねる，怖がる，寄り添う，まつわりつく，共感を示す，など犬の様々な振舞いが織り入り混じり，さらに人間の心理や行動に反応して変化する。これが共生とは何かを考えるヒントとなるであろう。この共生の振舞いの中には，ネガティブな振舞いも含む。共生の実現が良い振舞いとするならば，ネガティブな要因を含む振舞いをも考慮して，良い教師のデザインを考えることが重要であろう。
次に，「ロボット三原則」（Isaac Asimovの書籍I, Robot，1950に現れる）の視点から考えてみる。ロボット三原則は，実はフレーム問題（Frame Problem）を引き起こし，この三原則をロボットに適用し難い部分があることが知られているが，改めてこの原則を取り上げる。本原則を簡単に述べると「ロボットは人間への危害を行わない，命令を服従する，これらの条件下で自己を守る」ことである。この原則を次の二つの例から考えてみる。
ターミネーター2（米，1984年上映）という映画では，主人公のロボットが自己破壊するというエンディングであった。これは，人類の未来を考えると，自分自身が危険因子になる可能性があるという判断からであったが，この自己破壊は先の三原則からは反した行為となる。
次に，盲動犬が備えるべき資質の一つに「賢い不服従」がある。これは，盲導犬ユーザーが「あっちに行きたい」と指示を出しても，あっちに危険（穴が開いている，車が向かっているなど）が存在すると盲導犬が判断すればユーザーの指示に従わないことをいう。これも先の三原則に反していることになる。すなわち，ロボット介護犬を設計開発するときには，時として指示に従わないということが良い振舞いとして，このことを予め取り入れることとなる。ここで，筆者は，このロボット三原則が誤りとは言っていない。これをそのまま貫くのか，それとも修正が必要なのか，それは適用人々が考えることとしての問題提起を行ったまでである。
共生やロボット三原則に対する事例を経ることで，良いロボットの振舞いとは何かを考え，それを実現するために必要な教師のデザインをどう考えるか，本記事はヒントを与えたに過ぎない。良い振舞いが複雑で一筋縄ではないわけだから，これを学習させるための「良い教師のデザイン」はもっと複雑なものであろう。しかし，我が国でこそ切り開くべき研究領域と考える。今のところ問題提起だけで，具体的方法論はまだ見出されておらず，読者と共に筆者も一緒に考えてゆきたい。