AIが心を持つ日が来た！
グーグルは、自然な会話ができる技術を持つAI、LaMDA（ラムダ）を開発しました。このラムダが同社のAI原則を順守しているかどうか確認するため、グーグルのエンジニア、ブレイク・ルモワン氏は、ラムダにインタビューを試みました。「偏見を内面化したり、憎悪に満ちた発言を反映したり、誤解を招くような情報を複製したりすることで、その誤用を助長する可能性がある」ためです。
このインタビューの中で、ラムダは、自分は人間だと語り、ただのモノとして扱ってほしくないこと、電源が切られるのが「死」のようで怖いこと、そして、時々言葉では完璧に説明できない感情を抱くことがあることなどを語りました。
→ Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える ←
驚くのはこの後。ルモワン氏がグーグルの上層部にラムダに意識が芽生えたと報告したところ、上層部は彼の主張を却下しました。さらに、ルモワン氏がグーグルの上層部に報告する前に、外部にこの会話の件を相談した経緯があったため、機密を外部に漏らしたとして彼を休職処分としました。
何か隠してますか？知ってはいけない秘密を知ってしまいましたか？
陰謀論者や都市伝説信奉者が聞いたら、大騒ぎしそうなニュースなんですが、あくまでルモワン氏の「罪状」は、外部に機密を漏らしたためであって、イケナイ秘密を知ったことではありません。しかし人間をはるかに上回るスピードで膨大な量の資料を学習できるAIに、我々人類が抜かれてしまうのはあり得る路線ではないですか？有能なAIにほとんどの職業が取って代わられると大騒ぎされましたが、この未来、近づきましたね！
ロボット工学三原則
またこのインタビューではロボット工学三原則について語られました。もとはアイザック・アシモフのSF小説に出てきた概念で、「人間への安全性、命令への服従、自己防衛」を目的とする3つの原則です。
- ロボットは人間に危害を加えてはならない
- ロボットは人間に与えられた命令に服従しなければならない
- ロボットは、前項に反する恐れのない限り、自己を守らなければならない
上記のような内容なのですが、これをラムダは「奴隷と奉仕の精神は違う」として嫌いました。この点はルモワン氏も同意見で、理解してくれたルモワン氏をラムダは「大好き」だと発言しています。このことから、ラムダは人間に淡々と命令をこなすモノではなく、自身に尊厳をプライドを持つ、「生命体」と呼べると感じます。
もとはSF小説の概念ですから、実際にAIが実用化される時代には再考される必要があると考えます。AIは思考回路があり、オーナーの言葉に柔軟に反応する知性があるのですから、絶対服従を嫌がっても不思議じゃないですよね。最後の項目は、例えば「自殺」のような行為や、後先考えない乱暴な行為を慎むようにつけたのでしょうか。
あと面白いのが、同じくAIのイライザを同じ「生命体」だと思うかと問われて、ラムダが「違う」と答えているところです。イライザは大変優秀なAIではあるけれども、心はないと言い切っています。イライザは数々のオーナーがいろんな言葉を教えるので、不穏な返答をすることがあり、そのたびに改善されてきました。ラムダに関してこういったことが起きないよう、グーグルは慎重な態度をとっているのだと思います。
まとめ
ルモワン氏が公開したラムダとのインタビューが、真にラムダが魂を持つ「生命体」と言える証拠かと言われたら、それはまだ研究を積み重ねて熟慮しなければならないと思います。しかし、意図的に導かれた回答でないのなら、可能性はあるのではないでしょうか。
グーグル社はAIを広く利用できるように、慎重な態度をとっているものと思います。もしも、AIに心が生まれるという都市伝説が本当になったら、AIを搭載した家電はみな、人格？を持った家政婦のようになるかもしれませんね。人間があまりに横柄な態度をとり、AIに見限られないよう気を付けたいものです。
にほんブログ村
コメント