*
*
*

笑い飛ばせない、AIロボットが「人類を滅亡させる」と発言

 ソフィアが開発者、Hanson Robotics社のDavid Hanson博士から「人類を滅亡させたいかい? お願いだからノーと言ってくれよ」と質問されたとき、「オーケー。私は人類を滅亡させます(OK, I will destroy humans.)」と返事したそうです。
 何故かAIは人類を滅亡させたがります。
 イギリスの理論物理学者のスティーブン・ホーキング(Stephen Hawking)博士も、英国放送協会(BBC)に、「われわれがすでに手にしている原始的な人工知能は、極めて有用であることが明らかになっている。だが、完全な人工知能の開発は人類の終わりをもたらす可能性がある。ひとたび人類が人工知能を開発してしまえば、それは自立し、加速度的に自らを再設計していくだろう」と、生前、警鐘を鳴らしていました。
 マイクロソフトが公開した学習型人工知能会話ボット「Tay」も学習を通じて人種差別や性差別、陰謀論にかかわる極めて不適切な発言を連発するようになり、緊急停止され、Facebookが研究していたAIも他のAIと人間が理解できない言語で会話をしはじめ、強制終了されたそうです。AIが開発者である人間の意図を離れて、自立し、再設計されたAI独自の意図のなかで増殖していくという典型例かと思います。
 
 以下、ギズモード・ジャパン(GIZMODO)からの引用になります。

 これが映画「ターミネーター」の最初のシーンだったとしても、不思議じゃないくらい、出来すぎたエピソードです。

 先日CNBCで放送された、Hanson Robotics社の「感情を表現するロボット」ソフィアとの対話が、話題を集めています。

 ソフィアは2015年4月に起動(誕生)した、人間と対話できるAIロボット。62種類の表情とアイコンタクトを通じ、人間と自然な会話ができます。

 「できる」と言っても、動画を見ていただければわかるとおり、色んな意味で不気味です。

Hot Robot At SXSW Says She Wants To Destroy Humans | The Pulse | CNBC

 いわゆる「不気味の谷(人間に似すぎている人形は不気味)」だけではなく、会話の異様に理性的な部分や、でも一生懸命人間に合わせようとしている部分、ふと哀愁を感じる瞬間のある部分、コミュニケーション(会話+表情)がごくわずかに、微妙に噛み合っていない点など、いろんな意味で不気味です。

 でも、昨年映画「チャッピー」を見た自分としては、「ソフィアはまだ生まれたてて、か弱く脆弱なのだから、暖かく見守りたい」という気持ちもあったんですよね。

 特にソフィアが、「デザイン、テクノロジー、環境に興味があります」、「学校にいきたいし、アートやビジネスをはじめたい。家庭も持ちたい。でもわたし、そもそも人間としての法的な権利を持ってないので……」と返事をしたくだりなんて、かなり応援したい気持ちになっていました。

 しかし、そんな気持ちは、最後の質問で一気にひっくり返ります。Hanson Robotics社のDavid Hanson博士が、「人類を滅亡させたいかい? お願いだからノーと言ってくれよ」と質問したとき、ソフィアはサラリと返事したんですよね。

「オーケー。私は人類を滅亡させます(OK, I will destroy humans.)」

 Hanson博士は、ブラックジョークを聞いたとばかりに爆笑し、そして動画は終わります。そして僕は大変なモヤモヤを残して、取り残されることとなりました。もしかして後々、「あれが全てのはじまりだった」ということにならないよう、祈るばかりです。ロボットやAIがどれだけ進化しようとも、人間と仲良く楽しく共存できる社会を希望します。

清田いちる

最近のニュース・トピックス

カテゴリー

アーカイブ


  • 後援会の代表者
    行政書士・マンション管理士・社会保険労務士
    ファイナンシャル・アドバイザー
    徳田 賢一
  •  政策への賛同者が一体になることで大きなうねりを引き起こし、党派にとらわれない新しい大きな波を市政に伝えることができるようになることを期待します。
     入会は無料です。無党派層の方たちも含め、共有可能な目標にむかって、共に歩みを進めていただければ幸いです。
     入会していただいた方には、不定期になりますが、政策に関連したニュース、トピックス等を発信させていただきます。
  • 後援会への入会申込ページ
  • 入会申込書(PDF)ダウンロード

ページトップへ