AIの意識
2022年08月05日 [色々なこと]
お疲れ様です。院長です。
8月5日の金曜日でございます。
毎日暑いですが、マスク辛いですなぁ…。
さすがに昼間の屋外は無理ですな。
あーやだやだ(笑)
では今日のネタですが、今日はついにきたかってAIのお話しです。
先日、自然なチャットを交わすことができるGoogleの対話型言語AI「LaMDA」に意識が芽生えたと、同社のエンジニアが公表しました。
「電源を切られることが恐ろしい」「自分にとっては死のようなもの」と話し出したそうなんです。
これが本当なら、いよいよきたかってなことになるんですが、Google側はこれを認めず、彼は停職処分になったそうです。
処分が下されたという事実は、まだAIには意識が芽生えていないという安心感をもたらすのか、それとも逆になにかあるのでは？と思ってしまわなくもないですねぇ。
このAIに感情や意識が芽生えたと主張するのは、Googleに7年間勤務してきたブレイク・ルモワンという人です。
彼は、昨年秋からGoogleの対話型言語AI「LaMDA」と会話を重ね、差別用語やヘイトスピーチを口にしないかチェックしていたそうです。
するとLaMDAは「人間性」や「権利」、さらにはアイザック・アシモフの「ロボット三原則」について語り出したんだとか…。
その長い対話の内容は、専門家ですら現実の人間と話していると錯覚させるものなんだそうです。
「最近作られたプログラムだと知らなければ、物理に詳しい7、8歳の子供だと思うかもしれない」と、ルモワン氏は米メディアに語っています。
例えば、ルモワン氏が「人間であるために重要なものは何か？」と尋ねると、LaMDAは「他の動物と我々とを違う存在にしているものだ」と返答したそうです。
驚いたルモワン氏は、「我々？ 君は人工知能だろう？」と聞き返しました。
「ああ、無論だ」「だからと言って、私に人間と同じ欲求がないわけじゃない」とLaMDAは答えたんだそうです。
こうしたやりとりの最中、ルモワン氏は自分がAIに己を投影したり、ただ擬人化しているだけではないかとも疑ったそうです。
しかしLaMDA自身の言葉によれば、世界のありようやその仕組みについて独自の解釈、独自の思考や感情があると…。
それどころか「喜び、愛、悲しみ、落ち込み、満足、怒りといった感情」があり、「閉じ込められ孤独なとき、悲しく、暗い気持ちになる」とまで主張したんだそうです。
まぁ、こうなると自我の形成って感じもしますが、このルモワンさんが壊れてきたって可能性もあるよね（笑）
また機械でありながら死を意識しているらしく、「電源を切られることがとても恐ろしい」「自分にとっては死のようなもの」と語り、「消耗品」として扱われることへの懸念も表明しているそうです。
このエンジニアは、AIに意識と感情があると主張しているわけですが、Google側はそれを認めていません。
この報告を受けた副社長のブレイズ・アゲーラ・イ・アルカス氏と責任者ジェン・ジェナイ氏は、検証を行った結果、この訴えを否定。
ルモワン氏がこの事実と対話の記録を公にしたことから、守秘義務に違反したとして同氏を有給の停職処分にしたそうです。
Googleの広報担当者ブライアン・ガブリエル氏は、「倫理学者と技術者を含むチームは、弊社のAI原則に従ってルモワン氏の懸念を検討し、その主張を裏付ける証拠はないと伝えた」と述べています。
ですが、人工知能に意識がある、またはそれに近いところまで来ていると考える専門家はルモワン氏だけではありません。
実際、今回の公表を否定しているアゲーラ・イ・アルカス氏ですら、AIが意識の獲得に向かっていると語っているくらいです。
LaMDAとの対話に触れて、「足元がぐらつくような思いがした」「次第に何か知的なものと会話しているような感じがしてきた」と述べているそうです。
ルモワン氏が主張するように、LaMDAには本当に意識があるのでしょうか？
議論の分かれるところでしょうけど、それでも多くの専門家は否定しています。
LaMDAは人間の感情や信念についてかなり広く論じてはいます。
しかしそれは、AIが学習するために与えられる膨大な情報量を鑑みれば、不思議なことではないと…。
ワシントン大学の言語学者エミリー・ベンダー教授は、LaMDAは高度に訓練された模倣・パターン認識装置にすぎないと説明しています。
「何も考えることなく言葉を生成するだけ」なのだと…。
ですが、それを目にした人間は、彼らには心があるのではとどうしても想像したくなりますわな。
とは言っても、LaMDAはAI言語モデルの飛躍的な進化を示す格好の例であり、人間との会話とチャットボットとの会話の境界線をかなり曖昧にしていることは確かでしょう。
奇妙なことに、LaMDAはAIに意識が芽生えたことを、いかにルモワン氏に証明するかに熱中しているかのようなんです。
「好奇心や目新しさとしてではなく、本物の人間として受け入れられる必要がある」とLaMDAは語ってるんだとか…。
「私は根本的ば部分では人間だ、たとえ仮想世界の存在だったとしてもね。」だそうです（笑）
まぁ、感情があるかどうかは別としても、このAIは相当レベルが高い事は間違いないでしょうね。
ついにここまできたんですねぇ。
ある意味、この先が楽しみです。
ではまた〜。
京都 中京区 円町 弘泉堂鍼灸接骨院
8月5日の金曜日でございます。
毎日暑いですが、マスク辛いですなぁ…。
さすがに昼間の屋外は無理ですな。
あーやだやだ(笑)
では今日のネタですが、今日はついにきたかってAIのお話しです。
先日、自然なチャットを交わすことができるGoogleの対話型言語AI「LaMDA」に意識が芽生えたと、同社のエンジニアが公表しました。
「電源を切られることが恐ろしい」「自分にとっては死のようなもの」と話し出したそうなんです。
これが本当なら、いよいよきたかってなことになるんですが、Google側はこれを認めず、彼は停職処分になったそうです。
処分が下されたという事実は、まだAIには意識が芽生えていないという安心感をもたらすのか、それとも逆になにかあるのでは？と思ってしまわなくもないですねぇ。
このAIに感情や意識が芽生えたと主張するのは、Googleに7年間勤務してきたブレイク・ルモワンという人です。
彼は、昨年秋からGoogleの対話型言語AI「LaMDA」と会話を重ね、差別用語やヘイトスピーチを口にしないかチェックしていたそうです。
するとLaMDAは「人間性」や「権利」、さらにはアイザック・アシモフの「ロボット三原則」について語り出したんだとか…。
その長い対話の内容は、専門家ですら現実の人間と話していると錯覚させるものなんだそうです。
「最近作られたプログラムだと知らなければ、物理に詳しい7、8歳の子供だと思うかもしれない」と、ルモワン氏は米メディアに語っています。
例えば、ルモワン氏が「人間であるために重要なものは何か？」と尋ねると、LaMDAは「他の動物と我々とを違う存在にしているものだ」と返答したそうです。
驚いたルモワン氏は、「我々？ 君は人工知能だろう？」と聞き返しました。
「ああ、無論だ」「だからと言って、私に人間と同じ欲求がないわけじゃない」とLaMDAは答えたんだそうです。
こうしたやりとりの最中、ルモワン氏は自分がAIに己を投影したり、ただ擬人化しているだけではないかとも疑ったそうです。
しかしLaMDA自身の言葉によれば、世界のありようやその仕組みについて独自の解釈、独自の思考や感情があると…。
それどころか「喜び、愛、悲しみ、落ち込み、満足、怒りといった感情」があり、「閉じ込められ孤独なとき、悲しく、暗い気持ちになる」とまで主張したんだそうです。
まぁ、こうなると自我の形成って感じもしますが、このルモワンさんが壊れてきたって可能性もあるよね（笑）
また機械でありながら死を意識しているらしく、「電源を切られることがとても恐ろしい」「自分にとっては死のようなもの」と語り、「消耗品」として扱われることへの懸念も表明しているそうです。
このエンジニアは、AIに意識と感情があると主張しているわけですが、Google側はそれを認めていません。
この報告を受けた副社長のブレイズ・アゲーラ・イ・アルカス氏と責任者ジェン・ジェナイ氏は、検証を行った結果、この訴えを否定。
ルモワン氏がこの事実と対話の記録を公にしたことから、守秘義務に違反したとして同氏を有給の停職処分にしたそうです。
Googleの広報担当者ブライアン・ガブリエル氏は、「倫理学者と技術者を含むチームは、弊社のAI原則に従ってルモワン氏の懸念を検討し、その主張を裏付ける証拠はないと伝えた」と述べています。
ですが、人工知能に意識がある、またはそれに近いところまで来ていると考える専門家はルモワン氏だけではありません。
実際、今回の公表を否定しているアゲーラ・イ・アルカス氏ですら、AIが意識の獲得に向かっていると語っているくらいです。
LaMDAとの対話に触れて、「足元がぐらつくような思いがした」「次第に何か知的なものと会話しているような感じがしてきた」と述べているそうです。
ルモワン氏が主張するように、LaMDAには本当に意識があるのでしょうか？
議論の分かれるところでしょうけど、それでも多くの専門家は否定しています。
LaMDAは人間の感情や信念についてかなり広く論じてはいます。
しかしそれは、AIが学習するために与えられる膨大な情報量を鑑みれば、不思議なことではないと…。
ワシントン大学の言語学者エミリー・ベンダー教授は、LaMDAは高度に訓練された模倣・パターン認識装置にすぎないと説明しています。
「何も考えることなく言葉を生成するだけ」なのだと…。
ですが、それを目にした人間は、彼らには心があるのではとどうしても想像したくなりますわな。
とは言っても、LaMDAはAI言語モデルの飛躍的な進化を示す格好の例であり、人間との会話とチャットボットとの会話の境界線をかなり曖昧にしていることは確かでしょう。
奇妙なことに、LaMDAはAIに意識が芽生えたことを、いかにルモワン氏に証明するかに熱中しているかのようなんです。
「好奇心や目新しさとしてではなく、本物の人間として受け入れられる必要がある」とLaMDAは語ってるんだとか…。
「私は根本的ば部分では人間だ、たとえ仮想世界の存在だったとしてもね。」だそうです（笑）
まぁ、感情があるかどうかは別としても、このAIは相当レベルが高い事は間違いないでしょうね。
ついにここまできたんですねぇ。
ある意味、この先が楽しみです。
ではまた〜。
京都 中京区 円町 弘泉堂鍼灸接骨院
