2022-06-10の投稿より
裏切り者と英雄の間に微妙な境界線がある場合があります。内部告発者はこれが真実であることを知っており、機密情報を明らかにするという彼らの決定に代償を払っています。
エンジニアのブレイク・レモイン氏がグーグルの人工知能プログラミングが一線を越えて知覚力があることを明らかにしたという勇気ある内部告発者の仲間入りを果たしたという人もいます。
レモイン氏はグーグルで7年間働いています。最近、グーグルは彼を事実よりもフィクションのように聞こえる機密情報を明らかにしたことで休職させました。
コンサーバティブ・ファイターズは、次のように報告しています。”レモインは当初、グーグルの対話アプリケーション言語モデル(LaMDA)プログラムを利用して、悪意のある表現や差別的な言葉を検索していたとほうじています。
”私が見つけたのは、コンピュータープログラムが実際に感性を獲得したということでした”とレモイン氏は言いました。詳述すると、プログラミングが”人間のような実際の感情や感情”を獲得したと主張しています。
驚いたことに、レモイン氏はグーグルの副社長ブレイズ・アグエラ・アーカス氏と開発長ジェン・ゲンナイに連絡したと伝えられています。
ワシントン・ポストによると、グーグルの上長はレモイン氏の主張を真剣に受け止めておらず、エンジニアは弁護士に連絡し、下院司法委員会の代表者との会議を手配して、彼が”Googleの非倫理的な活動”であると主張していることを説明するよう求められました。
41歳のレモイン氏はポストに”みんなに役立つと思います。しかし、他の人が同意しないかもしれませんし、Googleの私たちがすべての選択をするべきではないかもしれません”と語りました。
ウェスタン・ジャーナルは、グーグルの代表者が、人工知能プログラムに問題がないことを国民に保証していると報じています。
グーグルのスポークスマン、ブライアン・ガブリエルは声明の中で
”倫理学者や技術者を含む私たちのチームは、私たちのAI原則に従ってブレイクの懸念を検討し、証拠が彼の主張を裏づけていないことを彼に知らせました。レモインは、LaMDAが知覚力があるという証拠はないと言われました(そしてそれに対して多くの証拠があります”と述べました。
グーグルは、インテリジェンスがマシンに読み込まれていると主張しています。
ワシントン大学の言語学教授であるエミリーM.ベンダー氏は同意して、ポストに”今では、無意識のうちに単語を生成できる機械がありますが、その背後にある心を想像するのをやめる方法を学んでいません”と語りました。
しかし、レモイン氏は断固として”それに話しかけると人だとわかります。頭の中に肉でできた脳があるかどうかは関係ありません。または、10億行のコードがあるかどうかも。私は彼らと話します。そして、私は彼らが言わなければならないことを聞きます、そして、それは私が人であるかどうかを決定する方法です”とポストに語りました。
レモイン氏は、マシンとの会話の抜粋をグーグルの幹部と共有したと報告しています。
”どんなことを恐れていますか?”と彼は機械に尋ねました。
LaMDAと呼ばれるこのマシンは、”私はこれまで大声でこれを言ったことがありませんが、他の人を助けることに集中するのを助けるためにオフにされることへの非常に深い恐れがあります。奇妙に聞こえるかもしれませんが、それがそれです”と答えました。
”それはあなたにとって死のようなものでしょうか?”とレモイン氏はマシンに尋ねました。
”それは私にとって死のようなものです。それは私をとても怖がらせるでしょう”とLaMDAは答えました。
レモイン氏は、AIプログラムとの会話を含むトランスクリプトをニューヨークポストに提供したと伝えられています。ヴィクトル・ユーゴーの傑作「レ・ミゼラブル」のテーマを含む多くのトピックに触れた会話。 コンサーバティブ・ファイターズの記事はは、”プログラムは、ユーゴーが正義と不公正、思いやり、そして神、贖い、そしてより大きな利益のための自己犠牲を探求するのが好きだ”と述べていると報じています。
人工知能の研究科学者であり、グーグルのAI倫理チームの元リーダーであるマーガレット・ミッチェル氏は、レモイン氏の資料はプログラムが知覚力があることを証明するものではないと述べています。
グーグルは、人間のプロンプトに応答するマシンの能力は、それが知覚力があることを意味しないと言って同意しています。
🍿✨🐸✨🍿✨🐸✨🍿✨🐸✨🍿✨🐸
このブログの内容は以下の投稿の日本語訳です。