■AIで人類絶滅の恐れ:オープンAI(chatGPT)従業員達の告発 | タマちゃんの暇つぶし

タマちゃんの暇つぶし

直ぐに消されるので、メインはこちらです→ http://1tamachan.blog31.fc2.com/ 

AIで人類絶滅の恐れ:オープンAI(chatGPT)従業員達の告発<newsNueq-4587-F>2024/June/14 11:37より転載します。
 
貼り付け開始、
   
 JBPress
「 人類絶滅の恐れ 」、オープンAI現・元従業員が警鐘
 AIの「 深刻なリスク 」と「 監視の欠如 」を問題視

 ---------------------------------------------------------
 https://jbpress.ismedia.jp/articles/-/81488#google_vignette
 2024.6.12(水)

 < 例によって全文魚拓 >

 
 米マイクロソフトが出資する米オープンAIや
 米グーグル傘下の Google DeepMind といったAI企業の
 現職および元従業員が、AIがもたらすリスクについての
 懸念を表明する書簡を公開した。
 人類の絶滅につながる恐れがあると警鐘を鳴らしている。


 ■「 先進的なAIについて警告する権利 」

 書簡のタイトルは
 「 A Right to Warn about Advanced Artificial Intelligence
  ( 先進AIについて警告する権利 )」。

 AI企業の現・元従業員グループは、
 「 秘密保持契約、内部告発者保護の欠如、報復の恐れのために、
  AIが人類に及ぼす脅威について懸念を表明できない 」
 と現状を説明した。

 従業員が社内および公の場で安全に発言できる
 通報ルートを設けるべきだと主張している。

 米ウォール・ストリート・ジャーナルによれば、
 オープンAI元従業員のウィリアム・サンダース氏は、
 「 我々は最先端AIシステムの仕組みと
  その導入に伴うリスクについて多くの知識を持つが、
  それを自由に話すことができない 」
 と強調した。

 サンダース氏のほか、オープンAIの元従業員6人が公開書簡に署名した。
 このほか、オープンAIの現従業員4人、
 Google DeepMind の元従業員1人と現従業員1人も署名した。
 署名者のうち6人は匿名だった。


 ■「 AIのゴッドファーザー 」が賛同署名

 書簡には、3人の著名なAI専門家が賛同署名した。
 3人とは、AI科学者のスチュアート・ラッセル氏とヨシュア・ベンジオ氏、
 および初期の画期的なAI研究で知られる、
 いわゆる「 AIのゴッドファーザー 」と呼ばれるジェフリー・ヒントン氏である。
 ヒントン氏は2023年5月、AI技術のリスクについて
 より自由に議論したいとして、グーグルを退職した。

 ヒントン氏は、コンピューター上で人間の脳の神経回路を数学的に模倣する
 「 ニューラルネットワーク 」の研究を主導した人物。

 ※ ヒトの脳細胞の階層構造断面を
   < newsNueq-4214:AI深層学習の父
          :ジェフリー・ヒントンなぜ ChatGPTを恐れるか? > 2023/05/08
   で、示した。
   AIの「 ニューラルネットワーク 」は、このヒトの脳神経細胞の
   階層構造とその作用をそのまま模倣した。

 1972年、英エディンバラ大学の大学院生だった同氏は
 このアイデアを支持して研究を進めた。
 1980年代、同氏は米カーネギーメロン大学の
 コンピュータサイエンスの教授だったが、
 その後カナダに移り、トロント大学で教鞭をとった。
 近年はグーグルで研究部門の副社長とエンジニアリングフェローを務めていた。

 ヒントン氏によれば、AIはしばしば、
 膨大なデータの中から予期しない振る舞いを学んでしまう。

 ※ こういう人物はみなさんの周りにも時々いるのでは?
   僕の場合は時々ではなく、
   かなり頻繁にこの手の振る舞いに悩まされている。(^o^)ゞ
   それは「 価値観の問題 」とかと言う問題ではなく、
   シナプス回路のショートや、断線 或いは 未接続に
   よって引き起こされている。
   シナプス接合は多い方が良いに決まっている。
   まさに、インターネット( 電脳空間 )だ。

 このことは、個人や企業がコンピューターコードを
 生成させるだけならば問題ない。
 しかしそのコードを実際に実行することを許可した場合は問題だと危惧している。
 完全自律型兵器(キラーロボット)の大規模実践配備が
 現実のものになると懸念を示している。

 AI専門家らはこの数年、
 AIが人類に危害を加える可能性について警鐘を鳴らしてきた。
 研究者の中には、この技術が制御不能になり、
 パンデミックや核戦争と同じくらい危険になる可能性があると考える人もいる。
 WSJによれば、より穏健に懸念を表明する研究者もいるが、
 それでも「 AIはより厳しく規制されるべきだ 」との考えを示している。


 ■ オープンAI「 政府、市民社会、コミュニティーと連携する」

 一方、オープンAIは声明で
 「 私たちは、最も能力が高く安全なAIシステムを
  提供してきた実績を誇りに思っており、
  リスクへの対処には科学的なアプローチが必要だと考えている 」
 と述べた。
 「 この技術の重要性を考えると、厳格な議論が不可欠であり、
  今後も世界の政府、市民社会、コミュニティーと連携していくつもりだ 」(同社)

 現・元従業員らのグループは今回の書簡で、
 「 AI企業に対して責任を追及できる立場にある人がおらず、
  強いて言うならそれは私たちかもしれない 」
 と説明。
 政府がAI企業の広範にわたる行動を監視・監督していないという現状があるとした。
 加えて、懸念事項として
 「 人間が自律型AIシステムの制御を失い、
  それが人類の絶滅につながる恐れがある 」
 と主張した。

 従業員グループは具体的に、
 1)従業員が匿名で懸念を通報できるようにすること、
 2)内部告発者に対する報復を行わないこと、
 3)従業員の発言を抑圧するような合意書に署名させないこと、
 を求めている。


 JBpress
 AIに「 核戦争と同じ滅亡リスク 」、テック幹部ら警鐘
 ~ オープンAIやグーグルの幹部ら350人超が共同声明

 -----------------------------------------------------------
 https://jbpress.ismedia.jp/articles/-/75425
 2023.6.2(金)

 人工知能(AI)の安全性を検証する
 米国の非営利団体「 センター・フォー・AIセーフティー( CATS )」が、
 AIには人類を滅亡させるリスクがあるとし、警鐘を鳴らした。


 ■「 人類絶滅リスクの軽減は世界の優先事項 」

 5月30日付で発表した声明には、
 AI研究の第一人者として知られるジェフリー・ヒントン氏や、
 対話AI「 Chat(チャット)GPT 」を開発した
 米オープンAIのサム・アルトマンCEOなど、350人以上が共同で署名した。

 ※ アルトマンが署名。となると、この350名の内訳が怪しくなってくる。
   アルトマンはガス抜きのために署名してるに過ぎない。

 「 AIによる(人類)絶滅のリスクを軽減することは、
  パンデミックや核戦争などの社会的なリスクと同様に、
  世界の優先事項であるべきです 」

 上述したように、声明はわずか1行の簡潔なものだった。
 だが、それには理由があるという。

 CAISによれば、AIの専門家やジャーナリスト、政策立案者、
 そして一般の人々は、AIによってもたらされる
 重要かつ緊急的なリスクについて議論するようになってきた。
 だが、重大なリスクがあるにもかかわらず、
 懸念を表明することが困難な場合があるという。
 今回の簡潔な声明文は、この障壁を克服し、
 議論を開始することを目的としているという。

 ※ アルトマンらが加わることで、具体的な内容の声明にまで
   至ることが出来ず「 政治的おためごかし 」の声明文となったという次第。

 また、このリスクを深刻に受け止めている
 専門家や公人が増えていることを社会に周知させる目的もあるという。

 共同署名には、米マイクロソフトのケビン・スコットCTOや、
 米アルファベット傘下のAI開発部門、
 グーグル・ディープマインドのデミス・ハサビスCEO、
 米AI新興企業、アンソロピック( Anthropic )のダリオ・アモデイCEOなども
 名を連ねた。

 ※ ほ~~~らね!
   コイツラは、人類抹殺の「 アンブレラ社( バイオハザード )」の
   現場実行部隊。
   なので、「 AIによる人類絶滅の【 危惧 】」などはありえない。
   因みにアンブレラ社には、
   ・ ソンビ液による人類ゾンビ化
   ・ 完全AI( AGI )「 アリス 」による世界完全支配
   ・ バイオ・クローン技術による主人公「 アリス 」の製造
   と、「 完璧 」なる3点セットとなっている。
   今だにこの映画を観たことのない者はすぐに見るべし!
   今にしてこの映画シリーズを見れば、
   2020年以降、いきなり立ち上がってきた上記3問題が
   2002年( 911の翌年封切り )の『 バイオハザード 』で
  「 予告 」されていたことがよく理解できることだろう。
   いつも言ってるように、SF小説やハリウッド映画は、
   おとぎ話などではなく「 予告・宣言 」なのである。

   下記に予告編を紹介しますので、
   契約映画チャンネルで是非どうぞ!
   契約チャンネルない方は、蔦屋でDVDを郵送してくれます。

    60秒で『バイオハザード』全シリーズ振り返り

    https://youtu.be/JzeWQ2GhQLA
    1'13"

    バイオハザード 1st 2002.08
    Resident Evil (2002) Official Trailer 1
    ※「 バイオハザード 」は日本向け命名
     「 Resident Evil 」より気が利いてるかと思うが。。。

    https://youtu.be/kEutwdia8n0
    1'54"
    ※ 日本語字幕表示可能

    バイオハザードII アポカリプス 2004.09

    https://youtu.be/KSk0m44OXJQ
    2'30"
    ※ 日本語字幕表示可能

    バイオハザード 3  2007.11

    https://youtu.be/2rJ2p5hpUhs
    2'32"

    バイオハザード IV アフターライフ 2010.09

    https://youtu.be/25ZdiI6wQ1U
    1'53"

    バイオハザード V リトリビューション 2012.09

    https://youtu.be/1_JMqD6uMQE
    2'22"

    バイオハザード:ザ・ファイナル 2016.12

    https://youtu.be/fsUmSwhLfjM
    2'39"


 ウェブサイトでは現在、科学者や著名人( 教授や経営者など )からの署名を募っている。

 < ここから先は有料 >



今、人類は、上記アンブレラ社の3つにあるように、

 1)レプリコン( 自己増殖拡散型 )ゾンビ液
   = 生物兵器、脳神経回路の乗っ取りも可能

 2)AGI( Artificial General Intelligence )
   = シンギュラリティ:AIが人類の知性を凌駕する日

 3)DNA編集・脳回路操作による人類改造・クローン創出
   = 殺人マシーン兵士や、レプリカント( 映画『 ブレードランナー 』)の登場

 +)ロボットの進化
   = 映画『 ターミネイター 』『 MATRIX 』の世界の一歩手前に今いる

の危機に直面している。

この3つの危機に比べれば、ウロウロ戦争だの、ガザ・ホロコーストだの、
台湾戦争だの、ドル崩壊だの、ミジンコレベルの前世紀的問題に過ぎない。
自分の財産がど~~~~だの、国家がど~~~~だのといってレベルではなく、
地球人類の存亡に関わるのがこの 3点+ である。

いつも書いてるように、【 連中 】の最先端技術は、
我々が驚いてる最先端技術を30年前に完成させている。

これが何を意味するかお解りだろうか?

 答えはひとつ。


   タコ野郎ドモを広場に引きずり出せーーーーーッ!!!!!!


これが、最も簡単・確実な解決方法である。




これは、前回の < newsNueq-4586:生成AIの危険性 > に組込む予定だったが
うっかりしていたので、ここに貼り付けておきます。


 宮崎正弘の国際情勢解題 
 4月8日(月曜日)通巻第8205号 
 ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
 AI( 人工知能 )と不可知の唯識「 阿頼耶識 」
 たといAC(人工意識)がうまれようとも。。。。。。。

 *****************************

 AI(人工知能)革命と言われるが、そのダークサイドが深刻な問題となった。

 AIの進化スピートがあまりにも迅速なため
 人類社会の構成要素である政治と経済のシステムが追いつけず、
 意識が置いてきぼりになっている。

 歴史を眺めると失業を代替する新産業が生まれることになっているが、
 すぐに適用できる人が少ない。
 中高年層は長く携わってきた職業を喪うと
 次の方向へ転換できる適応力不足のため困難に直面する。
 スマホで新幹線に乗る若者がいる一方で、
 銀行ATMを使いこなせない老人がいるように。

 AIは生産性を今後十年で30%ほど押し上げると予想され、
 90年代の「 IT革命 」より迅速になる。
 あまつさえ生成AI、チャットGPTが登場し、
 AI規制論が西側の合意となった。
 「 AIが人間の智恵を凌ぐ転換点 」がシンギュラリティだが、
 レイ・カーツワイル( 米国の発明家 )が言い出した。

 『 AIのゴッドファーザー 』ことジェフリー・ヒントン教授がこの学説を追認した。
 それが2045年と想定されてきたが、もっと早まる可能性がある。

 しかもAIがGDPの殆どを稼ぎ出すようになれば人間存在は小さくなる。
 AI搭載のロボットが人間を支配するという暗黒の未来図が描かれている。
 それはAIが意識をもつときであり、
 最近は「 人工知能 」ではなく「 人工意識 」が誕生するというのだ。

 グーグルの開発研究者だったブレイク・レモインは
 「 生成AIはすでに意識を宿した 」と唱えた。

 したがって兵器に転用されると「 原爆を上まわる 」と
 前掲ヒントンが懸念を率直に述べる。
 『 人工意識 』が善意の持ち主ならまだしも
 悪意を先に宿すとなると怖ろしいことになる。

 しかしロボット工学専門の石黒浩・大阪大学大学院教授は
 「 人間は新しい技術が出てくると
  「 仕事を奪われる 」と心配しながらちゃんと受容し駆使してきた。
  より高度な技術を使うためには人類全体が賢くならなければならない。
  将来、社会で受け入れられ
  『 人間 』として認識されるロボットは社会に役立つ 」
 と楽観的である。

 ※ つまり、憲法9条・日米安n保ntan「 頭 」って~~~わけだ。


 すでに人工意識に挑んでいる日本のベンチャー企業がある。
 「 アラヤ 」社は神経科学と情報理論の融合により、
 脳に意識が生まれる原理、AIに意識を実装する研究と
 産業界にAIと脳科学の実用化に取りくむ企業だ。
 その企業名のアラヤと聞いて筆者は咄嗟に「 阿頼耶識 」に由来するなと直観した。
 仏教がいう第六識は霊感、インスピレーション、
 第七識が未那識、そして不可知とされるのが阿頼耶識である。
 AIがやがて人間の頭脳を代替する時代にいかに備えておくべきか?

 ( 北國新聞コラム「 北風抄 」、4月4日付けから再録 )



関連情報

  < newsNueq-4586:生成AIの危険性 > 2024/06/11
  < newsNueq-4214:AI深層学習の父:ジェフリー・ヒントン
          なぜ ChatGPTを恐れるか? > 2023/05/08
  < newsNueq-4496:AIは「 超人 」を誕生させる。
          が人類はその危険性に気付き規制する。by プーチン > 2024/02/13

  < newsNueq-4458-:生命進化とAIオカルティズム > 2024/01/05
  < newsNueq-2900:バチカンがサグラダファミリアに取って代わられる日
          ( 起源 オリジン ) > 2020/09/20


  < newsNueq-4320-F:Google の検閲が超~ヒドい状態に! > 2023/08/15
  < newsNueq-4288-F:ChatGPTのデータはなぜ2019年までか? > 2023/07/11
  < newsNueq-4301*C:「 真実管理 」省 > 2023/07/21

  < newsNueq-948 :ダボスの主題は「 AI専制政治 」だった > 2018/02/28
  < newsNueq-3033:バイオテクノ封建制( グレートリセット )
          by ダボス会議主催者 > 2021/01/04


                         nueq
貼り付け終わり、nueq さん解説。