技術的特異点 （ぎじゅつてきとくいてん、英語 : technological singularity 〈テクノロジカル・シンギュラリティ〉）またはシンギュラリティ (singularity ) とは、科学技術 が急速に「進化 」・変化することで人間 の生活 も決定的に変化する「未来 」を指す言葉[ 注 1] 発明家 にして思想家 のレイ・カーツワイル によれば特異点とは、技術 的「成長 」が指数関数 的に続く中で人工知能 が「人間の知能 を大幅に凌駕する」時点であり、すなわち「哲学 的、宗教 的伝統 」における「神の概念 」への「進化」であり、これを推進することは「本質 的にスピリチュアルな事業 」だと言う。その意味で、「意識 」とは「真実 」とされる。特異点では「われわれが超越 性（トランセンデンス）──人々がスピリチュアリティ と呼ぶものの主要な意味──に遭遇する」のであり、「特異点に到達すれば、われわれの生物 的な身体と脳が抱える限界を超えること が可能になり、運命を超えた力 を手にすることになる」ともカーツワイルは述べている[ 注 2]
技術的特異点は、汎用人工知能 （AGI, artificial general intelligence ）[ 10] 強い人工知能 」、人間の知能増幅 などが可能となったときに起こると言われる出来事である。自律的に作動する優れた機械的知性が一度でも創造されると、機械的知性が自らバージョンアップを繰り返し 、人間には想像が及ばないほど優秀な超知能 が誕生するという技術哲学 的な主張である。その人智を越えた機械的知性は文字通り人間の理解の及ばない原理で動作し、設計され、更に高度な知性を生み出していくかもしれない。
レイ・カーツワイル は自著『ポスト・ヒューマン誕生：コンピュータが人類の知性を超えるとき』にて哲学 や宗教 を根拠とした上で、「進化 」は「指数関数 的」に「神の概念 」へと向かっており、それが特異点をもたらすと述べている。彼は、
としている。また同書で彼は、特異点がSF やファンタジー に似ていることを強調し、次の通り述べている。
特異点の到来時期の予測は、21世紀 中ごろ～22世紀 以降など様々だが、特異点を収穫加速の法則 と結びつけて2005年に論じたレイ・カーツワイルの影響により、2045年 説が注目されている。2012年以降、ディープラーニング の急速な普及と共に広く議論されるようになり、「2045年問題 技術哲学 的・科学哲学 的には世界で大きく注目されるようになった。端的には、人工知能 が人類 の知能 を超える転換点と言われる事がある[ 12]
技術的特異点と同様の考え方や概念は、科学技術 が注目され始めた19世紀頃から存在していた。技術的特異点が技術哲学者・科学哲学者・評論家などから注目されたきっかけは、数学者かつSF作家のヴァーナー・ヴィンジ と、発明者かつ未来派 のレイ・カーツワイル の膨大な資料調査と主張だった。彼らは、意識 の解放によって科学技術の進展が生物学的限界を超えて加速する、と予言した。カーツワイルはこの加速的変化が「ムーアの法則 」などの指数関数的な技術革新に従うと考え、これを「収穫加速の法則 」（Law of Accelerating Returns）と呼んだ。未来派（フューチャリスト ら）いわく、技術的特異点の後では科学技術の進歩は強い人工知能 やポストヒューマン （ホモ・デウス ）によって支配されることになり、よって従来の人類の傾向に基づく技術進歩予測は通用しなくなるという。
AGI（汎用人工知能） ではなく人間を技術的に改良したポストヒューマンが登場するシナリオが実現した場合、特異点とは、新たな人類の進化 の瞬間であるとも捉えられる。ポストヒューマン 登場の端緒は史上初の人間の脳の技術的高速化であり、その方法はサイボーグ 化や精神転送 などだと言われる。
AGIもポストヒューマンも、単純にどちらかが選択されて実現されるわけではなく、両方とも実現される可能性がある。
一度でも技術的特異点が起きると、自律的に自己強化し続けるAI（あるいはポストヒューマン）が現れ、技術の進歩が超加速度的になり、人間の文明は極端に変化するため、それ以前の歴史的出来事全ての重大さが0に見えるほどになる[ 13] ASI（人工超知能） を参照のこと。特異点という名付けは、技術の進歩速度が数学的または物理的な特異点 に似ているからだという。
技術的特異点が起きる可能性については賛否両論がある。多くの人々がこの予測を肯定的に捉え、その実現に向けて活動している。一方、技術的特異点は人類にとって危険であり、回避すべきと考える人もいる。そもそも、技術的特異点など到来しないとする懐疑的な立場もある。様々な立場が存在する中で、技術的特異点を発生させる方法やその社会的影響、それを理想的な形で迎える方法などが論じられている。また、特異点が近づくに連れてAIを開発・運用する集団とそれ以外とで経済格差が顕在化すると予測されており、それを緩和するためのベーシック・インカム や「誰でも受け取れる」「ユニバーサル・ベーシック・インカム」の導入が議論されている[ 14] [ 15]
収穫加速の法則 を根拠とする指数関数的な技術進歩は、技術的特異点の以前でも社会を変化させると言う。プレ・シンギュラリティ的な動きは既に起きているという概念の証拠として、例えば以下が挙げられている。
例題：電子回路と生物の動作速度の差
技術的特異点のインパクトの説明例として、電子回路と生物の動作速度の差がある。生物の頭脳に比べて電子回路は、100万倍以上速く動作し、体調不良などの動作不良が頻発せずに安定した最高のパフォーマンスを発揮する。つまり生身の人間に比べて、電子回路で実現される頭脳（ポストヒューマン ）は、計り知れないほど高い知能を獲得することになる。 また、電子回路で実現される頭脳は生物の頭脳よりも機能の変更・拡張が容易であり、その頭脳が自分自身を改良し続けることで、電子回路による頭脳の爆発的「進化」が起きる。そして電子回路と生物の両方の特徴を持つ技術によって、生物的な特徴・環境適応力も爆発的に強化される。遺伝子工学 、ナノテクノロジー 、ロボット工学 などの進化が極めて顕著となる。 電子回路による頭脳の進化は研究開発 をも爆発的に加速させ、生身の人間が想像できる水準（無限のエネルギー、不老不死、宇宙進出、光速の壁の突破など）を遥かに超えて、高度な社会問題が次々と解決される。レイ・カーツワイルの見積もりによれば、ナノテクノロジー を最大限に活用した知能は、生身の人間の頭脳の1兆倍の1兆倍も有能である[ 16] 未だに技術進歩が緩やかな2010年代 では、この超知能は遠い将来（数万年後）に実現されそうに思えるが、技術的特異点後の爆発的な技術進化を踏まえると、超知能の実現に必要な計算能力は、21世紀後半には普及価格帯である約1000ドル以下（約十数万円以下）で購入可能になる、と大まかに推測できる。 以上により、技術的特異点による社会的インパクトはあらゆるSF 作品すらも超えて、人間には全く想像できない規模になると言われている。
レイ・カーツワイルはアメリカの発明家 、思想家 、未来学者 である。彼は2005年に『ポスト・ヒューマン誕生』 The Singularity Is Near を出版し、「特異点は近い」と宣言した。（邦訳 を監修したのは、比較文学 やアメリカ文学 などを専攻する井上健 〈東京大学名誉教授〉）。カーツワイルは『ポスト・ヒューマン誕生』の序章（プロローグ）で、彼が文明と宇宙の未来について考察するようになった時期は『スピリチュアル ・マシーン』（1999年 ）を出版して以降だと述べている。『ポスト・ヒューマン誕生』の「私は特異点論者（シンギュラリタリアン）だ」という章で彼は、特異点とスピリチュアルな物事との深い関連性を主張している。
また前掲書でカーツワイルは、特異点によってもたらされる未来世界の説明として、次の寸劇を描いている。
モリー二〇〇七 ：では、宇宙がエポック6（われわれの知能の非生物的部分が宇宙へ広がる段階）になると、どういうことになるの？ … わたし、まだエポック6の宇宙がどんなふうか想像しようとしてるんだけど。
ティモシー・リアリー
モリー二〇〇七 ：でも、どこを飛んでいるの？ 宇宙は全てなのでは？
リアリー ：その質問は、片手の拍手 はどんな音、と訊いているようなものだな。
モリー二〇〇七 ：ふうん。じゃあ、特異点は最初から禅 の導師 の心の中 にあったのね。
カーツワイルは自分の説明を成功させるため、ムーアの法則を元に収穫加速の法則 を考え出した。彼の著作は、2012年以降のディープラーニング の普及と共に注目された。技術的特異点という概念は1980年代以前からヴァーナー・ヴィンジが提唱しており、カーツワイルはそうした過去の傾向や議論をまとめたと言える。
カーツワイルによれば、「技術的特異点」とは「100兆の極端に遅い結合（シナプス）しかない人間の脳の限界を、人間と機械が統合された文明によって超越する」瞬間である[ 19] [ 19] ポスト・ヒューマン 誕生：コンピュータが人類の知性を超えるとき』（原題 The Singularity Is Near: When Humans Transcend Biology ）において、宇宙・生命・科学技術の歴史を述べる技術哲学的な主張として整理された。未来研究 （フューチャリズム）では、科学技術の歴史 から推測できる、未来モデルの適用限界点と言われる。
2045年は「汎用人工知能（AGI）が人類史上初めて出現する年」または「汎用人工知能（AGI）が人類史上初めて人間よりも賢くなる年」であると言うのは、一般人の誤解だとも言われる。カーツワイルの予想では、そのような出来事は2029年 頃に起こり、2045年 頃には、広く普及可能な価格である1000ドルのコンピューターの演算能力がおよそ人間の脳の100億倍（ペタ FLOPS ）になり、この時期に技術的特異点によって人間の能力と社会が根底から覆って変容する[ 20] GNR革命 」の進行により、人類の知性は機械の知性と完全に融合し、人類がポスト・ヒューマンに進化する。 ただし平木敬の推測によれば、そもそも人間の脳の処理能力はゼタ （100万ペタ）FLOPS級である[ 21]
2016年 頃からIoT や人工知能が広まったことで、カーツワイルの「仮説」に関する議論が活発化した。2017年12月29日にEテレに出演した際、彼は「自らを改良し続ける人工知能が生まれること。それが（端的に言って）シンギュラリティーだ」と発言した。
カーツワイルによれば、技術的特異点では人間性の増強 が起こり、同時に技術が人間的な精巧さと柔軟さに追いつき、大幅に抜き去る が、人類と技術が敵対するようなイメージは大間違い だという。さらに、人間 はテクノロジー 上に自分の意識 を移す時が来る[ 22]
ヴィンジが特異点について描いた作品には、その発生（『マイクロチップの魔術師』）、先延ばし（The Peace Warの「Bobble」）、抹消の試み（Marooned in Realtime）があり、特異点は「機械が人間の役に立つふりをしなくなること」と定義されている。
遺伝的アルゴリズム や、国際電気通信基礎技術研究所 （ATR）での人工脳 の研究者であるヒューゴ・デ・ガリスの予測では、特異点は21世紀後半に来て、人間の知能に対しAIが1兆の1兆倍（10の24乗倍）になる[ 23]
2014年 、PEZY Computing 代表の齊藤元章 によれば、スーパーコンピュータ の加速度的な性能向上によってエクサスケール・コンピューティング が実現[ 注 3] 計算資源 に基づく特化型AIによって、人類の大部分が「不労・不老 」を選ぶことすら可能になるという[ 24] [ 25]
PEZY Computingの起業者であり、スーパーコンピュータや汎用人工知能（AGI）の研究開発者でもある齊藤元章の2014年の自著『エクサスケールの衝撃』によれば、スーパーコンピュータ「京」の100倍程度の性能（1エクサフロップス）を持つ次世代スーパーコンピュータの実用化と普及により、プレ・シンギュラリティ（社会的特異点）が2025年までに起きる[ 24] [ 16] GNR革命 」が始まり、肉体と技術の融合、現実を超えるVR、核融合炉による無限のエネルギー、無償の衣食住、不老不死などが実現し、それらは早ければ2020年から市場に影響してくると言う[ 26] [ 27] [ 28] 詐欺罪 容疑で逮捕された[ 29] [ 30]
松田卓也 と小林秀章（セーラー服おじさん）は未来の人類を「動物園にいる動物」「大きな屋敷に住んでいる猫」と呼んだ[ 31] [ 32]
1995年以来、ルガーノ のスイス人工知能研究所（IDSIA）の研究員であり、特に時系列データを扱う機械学習に必要なLSTM 理論の考案者の一人として知られる。
2018年2月のインタビューでは、人間と機械の融合の可能性や、宇宙空間 に対するAIの適応可能性を述べ、「いずれにせよ、我々の知っているいわゆる「人間」という存在はあまり重要ではなくなるだろう。この先、何もかもが変わる。そして「古典的な人間」が支配していた文明社会は、この先数十年のうちに終焉を迎えることになるだろう。」とポストヒューマン登場の可能性を強く支持している[ 33]
技術的特異点に類似したアイディアは少なくとも19世紀半ばまで遡るが[ 34] [ 35] ジョン・フォン・ノイマン とされる[ 36] スタニスワフ・ウラム はノイマンとの会話に言及して次のように書いている[ 37]
あるとき、進歩が速まる一方の技術と生活様式の変化が話題となり、どうも人類の歴史において何か本質的な特異点が近づきつつあって、それを越えた先では我々が知るような人間生活はもはや持続不可能になるのではないかという話になった。
1965年、統計家 I. J. Good は、人類を超えた知能が世界を変える特異点のシナリオを描いた。
超知的マシンを、いかなる賢い人もはるかに凌ぐ知的なマシンであるとする。そのようなマシンの設計も知的活動に他ならないので、超知的マシンはさらに知的なマシンを設計できるだろう。それによって間違いなく知能の爆発的発展があり、人類は置いていかれるだろう。従って、最初の超知的マシンが人類の最後の発明となる。
ジェラルド・S・ホーキンズは『宇宙へのマインドステップ』（白揚社、1988年2月。原著1983年8月）で、「マインドステップ」という概念を示し、それは方法論や世界観に起きた劇的で不可逆な変化であるとした。彼は、人類史の5つの「マインドステップ」とそこに発生した「新しい世界観」および技術を示した（彫像、筆記、数学、印刷、望遠鏡、ロケット、コンピュータ、ラジオ、テレビ等）。いわく、「個々の発明は集合精神 を現実に近づけ、段階をひとつ上ると人類と宇宙の関係の理解が深まる。マインドステップの間隔は短くなってきている。人はその加速に気づかないではいられない」。ホーキンズは自分の経験によってマインドステップを定量的に方程式化し、今後のマインドステップの発生時期を述べた。次のマインドステップは2021年で、その後2つのマインドステップが2053年までに来ると言う。そして技術的観点を超越し、次のように推測した。
マインドステップは……一般に、新たな人類の展望、ミームやコミュニケーションに関する発明、次のマインドステップまでの（計算可能ではあるが）長い待機期間を伴う。マインドステップは本当に予期されることはなく、初期段階では抵抗がある。将来、我々も不意打ちを食らうかもしれない。我々は今は想像もできない発見や概念に取り組まざるをえなくなるかもしれないのだ。
特異点という概念は、数学者で作家のヴァーナー・ヴィンジ が広めた。ヴィンジは1980年代から特異点について語り、それを初めて印刷物として発表したのはオムニ誌 の1983年1月号だった。彼は後に1993年のエッセイ "The Coming Technological Singularity" で、その概念をまとめた（これは、よく引用される「30年以内に私たちは超人間的な知能を作成する技術的な方法を持ち、直後に人の時代は終わるだろう」という一文を含んでいる）。
ヴィンジは、超人的 な知能が、彼らを作成した人間よりも速く自らの精神を強化することができるであろうと書いている。「人より偉大な知能が進歩を先導する時、その進行はもっとずっと急速になるだろう」とヴィンジは言う。自己を改良する知性のフィードバックループは、短期間で大幅な技術の進歩を生み出すと彼は予測している。
ヴァーナー・ヴィンジ は、考えられうる人類を超える知性を創造する方法として、以下の4つを挙げている[ 38]
他には向知性薬（向精神薬 の一種）、精神転送 、AIアシスタントなどが提案されている。ジョージ・ダイソン の『Darwin Among the Machines』によると、複雑なコンピュータネットワーク や大きなニューラルネットワーク は知性（群知能 ）を生み出し得る。
精神転送は、人間の知性をデジタル化してコピーするという、人工知能の代替的な作り方である。脳の詳細な情報を得る電脳化 技術が精神転送に繋がると言う。
特異点到達に積極的な組織は、その方法としてAIを選ぶことが多い。Singularity Institute（特異点研究所）は、2005年の出版物"Why Artificial Intelligence?"でその理由を説明している。
人類史上のパラダイムシフトとなった重要な出来事を、15の独立したリストで示した両対数グラフ [ 39] レイ・カーツワイル は歴史研究の結果、技術的進歩は指数関数的に成長しており特異点が近いという「収穫加速の法則 」（The Law of Accelerating Returns）を結論的に主張した。彼はムーアの法則 （集積回路の指数関数的な細密化）を元に、集積回路以前の技術も同じ法則に従っていると述べた。
彼の予測によれば、ある技術が限界に近づくと代替的に新技術が生まれるのでパラダイムシフト がより一般化し、「技術革新が加速されて重大なものとなり、人類の歴史に断裂を引き起こす」（カーツワイル、2001年）。彼は特異点が21世紀末までに──つまり2045年に──起きると確信しており、それはヴィンジらの想定と違って緩やかな変化である。この違いは「ソフトな離陸」（soft takeoff）と「ハードな離陸」（hard takeoff）とも言われる。
カーツワイルがこの法則を提案する以前は、社会学者 や人類学者 ら（ルイス・H・モーガン 、レスリー・ホワイト、ゲルハルト・レンスキなど）が、技術進歩を文明の発展の原動力とする社会理論を構築してきた。彼らは、技術的マイルストーンやエネルギー制御方法や情報量などで文明発展の度合いを測った。
1970年代末以降、アルビン・トフラー （『未来の衝撃』の著者））、ダニエル・ベル 、ジョンネイスビッツらは、脱工業化社会 を論じており、それは特異点や特異点後の社会という思想に近い。彼らは工業化社会が終わりつつあり、工業と製品はサービスと情報に取って代わられると考えた。
未来学者であるレイ・カーツワイルは、宇宙における情報の進化は6つの段階を経るとし、進化の6つのエポック と名付けている[ 40]
進化は間接的に作用する。ある能力が生み出され、その能力を用いて次の段階へと発展する。
エポック1 物理と化学 原子構造の情報
エポック2 生物 DNAの情報
エポック3 脳 ニューラル・パターンの情報
エポック4 テクノロジー ハードウェアとソフトウェアの設計情報
エポック5 テクノロジーと人間の知能の融合 生命のあり方（人間の知能も含む）が、人間の築いたテクノロジー（指数関数的に進化する）の基盤に統合される
エポック6 宇宙が覚醒する
宇宙の物質とエネルギーのパターンに、知能プロセスが充満する
現実の動向は予測以上に急速だとも言われる。2014年にロッキード・マーティン 社の研究チームは、超小型の実用的な核融合炉を10年後（2024年）までに実現すると発表した。テスラモーターズ CEOのイーロン・マスク は、2017年に人間の脳とAIとの接続を研究開発するスタートアップ 「ニューラリンク」を起業した[ 41]
2017年の報道によれば、齊藤元章が示したように日本の産業界では、プレ・シンギュラリティ以降は機械のみが経営 を行う純粋機械化経済に移行する（第4次産業革命 が到来する）のであり、そのための具体的な施策が行われ始めている[ 25]
ヴィンジは1993年のエッセイで、技術的特異点の到来は2005年～2030年と予想した。齊藤元章は、2030年より前だと言う。カーツワイルは、コンピューターの知性が人間を超える時期は2020年代と予想している。
・人間の知能を模倣するために必要なハードウェアが、スーパーコンピューターでは10年以内に、パーソナル・コンピュータ程度のサイズの装置ではその次の10年以内に得られる。
2020年代半ば までに、人間の知能をモデル化した有効なソフトウェアが開発される。
ハードとソフトの両方が人間の知能を完全に模倣できるようになれば、2020年代 の終わりまでには、コンピューターがチューリングテスト に合格できるようになり、コンピュータの知能が生物としての人間の知能と区別がつかなくなるまでになる。ポスト・ヒューマン誕生 P.40、レイ・カーツワイル著、2005年 [ 注 4]
カーツワイルの予想によると、2030年代初期には、コンピュータの計算能力は人類の生物的知能と同等になり、2045年には、1000ドルのコンピューターの演算能力がおよそ人間の脳の100億倍（10ペタFLOPS ）になって、つまり技術的特異点への土台が十分に生まれていることになり、この時期に人間の能力と社会が根底から覆り変容する[ 20] 2045年問題 」とも言われる[ 42]
特異点を予測する論者たちの中には、21世紀半ば～22世紀半ばという予測が多い[ 43] ゴードン・ベル のような識者もいる。
この節には
複数の問題があります 。
改善 や
ノートページ での議論にご協力ください。
出典 文献や情報源 が必要です。（2019年10月 ） 一次資料 や記事主題の関係者による情報源（2023年5月 ） 信頼性 に問題があるかもしれない資料 （2023年5月 ） 独自研究 （2023年5月 ）
2006年のディープラーニング の発明により、ニューラルネットワークの深層化が可能になった。2012年にはディープラーニングによる画像認識手法が高性能を示し、世界的に社会実装が急進した。その後は神経科学 と機械学習 の統合で、AGI（汎用人工知能） の開発競争が起きた。現在は産官学で、人工知能への期待が高まっている。
1956年のダートマス会議 により、学術界に人工知能分野が創設された。その時代においても、ディープラーニングの先駆け──すなわちCNNの先駆的なネオコグニトロン やLeNet等──は提案されていたが、実用性は手書き文字認識などに限られていた。
AIブームは二度（1950年代の推論 と探索 、1980年代のエキスパートシステム ）起きたが、ブームの度に致命的な理論的限界が指摘されたため、投資も行われなくなりAI研究自体が停滞していた。また、計算機（コンピュータ）の性能はAIに必要な水準を大幅に下回り、通信網も学習用データセットも貧弱だったため、（たとえ理論的に完成されていたとしても）産業応用にはほど遠かった。
1980年代後半～1990年代中頃、人間の曖昧さや環境適応能力を模倣するニューロファジィ 等の特化型AIが盛んに研究開発・産業応用され、バズワード化した。白物家電製品においてもニューロファジィを売りにする程だった。だが当時はインターネットやコンピュータの性能もデータも不十分で、現実世界の複雑さに対応できず、期待されたほどの効果は得られなかった。理論的にもファジィ集合 と深層学習が組み合わせられないニューラルネットワーク には、常に学習の難しさが付き纏った。1990年代のニューラルネットワークは非線形分離が可能だったが、過学習や勾配消失問題などが起きやすく、チューニングしても充分な性能は得られなかった。扇情的に売り出され盛んに研究開発が行われたが、応用は極めて限定的な産業に留まっていた。
1995年からインターネットが民間へ開放されて、通信量が増加していった。後にインターネットは、AIの学習用データセット収集基盤として重要になる。インターネットと強力なコンピュータの発達と支援があって大規模化が可能となり、ディープラーニングも実証実験と実用化が可能になった。
2000年代ではムーアの法則的なコンピュータの性能向上、そしてインターネットの普及により、計算資源の制約が減ってAI研究が好転し始めた。
2000年には制限ボルツマンマシンやコントラスティブ・ダイバージェンスの提案、それに基づく2006年のディープラーニングの発明、2010年以降のインターネットを利用したビッグデータ 収集環境の整備、2012年のGPU利用による大規模ディープラーニングの発展、同年のGoogleのディープラーニングを使った画像認識などにより、AI研究が各国から再注目され始めた。
この社会現象は第3次人工知能ブーム と呼ばれる。その後、ディープラーニングの研究と普及が加速し、レイ・カーツワイルが2005年に広めた概念「技術的特異点」が急に世界的な注目を浴びた。
この節には
複数の問題があります 。
改善 や
ノートページ での議論にご協力ください。
出典 文献や情報源 が必要です。（2019年10月 ） 一次資料 や記事主題の関係者による情報源（2023年5月 ） 独自研究 （2023年5月 ） 雑多な内容が羅列 （2023年5月 ）
2012年以降、AIへの投資が産官学で増え、特異点を引き起こすとされる汎用AIの研究と、既存AIのビジネス転用が活発に議論され始めた。
ディープラーニングの研究と普及で、AGI（汎用人工知能） を研究開発するプロジェクトはGoogle DeepMind を筆頭に、Vicarious、IBM Cortical Learning Center、全脳アーキテクチャ、PEZY ComputingのNSPU開発、OpenCog、GoodAI、NNAISENSE、IBM SyNAPSE 、Numenta等が立ち上げられた。これらの研究開発では、脳のリバースエンジニアリングによる神経科学 と機械学習 の組み合わせが有望とされている[ 44] 量子コンピュータ やアナログ計算機 の導入も検討され始めた。
上記で実現が目指されているAGIの多くは、技術的限界のため全脳アーキテクチャ方式に基づいている。この方式は、脳の各機能ユニットを工学的に再現し、情報統合を行うことで疑似的な汎用性を目指す。ただしこれは、原子・分子レベルで脳を再現する全脳エミュレーション 方式に比べて、高度な情報統合（コネクトームなど）を不得手とする。
よってそれは脳のシミュレーション の範囲に留まり、人間的な感性が必要な創造的な仕事や繊細な作業は、全脳エミュレーション方式よりも不得意とされる。しかし、機械の動作速度は非常に高速であり、生物的な人間の脳を全側面で超える働きをする可能性が高い。人間の脳の規模における原子・分子レベルでの物理シミュレーションには膨大な計算資源が必要であり、理論的に完全な汎用性の実現には数十年単位の時間が必要だと考えられている[ 45]
2017年頃から、実験的な量子コンピュータのクラウドサービスが展開されつつあり、このようなサービスの発達と普及で2020年代にはニューラルネットワークの学習が高速化されると見込まれる。
2015年以降、特化型AIの影響が企業動向を変えるほど広まった。2018年8月31日、原油高が大きな負担となっていたJALがNECに開発を依頼し、AI支援による旅客システムを導入し、約50年続けてきた人間の経験に基づく旅客システム運用を廃止したことで、空席をほぼ0に減らすことに成功し、利益率を大幅に上げた[ 46] [ 47]
2021年6月、グーグルの研究者らが機械学習を用いてAI用チップのフロアプランを作成したところ、設計にかかる時間は人間の1/1000であり、設計されたチップの主要な指数（消費電力・性能など）は、人間が設計したもの以上だった[ 48]
2022年、AIによる画像生成ブームが起こった[ 49]
2022年10月、DeepmindのAlphaTensorは、深層学習プログラム用の行列乗算を高速化するアルゴリズム改良版を発見し[ 50] [ 51]
2022年11月30日、従来のシステムよりも人間らしい回答を返すChatGPT が公開され、一か月未満で世界的に流行し始めた[ 52] [ 53] 落合陽一 によれば、AI関連技術が予想を遥かに超える速度で更新され続けるため、技術的特異点は2025年に来る可能性がある[ 54]
人工知能ブームに伴い、人類と人工知能の関係や「シンギュラリティ」（特異点）について多様な主張や報道が行われ、期待が高まっているが、2045年 に到来するとの予測が主張されている技術的特異点には、その根拠について多くの問題点が指摘されている。
指摘の例
2020年 頃にムーアの法則 は限界に達すると言われており、その後のコンピュータ の性能向上速度は不明である。従来型のコンピュータを大幅に上回る性能を期待して考案された量子コンピュータ や光コンピュータ は、未だ初歩的な研究段階に留まっており、実用性については不明瞭である。
東浩紀 は「けれどもカーツワイルの本を実際に読んでみると、その根拠はかなり薄弱であることに気がつく。彼の未来予測 を支えているのは、情報技術 の進歩はどんどん速度を増しているのであり、同じ傾向はこれからも続く、したがってあと40年もすれば驚くほどコンピュータ の力は増しているはずだ、というただそれだけの直感 にすぎないからだ」と指摘 している[ 55] 人工知能 への大きな期待とは裏腹に、ビジネスモデル の構築が進んでいない。特に現行の人工知能 では高品質で偏りがなく整理されたビッグデータ を前提としているため、実環境からの十分なデータ収集が困難であることも多く、人工知能 を導入できない状況が発生している[ 56] 人工知能 開発を担える人材の少なさもビジネス応用の遅れに繋がっている[ 56] 人間 と比較して人工知能 の学習に必要なデータの量が多すぎる問題を解決する必要がある。
技術的特異点の前提にある収穫加速の法則 は、前提として現実世界からのデータ収集の限界によって制限され得る。例えば、技術革新 に必要な物理現象の発見や新素材開発などには物理的な観測や実験が必要で、多大な費用と時間がかかる。この物理的限界が高速化され続けなければ、収穫加速の法則も続かない。第3次人工知能ブームの火付け役であり、大部分の雇用を奪うほどの社会的インパクトが予想されたディープラーニング の段階でも、有用なデータの不足が懸念されている[ 57]
2026年 には大規模言語モデル（LLM） の学習に使えるデータが枯渇するとの予測がある。従って、省データ化のためのアルゴリズムの改良と併せて、投入する学習データについても合成データを用意するなどの新たな対応が迫られている[ 58] 人工知能が指数関数 的に高性能化しても物理的な世界は──極端な複雑さ・倫理・社会構造の変化速度の限界・限りある資源量などにより──指数関数的に発展しない可能性がある。少なくとも人工知能を用いる方法では、計算量オーダーの大きさに起因する難問は解決されないことが判明している（そもそも人工知能アルゴリズムの実行自体がそのような難問である[ 59] エネルギー消費の問題としては、人工知能 を実行するデータセンター は人間の脳の消費エネルギーとは比較にならないほど膨大な電力 を消費し、大きな環境負荷も発生させる事が分かっている。将来にわたって加速する人工知能 の大規模化に伴い、電力 需要も社会的に容認できないほど大きく増加する可能性がある[ 60] [ 61] グーグル 出身者らが東京 に設立したスタートアップ企業 「サカナAI」は計算量や消費電力の問題を解決するために、大手企業が軒並み推進する重厚長大な大規模言語モデル とは逆のアプローチである、比較的小さいAIを連携させて高効率に必要な機能を実現する手法の研究開発を進めている[ 62]
人間の脳にはデジタル 的な機構の他に、アナログ でカオス な機構も備わっており、普及しているディープラーニング よりも遥かに複雑である。そのため、複数種類のタスクを統合的に扱える人間と同等以上の人工知能 の開発は、構造の複雑さゆえに進まない可能性がある。そもそも、カオス 的な機構は計算自体が困難である[ 注 5]
人間に設計された人工知能 などの機構は本質的に他律システムであり、設計の範囲内でしか動作できず、自発的な判断・行動を行っているわけではないため、過去の事例に制限されている[ 63] システム論 （オートポイエーシス など）で議論が続いているが、誰に設計されるわけでもなく地球 上に登場し、未知の環境 変化にも適応しながら進化 を遂げた生命 が持つような真の自律性をコード化できるかは不明である。ただし、人間も物理現象に従う他律システムだと考えられ得る。
西垣通 が『AI原論』などの書籍で、他者により設計される（つまり他者に律される）人工知能 が真の自律性を獲得することはなく、技術的特異点の端緒となる再帰的な人工知能の「改良」の機能についても他者により行われた設計の範囲内でしか動作できないため、再帰的な「改良」後に意味のある動作が保たれる保証がないことや、人工知能に頼り切ると社会の硬直化を含む様々な問題が生じる可能性があることを指摘している[ 64] 西垣通 は、汎用人工知能 で人間を完全に代替する方向性ではなく、特化型人工知能と人間が共働する方向性を模索するべきと主張している[ 65]
中島秀之 は「AI は加速するが特異点はやって来ない」という文書の中で初期値の問題，身体性の問題を挙げている。
初期値の問題：脳 は動的非平衡 計算装置である。コンピュータ と異なり，電源を切ってから再起動するというわけにはいかない。脳のモデルをコンピュータ内に再現するには，初期値として，ある瞬間の脳の活動状況（ニューロンの興奮状態のほか，血流やホルモン濃度なども関係する）を写し取らねばならない。そのような技術は今のところ存在しない。
身体性の問題：脳は単独で存在しているのではない。目や耳を含む感覚器官のみならず体全体で世界とつながっている。最近では、幼児の手足の運動と言語形成の関係や、内臓の状態が精神活動に影響を与えているという研究などもある。これらをどうするのか。
この節には
複数の問題があります 。
改善 や
ノートページ での議論にご協力ください。
出典 文献や情報源 が必要です。（2019年10月 ） 独自研究 （2023年5月 ）
AIの進歩によっては、技術的特異点のような事象は発生しないという説もある。また識者らの中には、技術的特異点の概念は認めつつもその現実化は不可避ではないという説、特異「点」と呼べるような特定の一点は存在しないという説も存在する。
生命情報科学 者・神経科学 者の合原一幸 の編著『人工知能はこうして創られる』によれば、AIの急激な発展に伴って「技術的特異点、シンギュラリティ」の思想や哲学が一部で論じられているが、特異点と言っても「数学 」的な話ではない。合原が言うには、
「そもそもシンギュラリティと関係した議論における『人間の
脳 を超える』という
言明 自体がうまく
定義 できていない」。
確かに、脳を「デジタル情報処理システム 」として捉える観点から見れば、シンギュラリティは起こり得るかもしれない。しかし実際の脳はそのような単純なシステムではなく、デジタル とアナログ が融合した「ハイブリッド 系」であることが、脳神経科学 の観察結果で示されている。合原によると、神経 膜では様々な「ノイズ 」が存在し、このノイズ付きのアナログ量によって脳内のニューロン の「カオス 」が生み出されているため、このような状況をデジタルで記述することは「極めて困難」と考えられている。
弱いAI に関する研究結果が、強いAI （汎用人工知能）にそのまま適用可能であるか否かについては議論がある。哲学者のヒューバート・ドレイファス [ 71] ロジャー・ペンローズ のように、現行の人工知能研究には根本的な欠陥があり、既存の手法を踏襲することによっては強いAIは実現不可能であると考える学者も存在している[ 72]
ロータスデベロップメントの創業者のミッチ・ケイパー は、2029年までにチューリング・テスト に合格する人工知能が開発されるという予測に反対し、カーツワイルと2万ドルを賭けている[ 73]
カーツワイルは、生物学的な脳機能を理解していないという批判がある。彼は、人間の脳がシミュレーション可能になる時期を人間のゲノムの数から見積っている。しかし、生物のゲノムは半導体のトランジスターと同等とみなすことはできず、脳の構造や成長を無視していると、生物学者のポール・ザカリー・マイヤーズ は批判している[ 74]
あらゆる指数関数的成長には限界がある。限られた期間内では指数関数的振る舞いを見せる現象は──化学物質の反応、細胞分裂や生物の個体数などが──存在するが、遅かれ早かれ指数関数的現象は、必要な資源基盤（化学物質や食物など）を消耗し、停滞・崩壊する。テクノロジーの発展が、一般的な指数関数的現象と異なると考える理由は無い。つまり、指数関数的成長には指数関数的入力が必要だが、現実世界でそれは不可能である。一般的に成長現象はシグモイド曲線 を取り、急激な成長期と停滞期（崩壊期）が存在する[ 75]
宗教家であり思想史家であるジョン・マイケル・グリア （英語版 ） ツリー状 に広がっていくものであると述べている[ 76] 宇宙旅行 をも含む輸送技術の爆発的発達が予想されていたが、その後は輸送技術の進歩が停滞した。一方、21世紀現在の情報技術の爆発的発達と普及は、以前は一般的に予想されていなかった。同様に、近年の情報処理技術の発達もいずれどこかで限界となり、現代の人々が全く予想もできなかった新しい技術が発展すると考えられている。
また、どれほど優れた知性（思考）であっても、それだけでは問題を解決できない[ 77]
物理学的・技術的に可能でも、経済・社会・法律的な要請によって普及していない技術も存在する。たとえば超音速旅客機 は1960年代に実用化されたが、採算が取れないため、2016年時点でも商業飛行は無い。同様に、研究室ではAGI（汎用人工知能）が実現できたとしても、経済合理性の問題があって社会で普及できず、特異点発生に必要な超越的知性が不十分になり得る。
マーティン・フォードは『トンネルの中の光：オートメーション、テクノロジーの加速と未来の経済』で[ 78] 有効需要 を下げ、結果的に技術への投資を低下させるだろう。そうなると、技術的特異点の実現は遠ざかることになる。産業革命期のような大規模な産業構造の転換 と新産業による失業者の吸収は未だ起きておらず、慢性的な高失業率が続いており、この傾向は短期的には変わる気配を見せていない[ 79]
一般的に、技術革新に対する投資の見返りは次第に低下していくことが示されている[ 80] [ 81] [ 82]
経済史学 者の杉浦勢之によると、カーツワイルはレトリック （修辞技法 ・美辞麗句）を駆使している。もし100年や1000年先の未来を語った場合、人々の実感や想像をかき立てるのは難しい。しかし語る内容が近未来 （2045年）なら、それは現在の世代のほとんどがまだ生きている時代であり、いくらか迫真性がある。そして、行動経済学 者ジョージ・エインズリーの「双曲割引 」説によれば、人間は遠い将来よりも近い将来で得られるものに、より高い価値 を置く。つまり、近未来にシンギュラリティが来ると人々に言えば、《近未来に賭けたい》・《投資 してリターン （利益 ）を得たい》といった誘惑が広まり得る。この場合、何が正しいのか、数学 的に正確か等の検証は、重視されていない。
杉浦が言うには、シンギュラリティ論のレトリックは、宗教家 が使っているものと同類である。使徒 パウロ の説教 のようなシンギュラリティ論に従えば、約束された「来るべき時」は──または神の国 の到来は、審判の日 は──間近に迫ってきている。その「時」は不可避にやって来るものであり、「特異点」である。このように預言 （予言 ）する論は、近現代に至るまで思想家 たちを惹きつけており、その典型例は、共産主義 社会の到来を預言したカール・マルクス や、民族共同体 の勝利を預言したナチス 法学 者カール・シュミット である。
経営者であるカーツワイルは、テクノロジー発展の先に「不死」を預言している。これは一見すると奇妙だが、彼を現代の「預言者」と捉えれば説明がつく。カーツワイルは、「テクノロジー」を「神」のように扱うレトリックによって、数学や自然科学 からの批判を無意味化しているのである。古代から続く預言者やシンギュラリティ論者に対する批判として、
「かれらは、理解することの純粋な喜びや、
臨床 的な視線の中立とは無縁なのだ」
というレジス・ドブレ の批判が援用されている。
『WIRED 』誌創刊者のケヴィン・ケリーは、カーツワイルの示した指数関数 的グラフが、指数関数的であるからこそ特異点に到達できないことを批判している[ 85]
数学 的な特異点という概念は
幻想 である。[
中略 ] 世界の主な出来事が指数関数的割合で発生していることを示す、「特異点へのカウントダウン」というグラフを見てみよう。それは数百万年の
歴史 にわたって、
レーザー のようにきれいな
直線 を描いて突進している。
しかし、そのグラフを30年前で止めずに現在まで延ばすと、何か奇妙なことが見えてくる。カーツワイルのファンであり評論家でもあるケヴィン・ドラム は、「ワシントンマンスリー」（Washington Monthly）に書いた記事で、このグラフを30年前で止めずにピンクの部分を追加して、現在まで延長した。驚いたことに、それは今現在が特異点であることを示唆している。さらに不思議なことは、そのグラフに沿ってほとんど全ての時点で、同じ見解が正しいように思われる。
もしも、ベンジャミン・フランクリン （昔のカーツワイルみたいな人）が1800年に同じグラフを描いたとしたら、フランクリンのグラフも、そのときの「たった今」の時点で、特異点が発生していることを示すだろう。同じことはラジオ の発明のとき、あるいは都市 の出現のとき、あるいは歴史のどの時点でも起こるだろう。グラフは直線であって、その「曲率 」すなわち増加率はグラフ上のどこでも同じなのだから。[中略 ]
すなわち、指数関数的増加の中にいる限り、時間軸に沿ったどの点においても、特異点は「近い」ということだ。特異点とは、指数関数的増加を過去にさかのぼって観察するときに、いつでも現れる幻影に過ぎない。グラフは
宇宙 の始まりに向かって、正確に指数関数的増加をさかのぼっているから、これは何百万年にもわたって、特異点はまもなく起ころうとしていることになる！言い換えれば、特異点はいつも近い。今までいつも「近い」ままであったし、将来もいつも「近い」のだ。
[ 85]
心理学 者・認知科学 者であるスティーブン・ピンカー は以下のように述べている[ 86]
技術的特異点が到達すると信じる理由は、まったく無い。人間の頭の中で未来の姿を想像できたとしても、それが実現する見込が高いこと、あるいはそもそも実現可能であるということの証明にはならない。
ドーム型都市 、
ジェットパック による通勤、
水中都市 、超高層建築や
核駆動自動車 といったもの、これらは全て私が子供だったころ、未来の想像において当たり前に実現されているはずのものだったが、ついに現実にはならなかった。本当に機能するテクノロジーは、人類のあらゆる問題を解決する魔法のランプなどではない。
[ 86]
技術的特異点の概念は、キリスト教終末論 から影響を受けていると言われており、評論家や神学者の中には、技術的特異点の概念を信仰 と同一視する者も居る。ケヴィン・ケリーは、技術的特異点とキリスト教における携挙 （ラプチャー “rapture”）との類似性を指摘している[ 85]
携挙というのは、
キリスト が再臨するとき、全ての
信者 は普通の生活からいきなり空中に持ち上げられて、
死 を経由せずに天の
不死 不滅 の世界へ導かれることである。この特異な出来事によって、改良された
身体 、永遠の
知恵 で満たされた完全な
知性 ができる。そして、それは「近い将来」に起こることになっている。そのような期待は、技術の携挙、つまり特異点とほとんど同じである
[ 85] 。
科学ジャーナリストのジョン・ホーガン も、技術的特異点を信仰であるとみなしている。
現実を見よう。技術的特異点は、科学的なビジョンというよりは宗教である。SF作家のケン・マクラウドは「コンピューターマニアたちの携挙（the rapture for nerds）」という名前を授けている。つまり、歴史の終末であり、イエスが現れ信仰者を天国へと導き、罪人を後に残していく瞬間である。このような超越的なものを願う理由は、完全に理解可能である。個人としても種としても、我々は致死的に重大な問題に直面している。たとえば、テロ、核拡散、人口過剰、貧困、飢餓、環境破壊、気候変動、資源枯渇やエイズなどである。エンジニアと科学者は、我々がこれらの世界の問題に立ち向かい、解決策を発見することを支援するべきなのであって、技術的特異点のような夢想的、疑似科学的ファンタジーに浸るべきではない。
[ 87] ジョン・マイケル・グリアも同様の見方をしている。
…技術的特異点の概念全体は、関連する科学分野の専門家から激しく、そして正しく批判されている。けれども、あまり言及されることは無いが、カーツワイルの技術的特異点の物語は
科学理論 などではない。むしろそれは、
ジョン・ダービ による
携挙 の神学理論を、SFの言葉で書き直した複製である。
技術的特異点は、単にキリストの再臨をテクノロジー的にリメイクしたものに過ぎない。超知性的コンピューターが神の役割を担っているのである。
[ 88] 思想史研究者であるアニー・レイヴィ も同様の批判を加えている[要出典 。
もちろん我々は我々自身の能力を超えた技術を作ってきた。それゆえ、我々は我々の能力を超えた知能を作ることができるだろうし、一部は既に実現されているとさえ言えるだろう。けれども、ひとたび我々の知性を超えた人工知能が実現しさえすれば、ただちに超越者が生み出され、あらゆる問題の最終的解決がもたらされると信じるためには、相当な論理的飛躍を受け入れなければならない。
その表層的なテクノロジー的装いを剥ぎ取ってみれば、中にあるのは古くからある終末論そのものである。すなわち、我々の生きている間に、何らかの超越者が地上に降臨し、全ての現世的問題からの解放と永遠の命をもたらすという信条なのだ。…このような新たな終末論が、近年の経済危機以後、急速に蔓延したのは決して偶然ではない。すなわち、現代の解決不可能な諸問題から眼を背けさせ、来世において救済を授けるという現実逃避としての役割を担っていると言える。
ケリーが言うには、仮に人間が特異点に入ったとしても、それを認識することは特異点の中では不可能であり、後から振り返ることで認識できる[ 85]
特異点に代表されるような技術の変化は、特異点に代表される（というのは不正確だが）ような変化の「内部」からでは全く認識できないと思う。ある水準から次の水準への転換は、新しい水準にある高い視点から、すなわち、そこに到達した後でしか見ることができない。
神経細胞 との比較において、頭脳は特異点のようなものである。低い部分からは見えないし想像もできない。神経細胞の視点から見れば、脳へ通報するための少数の神経細胞から多数の神経細胞への活動は、神経細胞の集合による、ゆっくりとした連続的でなめらかな道程のように見えるだろう。そこには途絶の感覚、携挙 の感覚はない。その不連続 は逆方向に見たときにのみ知ることができる。
言語は文字と同様に、ある種の特異点である。しかし、その2つへ向かう行程は、その習得者には連続的であって感知できない。友人から聞いたおもしろい話を思い出した。十万年前に原始人たちが、たき火のまわりに座って最後の肉のかけらを口の中で噛みながら、喉の音でおしゃべりしていた。一人がこう言った。
「おい、みんな、俺たちは話しているぞ！」ぶどうの何とか を飲み過ぎたんだな。」
組織の次の段階が始まるとき、現在の段階にいる間は新しい段階を把握できない。なぜならば、その認識は新しい段階において起こるはずだからである。全世界的な文化が出現する中で、新しい段階への転換は実際に起こっているが、その変化の途中では認識できない。[中略 ] 従って、私たちは次のようなことを予期することができる。今後数百年にわたって、生命が当たり前のように途切れることなく続いて、決して大変動はなく、その間ずっと新しいものが蓄積する。それはやがて私たちが、ある種の道具を手に入れたことに気づくまで続く。その道具を使って、何か新しい道具が存在することを認識し、さらに、その新しい道具はしばらく前にすでに出現していたことを認識するのである。
私がこのことをエスター・ダイソンに話すと、彼女は、私たちが毎日特異点に近い経験をしていることを指摘した。
今から千年後に、その時点のあらゆる11次元グラフは「特異点が近い」ことを示しているだろう。
不死 の存在、
全世界的意識 、その他、私たちが未来に期待することは、全て実現し、実在しているかもしれないが、それでも3006年の対数目盛のグラフは、やはり特異点が近づいていることを示すだろう。特異点は不連続な出来事ではない。それは非常にひずんだ
エクストロピー 的（進化し続ける）世界に織り込まれた連続体である。それは、生命と
テクニウム がますます速く進化するにつれて、私たちとともに移動する幻影である。
[ 85]
特異点は実現可能である、または不可避であると考える人々の中には、特異点後の出来事が人間への危険であると考えて、特異点実現のための活動を批判する者も居る。一方で多くの特異点論者は、ナノテクノロジーが人間性への最大の危険の一つだと考えており、AIをナノテクノロジーよりも先行させるべきだと主張している。ただしForesight Institute などは分子ナノテクノロジーを擁護し、ナノテクノロジーは特異点以前に安全で制御可能となるし、有益な特異点をもたらすのに役立つと主張している。
友好的AIを支持する立場には、特異点が潜在的に巨大な危険であると認識し、人間へ好意的なAIを設計してその危険を排除しようという考えがある。アイザック・アシモフ のロボット工学三原則 は、人間を傷つけないAI搭載ロボットを意図しているが、アシモフの小説はこの法則の抜け穴を扱うことが多い。
超人的な知性が、人類の生存や繁栄と共存できない目的を持つ可能性も考えられている。例えば、機械的知性の発達で非人間的な感覚・感情・感性が生まれ得る。AI研究者ヒューゴ・デ・ガリス いわく、AIが人類排除を目指した場合、人類はそれを止められないかもしれない。他には分子ナノテクノロジーや遺伝子工学についての危険性がよく言われており、これらの問題は特異点支持者と批判者の両方に重要だと言う。ビル・ジョイ はWIRED で、その問題をテーマとして Why the future doesn't need us（何故未来は我々を必要としないのか）を書いた（2000年）。オックスフォード大学 の哲学者ニック・ボストロム は人類の生存に対する特異点の脅威についての論文 Existential Risks （存在のリスク）をまとめた（2002年）。ボストロムは、『Superintelligence: Paths, Dangers, Strategies（超知能：道筋、危険、戦略）』の著者でもある。
宇宙物理学者スティーブン・ホーキング は、人類の能力を超えるAIが人類を滅ぼしかねない危険性があり、生物学的進化に制約される人類がAIの発達に対抗することは困難だと考えており[ 89] [ 90] 国連代表部 と国際連合地域間犯罪司法研究所 が主催した会議でも懸念を表明した[ 91] [ 92] [ 91] [ 92]
ホーキングは、2015年5月12日にロンドンで開催されたツァイトガイスト2015でも、人工知能が「100年以内に人間の文明を終わらせる」可能性を指摘した[ 93] マックス・テグマーク （物理学者）、フランク・ウィルチェック （ノーベル物理学受賞者）、スチュワート・ラッセル らとともに、人工知能に関する理解が一般に浸透していない問題を指摘した[ 91] [ 94]
ハーバード・ロー・スクール とヒューマン・ライツ・ウォッチ は、完全な自律兵器の開発・運用を国際的に禁止するべきだと2015年4月の報告書で要求した[ 93]
一部の人々の主張によると、先端技術の開発は危険過ぎるため、そのような発明はやめるべきである。ユナボマーと呼ばれたアメリカの連続爆弾魔セオドア・カジンスキー は、技術によって上流階級が簡単に人類の多くを抹殺できるようになるかもしれないと言う。一方でAIが作られなければ、十分な技術革新の後で人類の大部分は家畜同然になるだろうとも主張している。カジンスキーの言葉はビル・ジョイ の記事およびレイ・カーツワイルの最近の本に書かれている。カジンスキーは特異点に反対し、ネオ・ラッダイト運動をサポートしている。多くの人々は特異点には反対するが、ラッダイト運動 のように現在の技術を排除しようとはしない。
カジンスキーだけでなく、ジョン・ザーザンやデリック・ジェンセンといった反文明理論家の多くはエコアナーキズム主義を唱える。それは、技術的特異点を機械制御のやりたい放題であるとし、工業化された文明以外の野性的で妥協の無い自由な生活の損失であるとする。地球解放戦線 （ELF）やEarth First! といった環境問題に注力するグループも、基本的には特異点を阻止すべきと考えている。
一方、特異点によって未来の雇用機会が奪われることへの懸念はあるが、ラッダイト運動 者の恐れは現実とはならず、産業革命以後には職種の成長があった。経済的には特異点後の社会はそれ以前の社会よりも豊かとなる、とも言われる。特異点後の未来では、一人当たりの労働量は減少するが、一人当たりの富は増加するとの説もある[ 95] ベーシック・インカム を提唱している[ 95]
『WIRED』US版の2016年11月号[ 96] 米大統領 ・バラク・オバマ とMITメディアラボ 所長の伊藤穰一 による対談が企画された。テーマは、AI、自律走行車、サイバーセキュリティー 、シンギュラリティ である。
伊藤所長は、2016年はAIがコンピューター科学 を超えて万人に重要となった年であると述べ、オバマ大統領は、今後コンピューターが多くの仕事を担うようになるにつれ、価値ある仕事への適切な対価について議論していくことが必要だと延べた。
オバマ大統領は、専用AIがあらゆる生活の場に進出したことにより、生産性や効率が格段に向上し、莫大な富と機会を生み出す一方で、特定の職業を消滅させ、格差拡大や賃金低下をもたらす可能性があると指摘した。一般の人が心配しているのは、シンギュラリティではなく、自分の仕事が機械に取られることだと言う。また、スキルが不要なサービス業 だけでなく、コンピューターが対応可能な高スキルの職業も消える可能性があるという。伊藤所長が一例で挙げたベーシックインカムが人々に受け入れられるか、今後10～20年の間議論が続くと予想している。
研究活動に対する政府の役割としては、研究内容にあまり関与せず、予算で強く支援し、基礎研究と応用研究との対話をうながすことが重要だと言う。技術革新による問題の深刻化については、規制強化でなく、特定の人々に不利益をこうむらないような政府の関与であるべきである。国家安全保障チーム は、機械が人類を乗っ取ることではなく、現状のサイバーセキュリティーの延長として、システムへ侵入に対する対策が必要だと指摘した。
人間がポスト・ヒューマンを作れるなら、ポスト・ヒューマンも十分な時間と数があればさらなる上位種を作れるのではないか、それが繰り返されなければ神のような”何か”が生まれるのではないかと考える人もいる（シンギュラリティ後のシンギュラリティ）。 しかしカーツワイル等は、AIの能力で十分神の域に達すると考えているようである。
学術論文 学術書 ビジネス書 その他
^ 以下は人工知能研究開発者・中島秀之 の論文からの引用。
シンギュラリティというのは
数学 用語で，
関数 の値が定まらない
特異点 のことだ． …
カーツワイル の呼ぶシンギュラリティが数学的な意味で正しいものだとすれば（そうは思えないのだが），シンギュラリティ以降は現在の我々の知的営みは残らないことになるし，その後を考えることも無駄だということだ． … 本稿ではカーツワイルの定義に従って議論を進めよう．
特異点とはなにか。テクノロジーが急速に変化し、それにより甚大な影響がもたらされ、人間の生活が後戻りできないほどに変容してしまうような、来るべき未来のことだ（レイ・カーツワイル：シンギュラリティは近い─人類が
生命 を
超越 するとき（Kindle の位置，No.249-250）Kindle 版）．
^ ^ 2020年3月に分散型 コンピューティングを行うFolding@home プロジェクトが世界で初めてexaFLOPSの壁を突破した。
^ 以下はカーツワイルの自著の内容：「人間の知能を模倣するために必要なハードウェアが、スーパーコンピューターでは10年以内に、パーソナル・コンピュータ程度のサイズの装置ではその次の10年以内に得られる。2020年代半ばまでに、人間の知能をモデル化した有効なソフトウェアが開発される。」「ハードとソフトの両方が人間の知能を完全に模倣できるようになれば、2020年代の終わりまでには、コンピューターがチューリングテストに合格できるようになり、コンピュータの知能が生物としての人間の知能と区別がつかなくなるまでになる。」（『ポスト・ヒューマン誕生』p.40、2005年）。1000ドルのコンピューターが人間の脳の100億倍の演算能力を持ち、技術的特異点への土台ができている 、というものであり、コンピューター一台が人間（人類）の知能を超えた瞬間に激変が起きるとは言っていない。
^ 例えば、アナログ でカオス な現象を扱う気象予測は、最新のスーパーコンピュータ を投入し続けてようやく予測精度の向上が達成される分野である。
^ 山川宏, 市瀬龍太郎, 井上智洋、「汎用人工知能が技術的特異点を巻き起こす 」『電子情報通信学会誌』2015年 98巻 3号 p.238-243, ISSN 2188-2355
^ “シンギュラリティ｜大塚商会 ”. mypage.otsuka-shokai.co.jp . 2024年9月8日 閲覧。 ^ Singularity hypotheses: A Scientific and Philosophical Assessment . Dordrecht: Springer. (2012). pp. 1-2. ISBN 9783642325601 ^ “人工知能が経済格差と貧困を激化する ”. NewsWeek 日本版 田中秀臣 街角経済学 (2016年10月26日（水）17時40分). 2017年11月23日（木）閲覧。 ^ 牧野司「シンギュラリティは近い 世界の課題をテクノロジで克服するには 」『赤門マネジメント・レビュー』第16巻第3号、特定非営利活動法人 グローバルビジネスリサーチセンター、2017年、161-165頁、doi :10.14955/amr.0170222a 、2019年7月17日 閲覧 ^ a b エクサスケールの衝撃 次世代スーパーコンピュータが壮大な新世界の扉を開く 齊藤元章
^ a b レイ・カーツワイル, ポスト・ヒューマン誕生 - コンピュータが人類の知性を超えるとき, NHK出版, pp33, 2007.
^ a b カーツワイル p.151
^ 2017/03/17 平木敬教授 最終講義「計算機を創る」 ^ “シンギュラリティとは？2045年問題や社会への影響について解説｜Udemy メディア ”. Udemy メディア . 2024年8月16日 閲覧。 ^ 映画『トランセンデンス』公開記念 WIREDスペシャルページ「2045年、人類はトランセンデンスする？」 , http://wired.jp/special/transcendence/ ^ a b プレシンギュラリティ到来まで「あと5年」-シンギュラリティ-#09 CATALYST
^ a b https://web.archive.org/web/20170714232859/https://www.fujitsu.com/jp/group/fjm/mikata/column/fjm4/001.html
^ 【経営者様・経営幹部様向】時代を先取る経営トップセミナー（東京開催） 開催概要：開催日時 2017年04月20日、プレシンギュラリティ（社会的特異点）と経営環境の激変 富士通^ http://www.nira.or.jp/pdf/201708report.pdf ^ 齊藤元章 『エクサスケールの衝撃』 PHP研究所、2014年、506-518頁。
^ “「スパコン」ベンチャー社長逮捕 助成金詐取容疑” . 日本経済新聞 . (2017年12月5日). https://web.archive.org/web/20171205194654/https://www.nikkei.com/article/DGXMZO24265320V01C17A2CC0000/ 2017年12月5日 閲覧。 ^ “スパコン助成金詐取 前社長に懲役5年判決、東京地裁” . 日本経済新聞 . (2020年3月25日). https://web.archive.org/web/20200326191431/https://www.nikkei.com/article/DGXMZO57202170V20C20A3CC1000/ 2020年4月10日 閲覧。 ^ https://hillslife.jp/innovation/2019/07/16/singularity-and-superintelligence/ ^ https://www.asahi.com/articles/ASM1044TRM10PLBJ002.html ^ Schlaefli, Samuel. “「人間は既にサイボーグのような存在」 スイスAI研究所シュミットフーバー氏に聞くAIの未来 ”. SWI swissinfo.ch . 2019年12月19日 閲覧。 ^
Thornton, Richard (1847), The Expounder of Primitive Christianity 4 , Ann Arbor, Michigan, p. 281, https://books.google.co.jp/books?id=ZM_hAAAAMAAJ&dq=%22Primitive+Expounder%22+thornton+1847&pg=PA281&redir_esc=y&hl=ja#v=onepage&q=thinking%20machine&f=false
^ A M Turing, Intelligent Machinery, A Heretical Theory , 1951, reprinted Philosophia Mathematica (1996) 4(3): 256-260 doi :10.1093/philmat/4.3.256
^ The Technological Singularity by Murray Shanahan, (MIT Press, 2015), page 233
^ Ulam, S., Tribute to John von Neumann, Bulletin of the American Mathematical Society, vol 64, nr 3, part 2, May, 1958, p1-49.
^ The Coming Technological Singularity. 2008年3月14日 ^ リストはカール・セーガン、ポール・D・ボイヤー、ブリタニカ百科事典、アメリカ自然史博物館、アリゾナ大学他。レイ・カーツワイル編集。
^ レイ・カーツワイル, ポスト・ヒューマン誕生 - コンピュータが人類の知性を超えるとき, NHK出版, pp28, 2007.
^ テスラCEOが新会社、脳とコンピューター融合へ ウォール・ストリート・ジャーナル日本版 記事:2017年 3月 28日^ 2045年問題 松田卓也 (著)
^ 「マース=ガロー・ポイント」: 七左衛門のメモ帳 Kevin Kelly による "The Maes-Garreau Point" の日本語を掲載。^ http://wba-initiative.org/1653/ ^ 全脳アーキテクチャ勉強会 第1回（山川） 2013.12.22 ^ “ＪＡＬ、想定超すＡＩ効果 新システムで一転増益も” (日本語). 日本経済新聞 電子版 . https://www.nikkei.com/article/DGXMZO34784730Q8A830C1000000/ 2018年8月31日 閲覧。 ^ 今起きているのは｢計算｣の大革命。コンピューター教育を変えるかもしれない｢計算パラダイム｣の考え方とは ギズモード・ジャパン 2019.12.24.^ 計算機科学：人工知能がコンピューターチップの設計をスピードアップ Nature 2021.6.10.^ 「これは世界を変える」 画像生成AIブームの火付け役が見いだした、その可能性 ダイヤモンド・オンライン 2022.9.7 ( ^ 最強将棋AIが新境地へ、DeepMindのAI「AlphaTensor」が50年以上停滞していた行列乗算アルゴリズムの改良に成功 GIGAZINE 2022.10.6.^ @lotz84_ (2022年10月13日). "この前DeepMindが出した行列掛け算アルゴリズムを解くAIに対抗して人間がもっと速いアルゴリズムを作ってきたｗｗｗ" . X（旧Twitter） より2022年11月30日閲覧 。 ^ ASCII. “超話題の人工知能ChatGPTに“小説”や“詩”を書いてもらい、“プログラム”は実行してみた ”. ASCII.jp . 2023年4月2日 閲覧。 ^ 日本放送協会. “AI「ChatGPT」とは プログラミング 小説執筆 学校の宿題もできるの？ | NHK | News Up ”. NHKニュース . 2023年4月2日 閲覧。 ^ (日本語) 【落合陽一のシンギュラリティ論】シンギュラリティは2025年に来る／ディフュージョンモデルの衝撃／知的ホワイトカラーが没落する／最新版デジタルネイチャー／音楽と論文が数秒でできる , https://www.youtube.com/watch?v=j2TbvmXN_Y4 2023年4月2日 閲覧。 ^ 浩紀, 東. “(3ページ目)落合陽一、ハラリは「夢想的で危険」東浩紀が斬る“シンギュラリティ”論に潜む“選民思想” ”. 文春オンライン . 2024年8月16日 閲覧。 ^ a b “世界的に遅れているAI開発--原因はデータ不足？ ”. ZDNet Japan (2018年11月5日). 2023年4月2日 閲覧。
^ “ディープラーニングはすでに限界に達しているのではないか？【前編】 | 人工知能ニュースメディア AINOW ”. AINOW (2019年2月17日). 2019年6月24日 閲覧。 ^ “2026年までにAIのトレーニングに使うデータが枯渇する「データ不足問題」とは？ - GIGAZINE ”. gigazine.net (2023年11月8日). 2024年8月30日 閲覧。 ^ Nast, Condé (2020年7月28日). “AIの進歩は頭打ちに？ このままでは「膨大な計算量」が壁になるという研究結果が意味すること ”. WIRED.jp . 2024年1月25日 閲覧。 ^ “AIのエネルギー消費に関する雑感（その１） – NPO法人 国際環境経済研究所｜International Environment and Economy Institute ”. ieei.or.jp . 2023年11月28日 閲覧。 ^ “AIのエネルギー消費に関する雑感（その２） – NPO法人 国際環境経済研究所｜International Environment and Economy Institute ”. ieei.or.jp . 2023年11月28日 閲覧。 ^ “グーグル出身者ら設立の「サカナＡＩ」、ＮＴＴが出資…日本発で海外巨大ＩＴに対抗 ”. 読売新聞オンライン (2024年1月24日). 2024年1月25日 閲覧。 ^ “人間より有能なAIの存在は｢幻想｣に過ぎない ”. 東洋経済オンライン (2016年8月29日). 2023年12月3日 閲覧。 ^ “講談社選書メチエ ＡＩ原論―神の支配と人間の自由 ”. 紀伊國屋書店ウェブストア｜オンライン書店｜本、雑誌の通販、電子書籍ストア . 2023年12月2日 閲覧。 ^ “人間より有能なAIの存在は｢幻想｣に過ぎない ”. 東洋経済オンライン (2016年8月29日). 2023年12月4日 閲覧。 ^ 『純粋人工知能批判--コンピュータは思考を獲得できるか』
^ Clocksin, William (Aug 2003), “Artificial intelligence and the future”, Philosophical Transactions of the Royal Society A 361 (1809): 1721-1748, doi :10.1098/rsta.2003.1232 , PMID 12952683 . ^ http://longbets.org/1/ ^ Ray Kurzweil does not understand the brain ScienceBlogs. 2010.08.17.^ 武田修三郎 (2011). 崩壊するエネルギー文明：再点検 . 宣伝会議. p. 21-29. ISBN 978-4-88335-255-5 ^ John Michael Greer, John (2015). After Progress: Reason and Religion at the End of the Industrial Age . New Society Publishers. p. 128-130 ^ http://memo7.sblo.jp/article/20584487.html ^ Ford, Martin, The Lights in the Tunnel: Automation, Accelerating Technology and the Economy of the Future ISBN 978-1-4486-5981-4
^ Markoff, John (2011年3月4日). “Armies of Expensive Lawyers, Replaced by Cheaper Software” . The New York Times . http://www.nytimes.com/2011/03/05/science/05legal.html ^ “Joseph.A.Tainterの『崩壊』に関する考察 ”. 2016年4月10日 閲覧。 ^ Tainter, Joseph (1988) "The Collapse of Complex Societies Archived 2015年6月7日, at the Wayback Machine ." (Cambridge University Press)
^ “Measuring Innovation in an Accelerating World: Review of "A Possible Declining Trend for Worldwide Innovation," Heubner, TF&SC 2005 ”. accelerating.org . 2024年1月12日 閲覧。 ^ a b c d e f http://memo7.sblo.jp/article/34660929.html
^ a b “Tech Luminaries Address Singularity - IEEE Spectrum ”. Spectrum.ieee.org. 2011年9月9日 閲覧。
^ Horgan, John (2008). The Consciousness Conundrum . http://spectrum.ieee.org/biomedical/imaging/the-consciousness-conundrum/0 2008年12月17日 閲覧。 ^ John Michael Greer, John (2012). Apocalypse . quercusbooks. p. 171-3,179. ISBN 978-1-78087-040-3 ^ 2014年12月3日付 英フィナンシャル・タイムズ紙
^ https://www.nikkei.com/article/DGXMZO80435640T01C14A2000000/ 日本経済新聞^ a b c http://gizmodo.com/experts-warn-un-panel-about-the-dangers-of-artificial-s-1736932856
^ a b https://www.youtube.com/watch?v=W9N_Fsbngh8
^ a b http://www.techtimes.com/articles/53180/20150514/robots-will-overtake-human-intelligence-within-100-years-warns-stephen-hawking.htm TECH TIMES
^ https://www.huffpost.com/entry/artificial-intelligence_b_5174265 Transcending Complacency on Superintelligent Machines（ハフィントンポスト）^ a b 機械が人間の知性を超える日をどのように迎えるべきか？――AIとBI 井上智洋 2014.12.16 SYNODOS
^ バラク・オバマが伊藤穰一に語った未来への希望と懸念すべきいくつかのこと ≪ WIRED.jp ^ 「本 › 科学・テクノロジー › 工学 合原一幸ほか 『人工知能はこうして創られる』 」
^ 「本 › ビジネス・経済 › IT レイ・カーツワイル 『ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき』 」
概要 形而上学 社会学 生物学 物理学 核・原子力 フィクション
