Perceptron (1958年)（パーセプトロン）

Perceptron (1958年)

概要

Perceptron は1958年Frank Rosenblatt (1928-1971・Cornell University 心理学教授・後IBM AFCRL Research Lab) が開発した世界初のニューラルネット学習アルゴリズムでMark I Perceptron ハードウェア (1960年Cornell Aeronautical Laboratory・400光検出器+512モータ駆動可変抵抗・米海軍研究予算)・線形分離可能パターン認識 (2クラス分類)・「Rosenblatt's Perceptron Learning Rule」(2層ニューラルネット用学習則・誤差を重みに反映)・1969年Marvin Minsky・Seymour Papert「Perceptrons: An Introduction to Computational Geometry」論文でXOR 問題 (排他的論理和) を線形分離不能と指摘でAI 第1冬入り (1969-1986年)・但し1986年Backpropagation 再発見 (Rumelhart・Hinton・Williams・「Learning Representations by Back-propagating Errors」Nature 論文) で多層パーセプトロン (Multi-Layer Perceptron・MLP) として復活し全Deep Learning (CNN・RNN・Transformer・GPT) の祖先となった歴史的アルゴリズム。

主な特徴・仕組み

• 発表: 1958年Frank Rosenblatt 論文「The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain」Psychological Review
• 開発者: Frank Rosenblatt (1928-1971・Cornell 心理学・後IBM)
• アルゴリズム: 2層ニューラルネット (入力層+出力層)・線形分離可能パターン認識・誤差逆伝播 (Backprop) の祖先
• 学習則: Rosenblatt's Perceptron Learning Rule (重み w += learning_rate × (target - prediction) × input)
• Mark I Perceptron ハードウェア (1960年): Cornell Aeronautical Laboratory・400 光検出器 (画像入力20x20)・512 モータ駆動可変抵抗器 (重み)・米海軍 ONR (Office of Naval Research) 予算
• 歴史的意義: 世界初のニューラルネット実装・現代Deep Learning の祖先
• 後継: Multi-Layer Perceptron (MLP・1986年復活)・CNN (1998年)・RNN (1990年代)・Transformer (2017年)・GPT (2018年-)

Frank Rosenblatt の物語

ニューラルネットの先駆者:

• 1928年生まれ: 米国
• 大学: Cornell University 心理学博士 (1956年)
• キャリア: Cornell 心理学教授・後Cornell Aeronautical Laboratory (Mark I Perceptron 開発)
• 1958年Perceptron 論文発表: Psychological Review・「マシンが学習できる」革命的アイデア
• 1960年Mark I Perceptron ハードウェア完成: 米海軍ONR 予算・新聞「Electronic Brain」と話題化
• 1962年Rosenblatt「Principles of Neurodynamics」書籍: Perceptron 詳細
• 1969年Minsky・Papert「Perceptrons」論文: XOR 問題指摘・Rosenblatt 研究を批判
• 1971年Rosenblatt 没 (43歳・セーリング事故・Cornell から大学院生連れてのトレーニング中)
• 歴史的意義: ニューラルネット研究の祖・現代Deep Learning が Rosenblatt のアイデアを発展

Mark I Perceptron ハードウェア (1960年)

世界初のニューラルネットマシン:

• 開発元: Cornell Aeronautical Laboratory (Cornell University の研究機関・後Calspan Corporation)
• 資金: 米海軍 ONR (Office of Naval Research) ・1960年$10,000 (当時)
• 入力: 20×20 光検出器 アレイ (400 セル)・画像入力 (二値化)
• 重み: 512 モータ駆動可変抵抗器 (ポテンショメータ)・学習で値変化
• タスク: 単純パターン認識 (英字認識・文字「A」と「B」区別等)
• 発表: 1960年Cornell 公開デモ・New York Times が「Electronic Brain」と報道
• 後継: Mark II Perceptron 計画 (実現せず)・現代1958-2024年66年継承

1969年Minsky・Papert「Perceptrons」論文 (XOR 問題)

AI 第1冬入りの引き金:

• 1969年Marvin Minsky (MIT AI Lab・1927-2016) ・Seymour Papert (MIT・1928-2016) 共著: 「Perceptrons: An Introduction to Computational Geometry」MIT Press
• 指摘: Perceptron は線形分離可能問題のみ解決可能・XOR (排他的論理和・「両者異なる時1」) 等の線形分離不能問題は解けない
• 数学的証明: 単層Perceptron はXOR 関数を表現不可能・多層化なら可能だが当時学習アルゴリズム不在
• 影響: ニューラルネット研究停滞・「AI 第1冬」(1969-1986年) 入り・DARPA 等のAI 予算削減
• 皮肉: Rosenblatt も多層化必要性を1962年「Principles of Neurodynamics」で指摘・但しMinsky・Papert がXOR 問題で「Perceptron は限界」イメージ固定
• 後継: 1986年Backpropagation 再発見 (Rumelhart・Hinton・Williams) で多層Perceptron (MLP) 学習可能化・XOR 問題解決・ニューラルネット復活

1986年Backpropagation 再発見

AI 第1冬からの復活:

• 1986年David Rumelhart・Geoffrey Hinton (現代Deep Learning の父・2018年Turing Award)・Ronald Williams 共著: 「Learning Representations by Back-propagating Errors」Nature 1986年10月
• アルゴリズム: 多層ニューラルネットの学習則・誤差を出力層から入力層へ「逆伝播」して重み更新
• 歴史: 1974年Paul Werbos 博士論文で先行・1986年Rumelhart・Hinton・Williams で広く普及
• 意義: XOR 問題等の非線形問題が解決可能・現代Deep Learning の基礎アルゴリズム
• 後継: CNN (1989年LeCun)・LSTM (1997年Hochreiter)・Transformer (2017年Vaswani)・GPT (2018年-) 全てBackpropagation 利用

1958-2024年Perceptron の系譜

66年継承:

• 1958年Perceptron (Rosenblatt): 単層ニューラルネット
• 1960年Mark I Perceptron HW: 世界初のニューラルネットマシン
• 1969年Minsky・Papert「Perceptrons」: XOR 問題指摘
• 1969-1986年AI 第1冬: ニューラルネット研究停滞
• 1986年Backpropagation 再発見 (Rumelhart・Hinton・Williams): MLP 復活
• 1989年CNN (Yann LeCun・LeNet): 畳み込みニューラルネット
• 1997年LSTM (Hochreiter・Schmidhuber): 長期記憶リカレント
• 1998年LeNet-5 (LeCun): 手書き数字認識
• 2006年Deep Learning 命名 (Hinton)
• 2012年AlexNet (Krizhevsky・Hinton): ImageNet 革命
• 2017年Transformer (Vaswani・Google): Self-Attention
• 2018年GPT-1 (OpenAI): 大規模言語モデル
• 2022年ChatGPT (OpenAI): AI 革命
• 2024年GPT-4o (OpenAI): Multimodal AI

関連技術との違い

よくある質問 (FAQ)

Q1: なぜPerceptron が「ニューラルネット研究の起源」と呼ばれるか？ A: (1) 1958年Rosenblatt 論文が初めて「機械が学習できる」アルゴリズムを示した・(2) Mark I Perceptron HW (1960年) で世界初のニューラルネットマシン実装・(3) 後の多層パーセプトロン (MLP・1986年復活) ・CNN (1989年)・Transformer (2017年) 全てPerceptron の延長・(4) 現代Deep Learning の数学的基盤は全てPerceptron 学習則の発展・全要因で「ニューラルネット研究の祖」評価。

Q2: AI 第1冬 (1969-1986年) の影響は？ A: (1) 1969-1986年17年間ニューラルネット研究停滞・予算削減・(2) 1980年代Expert System (Mycin・XCON 等のルールベースAI) が一時的に主流・(3) 1986年Backpropagation 再発見で復活・(4) 1990年代SVM (Support Vector Machine・Vapnik) 等のニューラルネット代替が主流・(5) 2012年AlexNet で完全復活・現代AI 革命に至る・全期間「ニューラルネット研究の冬と春」評価。

Q3: 現代でPerceptron 学ぶ価値は？ A: 大いにあり。(1) 全Deep Learning モデル (CNN・RNN・Transformer・GPT) の基礎・(2) ニューラルネット理論の出発点・(3) Backpropagation の数学的基盤・(4) AI/ML 教科書 (Andrew Ng の Coursera Machine Learning 等) で必ず最初に学ぶ・(5) Machine Learning Engineer の必須知識・新卒/転職市場で重要基礎スキル。

まとめ

• 1958年Frank Rosenblatt 開発・Cornell University
• 世界初のニューラルネット学習アルゴリズム
• Mark I Perceptron HW (1960年Cornell)
• 1969年Minsky 「Perceptrons」XOR 問題指摘
• 1986年MLP 復活で現代Deep Learning 祖先