著者
ジェフ ホーキンス Private or Broken Links
The page you're looking for is either not available or private!
カテゴリ
Science
発行日
2022-04-20
読書開始日
2024-04-08
3選
- 新皮質の部位はどれも同じ原理で働く．私たちが知能と考えるもの– 視覚から触覚，言語，高次の思考まで– すべて，根本的に同じなのだ．運動野に本質的に運動であるものはないし，視覚野には本質的に感覚であるものはない．「何とつながっているか」が機能を決める．（新皮質の全体構造は無作為ではない．その大きさ，領域の数，領域がどうつながるかは，おもに遺伝子によって決まる）by マウントキャッスル
- 遺伝子にとって良いことが個人にとって良いとは限らない．たとえば，遺伝子の視点からすると，人間の家族はみずからが養えないほど多くの子供をつくってもかまわない．たしかに，子供が餓死する年もあるかもしれないが，そうならない年もある．遺伝子の立場からすると，たまに子供が多すぎる方が，少なすぎるよりいいのだ．一部の子供はひどく苦しみ，親は苦労し悲嘆するが，遺伝子は気にしない．私たちは個人として，遺伝子の要求に役立つために存在している．
- 新皮質は世界のモデルを学習するが，モデルそのものには目標も価値観もない．私たちの行動を導く感情は，古い脳によって決まる．（中略）知能そのものは無害だ．私たちが恋に利己的な衝動や動機や感情を組み込まない限り，知的機械は私たちの生存のリスクにはならない．
メモ
神経科学者，起業家である著者は，この本で様々なテーマに挑戦する．キーワードは「皮質コラム」．脳の新皮質に存在するこの細胞組織は，従前１区画で「〜〜野」のように呼ばれ，それが１ユニットとして何かの機能を保有すると考えられていたが，マウントキャッスルはこれを（謙虚に）否定し，皮質コラムの機能を特徴づけるのはそのコラムが別のどのコラムと繋がっていたか，あるいはどのような感覚入力と接続していたか，によるものらしい．そして，その領域の大きさ，数，どこと接続するかというものは主に遺伝子によって決まるという．
遺伝子は非常に独善的だ．独善的過ぎてサイコパス．リチャード・ドーキンスの利己的な遺伝子をなぞる内容で新しいものは特にないが，私たちは遺伝子の乗り物にすぎない，という事実を突きつける．
そして，遺伝子が操作するのは新皮質ではなく，対照的な「古い脳」だ．古い脳が提案する目標や価値観（例えば，食欲や性欲）に従って新皮質は例えば近くにあるエサ場を考えたり，眼の前の女性を観察して，かける言葉を考える．新皮質はいつも「古い脳」とやり取りして，「古い脳」の要求に仕えている．
これを読んだ時に「スマホだ」と思った．私たちはスマホに対してもそのように振る舞う．「お腹が空いたから星3.5以上の近くのレストラン」をググる．これは自分の要求に対して，スマホに目標解決させている．私たち現代人がスマホやコンピュータを手放せないのは，自分の新皮質の拡大領域のように考えられるからだろう．自分の中の「古い脳」は「これは便利なものを手に入れた！シリコン製の脳だ！」と喜んでいることだろう．実際，私たち21世紀人の殆どはこれまでのどの時代の人たちよりも幸福だと言って差し支えないだろう．
新皮質，コンピュータといった拡大領域に対する渇望は，やがてサイボーグ化へと繋がっていくだろう．著者もそうした議論に向き合っているが，残念ながら議論の進め方は些か粗暴に感じる．「脳みそのアップデート」を実務的に実施する際に，「生物学的あなた」と「コンピューターに移植されたあなた」が分離すると「あなたは二人いる」瞬間が存在する，だからこれはできない，と主張する．こういうのはDevOps業界ではCD(Continuous Deploy)として一種のベストプラクティスが構築されており，ここでの目指す形はおそらく Green-Blue パターンと思う．つまり，複製されたあなたを用意しておき，ある一点でのスイッチングによって意識を全て新しい方向へ一度に移行することだ．ソフトウェアのデプロイ実務に関与していれば良く知られたことだが，著者はそうではないことが明らかになった． 他にも著者は，コンピューターと人間の融合計画も完璧な融合とはならない，と一刀両断しているが特に強い根拠があるわけでもなさそうだ．
著者が大きく勘違いしている可能性があることとして「皮質コラムの座標系」に対応するものはAIに搭載していない，この点でAIは脳に劣っているとしている立場だが，はっきり言ってこれはベクトルDBのことだと思う．LLMの登場で一気に有名になったこのデータベースプロトコルは，これまでのリレーショナルデータベースとはかなり様子が異なっており，格納するのはベクトルデータをキーに，任意のバリューを持つ．ベクトルのキーはコサイン距離を計測することでクエリ時に最も近いキーをスコア付きで返すことができる．座標系そのものである．この本にはAI分野の監修は入っている？
「何かの完璧なモデルを学習するには，格子細胞と場所細胞の両方が必要だ．格子細胞は位置を特定して動きを計画するための座標系を作る」
格子細胞はTokenizerだろう．LLMなら，入力した文章を適当な長さでトークン化する．このトークンに対して対応するキーがベクトルデータとしてベクトルデータベースには格納されているはずだ．
ところで，脳の冗長性には目を見張る物がある
ニューロンは一つのシナプスだけに依存しない．パターンを認識するのに３０のシナプスを使う．たてそのシナプスのうち10個が欠けても，ニューロンはパターンを認識する．ニューロンのネットワークはけっして1個の細胞だけに依存しない
単一障害点絶対作らないマン！！ システム開発者としては見習っていきたい．
著者は，神経科学やAIの問題だけでなく，「女性地位向上」や「（遺伝子の立場を考慮して）恒星間航行の必要性」を説く．正直，どちらも現実に携わったことはなく雰囲気で話しているように思える．
（自称）賢い解決策「あらゆる女性が確実に，自分の妊娠力を制御する能力をもち，望むならその選択権を講師できる権限をもつようにすることである」
遺伝子はできるだけたくさんの場所に広めようとするため．遺伝子を広めて保存するため，恒星間航行を考えなければならない．
本書は，最初マウントキャッスルの新皮質の発見がくどすぎるぐらい説明があった後，一瞬のAIのアウトラインがあり，あとは生命倫理や哲学論議が少しあり，大部分は著者の立場を著述しているだけであまり良い内容とも思えなかった．洋書特有の，本筋と関係ない長い話が割と多め．