06年4月 diary

▼ 粒子加速器の性能が１０ごとに１桁上がるという経験則を表したグラフを「リビングストン曲線」と呼ぶらしい。つまり、技術の性能が指数関数的に上がるのはムーアの法則に限らないのだ。

というか恐らく、あらゆる技術について、その物理法則からくる限界を技術の性能が数桁以上下回っているときは、必ず時間の指数関数で的性能向上するんじゃないかな。

▼ 意識とは何なのかについての私見

１、脳には数秒程度情報を保持しておく機構がある。これをコンピュータになぞらえてレジスタと呼ぶ。生理学的な実体は主に前頭前野である。

２、脳には、長期的な記憶を貯える機構がある。これをコンピュータになぞらえてメモリと呼ぶ。生理的な実体は主に海馬と種々の連合野である。

３、脳には、レジスタを見て次にするアクションを決定する機構がある。より詳しく言うとアクション命令のストックが多数あり、それぞれの命令はレジスタがある条件を満たした時に発動するようになっている。これをここでは仮に命令テーブルと呼ぶ。アクションには筋肉の運動のほかに、レジスタの変更、メモリへの書き込みと読み出しがある。生理的な実体は主に基底核と前頭葉である。

（細かいことを言えば、外界の情報がレジスタに入らず直接基底核を通り筋肉運動をトリガーするルートもある。基底核の命令テーブルは強化学習（報酬を最大化する学習）によって獲得される。）

以上の事実を前提にするとチューリング完全性が現れるのは必然である。

すなわち、レジスタの内容が命令テーブルをトリガーしレジスタの内容を書き換え、それがまた命令をトリガーしてと長大な連鎖として続くことが起こりうる。このループをなす連鎖がチューリング完全性をもつ。このチューリング完全性のループからみて観測することが可能でありかつ、このループから支配することができる脳の作用を総称して「意識」と呼ぶ。これが私の理解である。

▼ 意識のブートアッププロセス

０、感覚から基底核を通って直接筋肉運動を指示するレジスタを介在しない単純な反応が報酬/懲罰により多数獲得される。（乳児レベル）

１、レジスタの介在により、数秒程度の時間的なずれのある刺激-行動の反応関係が学習される。（幼児レベル）

２、ある種の行動は、レジスタをわざと改変することにより、より上手く行うことができる。たとえば、隠れている物にたいして「そこにある」と思い描いて行動するとか、あるいはそこに線が引いてあると思ってそれをなぞるとか。このようにして、レジスタ改変系の命令のレパートリーが増えていく。（小学低学年レベル）

３、レジスタ改変系の命令がある程度以上増えると、どこかでチューリング完全に達する。

４、チューリング完全な系は自分自身のモニタやエミュレートをすることができる。もともとセルフモニタの為に用意された経路もあるが、他の経路も利用できる。スキルを磨くことによりモニタできる情報を増大させていく。

５、チューリング完全性を利用してセルフコントロールを増大させていく。コンピュータのセキュリティーホールなどの例と同様に小さな支配経路であってもそれを一回発見し、支配の手順をルーチンとしてプログラムしてしまえば自由に支配できるようになる。このようにして、チューリング完全性のループは、脳のかなりの機能を支配下に置くことができるようになる。

６、観測できてかつ支配できるループの内側に一度入ったものは分かちがたい一体のように見える。一体の物に名前が与えられる。「意識」と。

ここで、３項のチューリング完全性の獲得はまったく不思議なことではない。マイクロプロセッサやプログラミング言語にいつまでも拡張を加えて続けていくと必ずいずれチューリング完全に達する。その拡張が如何に無秩序であり如何に無定見であっても必ずチューリング完全になる。ならない方が難しい。

ここでいう「スキルを磨く」とは強化学習によって、さらにアクション命令が獲得されてより適応的になっていくことを意味する。

▼ 要約すれば、 意識とは脳の中に発生したチューリング完全性の核が脳を観測し、さらに脳を支配したその全体である。このチューリング完全なマシンは命令を強化学習によって獲得している、ということ。

これで前に書いた：

実は脳の中には、状態を格納するレジスタとその状態遷移を記述するテーブルと見なすことが出来る構造があって、それは計算論的にはチューリングマシンを包摂する話を書きたいんだけど暇が無い。

031021

個人的には脳は計算的にかなり浅いと思っている。

そして、計算的に有限の深さしか持っていないのは不都合だからそこに逐次実行機能を付け加えてチューリング完全になるように進化した。この逐次実行機能が我々の意識だと考えている。

051029

▼ 言語は意識を成立させるために必要か？

意識の本質を状態と状態変更命令のチューリング完全性と捕らえると、我々が普通考えているような意味の言語は必要無い。

しかし、チューリング完全性は、状態変更の連鎖が無限に続けられることが必要な条件である。人間は初めてかろうじてチューリング完全に達した生き物であり、この連鎖は極めてか弱く途切れやすい。そこを言語を使ったスキルによって繋いでいる。（「よし、次はXXするぞ」とかの内声。）したがって、人間について言えば、言語を失えばチューリング完全性は失われる。

また、現実に直接の対応物のない抽象的なものの符号をつくり出す能力がなければチューリング完全ではあり得ないだろう。この抽象的心像の生成と符号化の能力は言語能力のサブセットであるが、これは最低限必要だろう。我々の場合は符号は音声と結びついている。

▼ 意識とはチューリング完全なマシンに過ぎないという以上の論は単純化しすぎのような感じがしないでもない。 しかし、科学と言うのは間違っていても良いから一度単純な命題を立ててみなければ進まない物である。だからあえて単純化の危険を犯してみることにしよう。

さて、もし意識の本質は「チューリング完全性」に過ぎないとしたら、意識にはコンピュータと同じことしか出来ないのではないかという反問が可能であろう。しかし、人間にはコンピュータには出来ないこといろいろできる。これはどうしたことだろう？

そこで、人間の脳には出来て、コンピュータに出来ない「脳のすごい所」というやつで良く議論されるものを挙げてみよう。

例えば、我々はリンゴとミカンの識別をなんなくすることができるが、コンピュータにはできない。人の顔を区別することも同様である。（限定した条件ではコンピュータにもできるけど、照明が変わったり眼鏡をかけたりするとすぐに出来なくなったりする。） 我々は体を精妙に動かし、複雑な運動を行うが、コンピュータはやっと歩くことだけならできるようになった程度。

数学の定理証明や将棋のような、記号化された世界ですら、人間にはかなわない。

さらには意志をもち、なにかを成し遂げることができる。 直感を持ち論理で解けない問題に対処することができる。 そして愛したり憎んだりする。 こんな事はコンピュータにできるだろうか？

というのが、おおかたの所だろうが、考えてみてほしい。これらの能力の最も中核的なところには意識は介在していない。

我々は、自分がどうやってミカンとリンゴを視覚的に区別しているのか知らない。単に区別できるだけだ。人の顔も同じ。色覚の恒常性などの性質になると、そもそもそのような補正が自動的に行われていることに気付きすらしない。 また運動についても我々は、自分の筋肉運動がどのようにプログラムされているか、しらない。むしろ、そう言うことを考えはじめると足はもつれ、ボールは的を外す。

数学の定理証明や将棋は可能な組み合わせが非常に速く発散するので、コンピュータには無理なのだが、人間はどうか。いろいろと考えるのは意識だしそれで問題が解ける時もあるが、難しい問題では最後に急に証明法が思い浮かんで、それが何故なのかは分からない。ここでもコンピュータにくらべた優位性は意識以外のどこかにある。

意志は、つまり何かをする気と言うのは自然に起こることであって、意識的な思考からうまれる物ではない。意識的に起こすことも可能だが、ではその「意識的に起こそう」という意志はどこから生まれたのか、それも意識かも知れないが、無限に退行することはあり得ない。

「直感」は内観的過程として合理化できないことを正当化したい時に使う言葉だ。 そして、愛や憎しみは何故どこからそれが来るのか我々は知らない。

このように「コンピュータには出来ないこと」とされている事柄を検討していくと、どれも意識にもそれができない事が分かる。意識が意識外の機構を使ったり、意識が使われたりしているだけのように見える。ならば、実は意識というやつはコンピュータ程度の事しか出来ないのではなかろうか？

▼ ----意識とは脳の中に発生したチューリング完全性の核が脳を観測し、さらに脳を支配したその全体である。----

とする以上の議論はある意味で、「意識とは何か」という疑問に答えていない。そうではなく、「意識」という言葉の意味を操作的に定義しているのだ。

このために、ここで議論した意味の「意識」が誰かが考える意識の欠くことの出来ない重要な一部または性質と考える何かを落としている可能性はある。

科学にはこういうことが良くある。操作的に定義することによってもともとの考えた物とは違う物になってしまうということが。例えば「仕事」とかの用語のように。 しかしその操作的な定義が上手く出来ていればそれ以前のナイーブな観念よりも実りが多くなる。

▼ ニューロンは多次元のベクトルxを受けて一次元の出力yを出すものだとモデル化できる。学習とはyの値が最も望ましい値からずれている時にxからyへの写像を変更することである。この際、yがどの程度どの向きにずれているかの信号Δyが必要とされる。

そして、ベクトルxはニューロンの樹状突起、つまり細胞体から遠い所に入力される。可塑性のあるシナプスはxが入力のするところにあるので、Δyは細胞体から遠いところまで伝達される必要がある。このΔyを伝達する方法については幾つかの方法があり得る。

1) 特別な拡散の速いneurotransmitterを使う方法。
例えば、線条体におけるドーパミン。この場合拡散してしまうので、多くのニューロンが同じΔyを受け取る場合に適している。

2) 誤差信号Δy専用の別な細胞の軸索を用意する。
例えば、小脳プルキンエ細胞に対する登上繊維。

3) 当のニューロンの中を逆行する電気、化学的シグナルを利用する。
Δyがyの関数になるような学習に適している。

さて、ここで3)の場合でさらにΔyがyの関数にならないような場合について考えてみる。 この場合、

i) 化学シグナルとして軸索を逆行するという方法。
ii) ニューロンがΔyに比例する発火をして電気的シグナルとして軸索を逆行する方法。

がある。速度が必要な場合はii)を取りたいが、するとニューロンはyに比例して発火するモードとΔyに比例して発火するモードを持たなくてはならない。 そのとき、yとΔyを当のニューロンや後段は区別しなくてはならない。そのための方法としては、基準振動に対する相対的な位相で区別するというメカニズムががあげられる。ちなみにγ以外の振動はどれもこの目的のためには周波数が低すぎるので、候補として考えられるのはγ振動である。

ただ、この方法はフェーズの悪いときの入力に対しては次の周期まで待たなくてはならないので出力が遅れると言う欠点がある。これを解決する方法は

a) 脳全体でパイプライン化してγを同期させることにより、latencyは小さく押さえる。
b) 特に入力信号がないときは振動を止めて、入力があってから振動を始める。

などの方法が考えられる。脳では長距離のγの同期はほとんど観測されないので、a)はなさそうに思われる。

▼ カーゴ・カルト・サイエンス(radium software)のファインマンの言葉は上手いなと感じる。カーゴカルトは何かという事をいきいきと書いたうえに、そして似非科学についてズバリと指摘すると言うことを短い文章の中で同時にやっている。

……南海にはカーゴ・カルトを信仰する人々がいる。戦争の間，様々な物品を積んだ飛行機が現れるのを見た彼らは，また同じことが起きて欲しいと考えている。そこで彼らは滑走路のようなものを仕立て上げて，その脇にかがり火を焚き，木の小屋の中に人を座らせ，頭にはヘッドフォンのような木片と，アンテナのような竹の串を立て ― 要するに彼は管制官なわけだ ― そして飛行機が訪れるのを待ち続けた。彼らは全てを正しく行っている。形は完璧だ。以前見たものと全く同じに見える。しかしそれは上手くいかない。飛行機は降り立たなかった。そのようなわけで，私はこれら（註：この直前に言及していた擬似科学について）をカーゴ・カルト・サイエンスと呼ぶ。彼らは，外見上の決まり事や，科学的な研究の形式を守ってはいるが，飛行機が降り立たない理由と同じ「本質的な何か」を見失ってしまっている。

▼ カーゴカルト型脳理論 (03年５月５日)

脳の理論もコンピュータと同様に、仕様、アルゴリズム、実装の三階層で理解される訳だけど、脳の実装をまねたら脳のアルゴリズムや機能が降臨すると考えるのが「カーゴカルト脳理論」。

▼ジャパネット高田社長は1948年生まれ。

▼ 簡単なCD-ROMの破壊法：

CD族の弱点は読み出し面ではなく、ラベル面だ。ラベルの薄いペンキのすぐ下は記録部分。

1. ラベル面に幾筋かカッターで切れ目を入れる。
2. ガムテープをラベル面にはり剥がすと記録層まできれいにはがれる。

▼ 毎年この時期になると新卒学生の就職に人気の業界はこれだ！とか不人気はここだ！とかという記事を見かける。しかしその手の話を聞くと私はいつも以下の話を思い出してしまう。（情報源を忘れてしまったが。）

ある有名なスポーツ雑誌は呪われているという不吉なジンクスがささやかれていた。その雑誌の表紙に載った選手は必ずスランプに陥るのだという。 エセ科学や非科学を排撃する活動をしていたある科学者は「そんな事があるはずが無い」と思ってきちんと調べてみた。すると驚くべきことに本当にスランプに陥る選手が多かったという。

この雑誌は呪われているのだろうか？

もちろんそんなことはない。要するに雑誌の表紙に載るのは、その選手が運が良くて実力以上に良い成績を挙げたときや、その選手の絶頂期などなわけだから、その後に下落を経験するのは当たり前なのだ。

と、いうような話だ。

就職人気上位の業界/企業というのは表紙に載った選手と同じことで、これから後の長い下落を経験する確率が高いのじゃなかろうか。

▼ 実は上はこれを見て書きたくなったんだけど：

あるパーティーで、定年間際の部長エンジニアが漏らした言葉が忘れられない。

　「30年前に入社した頃は、この業界の将来性に魅力を感じていましたよ。無我夢中でやってきた自分の足跡には誇りもあります。でも、自分の子供には勧めません。もう一度、昔に戻れるなら違う職業を選ぶでしょうね」

（ 東大で電子工学の人気が急落中より）

就職してから定年まで40年くらいあるわけで、40年前の花形産業が今どうなっているか考えれば、人気の企業に就職するのが賢いとも限らないような気がする。

▼ cipher設計上これから考えなくてはならないこと：

• object指向っぽいコーディングのためにcall by referenceを導入すべきか
• 関数呼び出しの機構を単純化/高速化できないか
• 関数の引き数の個数は静的に解決したい
• call/ccの代わりに大局脱出とforkを導入
• 引き数をevalしない関数とマクロの関係は何か？
• 継承などのobject指向機能はsecond classとして実現するつもりだが、 そのためにまだ不足している機能はないか？
• optionalな型指定の文法はどのようにするべきか。型推定はどの程度行うか。
• 静的型のcipherの別versionを作ることは可能か

▼ 書籍編集者の裏ブログより、 持ち込み小説の直しについて

どんなに力作でも、問題点はあります。そこをできる限り、修正してから刊行したいのは編集者の倫理です。ただ、書いたご本人からすれば、「そこは、抜き差しならない理由があってそうしているんだ」というような理屈があることがあります。そこでの戦いになります。私の経験上、こうした編集者と書き手の内容に関するぶつかり合いは、著者が完全に納得しなければ、書き直してはダメです。「直しゃあ、本にしてくれるんだろ」的な直しは、必ず、改悪の方に進みます。編集者の要請に納得できないなら、直さない方がよいのです。勿論、それが理由で、刊行されず、没になることもありますが。

ああ、これ論文の直しと同じだなあと思って面白かった。共著者や査読者に言われて「はいはい、言う通りにしてやりますよ」とかやると大抵は悪くしかならない。
とはいえ、そもそも何して欲しいかは分かっても何故なのか分からないような査読者の要求があって正直こまることも多い。

▼ On Making the Right Choice: The Deliberation-Without-Attention Effect
Ap Dijksterhuis, Maarten W. Bos, Loran F. Nordgren, Rick B. van Baaren,
Science 17 February 2006: Vol. 311. no. 5763, pp. 1005 - 1007

面白い。多数の項目が関わる意志決定ではあんまり考えない方がよい決定をする傾向があるというはなし。

脳は変数の数が多い時の確率論をズバリ解く力を持っているんだけど、意識は確率のような連続量や多変量の取扱いが下手で、意識が変に出しゃばってくると脳のそういう能力を邪魔する傾向があるんだというのが私の解釈。

▼ Hawking radiationは黒体輻射と同じであると言う事をふと思い出した。しかし黒体輻射と言えば単にスペクトルがプランク分布になっているだけでなく状態が混合状態でなければならないはずだが、確かに混合状態であるのはどうしてだったか思い出せないのでちょっとだけ調べてみた。

まず、Hawkingの1975のComm. math. phys 43, 199- をちょろっと読み直したかぎりスペクトル分布だけが導出されていて、混合状態であることの証明は無いようだ。見落としたのかも知れないけど。

で混合状態であること自体が本当なのかちょっと疑問に思ったが、 いわゆるblack holeのinformation loss問題への言及が常に混合状態であることを前提にしているので、これは確立していると考えてよいようだ。

でも、純粋状態であると主張している人もいるみたいだ：
Hawking radiation from decoherence, Claus Kiefer, 2001 Class. Quantum Grav. 18 L151-L154

今日はここまで。

▼ AppleはMacのIntel CPUへの移行の際にClassic環境を捨てる気らしい。 うーむ。私は困る。

私がまだMac OSを使っているのは１０年前に買ったり集めたりしたソフトが何十もあってそれが使えていて、仕事に充分だからである。買い直せば20万以上になるんじゃないかな。

たとえば以下に「ジョエル・オン・ソフトウェア」326ページから引用するけど、Windowsは馬鹿じゃないかと思うくらい互換性には気を使って、ユーザの投資を保護している。

彼によれば、SimCityには致命的なバグがあった。それはメモリを解放したすぐ後にそのメモリを使うというバグで、DOSではたまたま上手く動いていたのだが、解放されたメモリがすぐ別の実行中のアプリケーションに取られてしまうWindowsにおいては動かなかった。
（中略）
そのバグを見つけ、そうしてSimCityが実行されているかどうかをチェックする特別なコードをWindowsに追加して、SimCityが動いている時には解放したメモリを使い続けられる特別なモードでメモリアロケータが実行されるようにした

こういうのは特別な事では無く、これを多数のアプリに対してやっているらしいことが同書には書かれている。 それからradium softwareの記事にもそのことについて書いてある。

そういうところはWindowsを見習って欲しい。実際Classic環境エミュレータを動かし続けるくらいはAppleにとって極めて小さな手間に過ぎないのに。